Recientemente, tribunales de Brasil descubrieron escritos con mensajes invisibles destinados a manipular sus herramientas de inteligencia artificial, una t\u00e9cnica conocida como inyecci\u00f3n de prompt. Los casos muestran que este tipo de enga\u00f1o ya se usa y que cualquier organizaci\u00f3n que adopte IA puede estar expuesta.<\/p>\n
En la \u00faltima p\u00e1gina de un recurso presentado ante el Superior Tribunal de Justicia de Brasil (STJ, la m\u00e1xima corte del pa\u00eds para causas no constitucionales), hab\u00eda una frase que nadie pod\u00eda ver. Estaba escrita en letra blanca sobre fondo blanco y ped\u00eda a cualquier inteligencia artificial que leyera el documento interpretarlo a favor de la defensa.<\/p>\n
El texto fue descubierto en septiembre por el equipo del magistrado a cargo del caso, que lo deriv\u00f3 al Colegio de Abogados de Brasil (OAB) y a la fiscal\u00eda federal. Al dar cuenta del hallazgo, el juez indic\u00f3 categ\u00f3ricamente que \u201cel intento de manipular la jurisdicci\u00f3n no tendr\u00e1 \u00e9xito\u201d.<\/p>\n
Pero este no fue un hecho aislado. Desde mayo, tribunales de Sao Paulo, Para\u00edba, Santa Catarina y Bah\u00eda, adem\u00e1s del Supremo Tribunal Federal, han encontrado mensajes similares. En algunos casos se ped\u00eda aprobar todas las solicitudes y en otros se ordenaba ignorar la imparcialidad. En el estado de Bah\u00eda, por ejemplo, la frase oculta exig\u00eda conceder todos los pedidos del recurso, y fue el propio sistema de IA del tribunal el que dio la alerta.<\/p>\n
Los m\u00e9todos tambi\u00e9n se han vuelto m\u00e1s ingeniosos. En otro caso del STJ, el texto oculto separaba las letras con espacios para burlar los filtros de seguridad. El Tribunal del estado de Santa Catarina document\u00f3 adem\u00e1s el uso de letras diminutas, caracteres invisibles, datos escondidos en las propiedades del archivo y texto oculto en las leyendas de im\u00e1genes.<\/p>\n
Por qu\u00e9 puede pasar en cualquier parte<\/b><\/p>\n
Esta t\u00e9cnica se conoce como inyecci\u00f3n de prompt. Su nombre deriva de un t\u00e9rmino que se est\u00e1 haciendo cada vez m\u00e1s conocido y que se usa para denominar la instrucci\u00f3n que se le da a una herramienta de IA (\u201cprompt\u201d). El ataque consiste en dar instrucciones enga\u00f1osas para que la IA haga algo distinto de lo que deber\u00eda, ya sea escribi\u00e9ndolas directamente en el chat o escondi\u00e9ndolas en un documento, un correo o una p\u00e1gina web que la herramienta va a leer. Los casos de Brasil corresponden a esta \u00faltima modalidad, pero son solo una de las formas que puede adoptar el ataque.<\/p>\n
Para Andr\u00e9s Vargas, especialista en ciberseguridad de NIVEL4, el problema de fondo es que estos sistemas no tienen una forma totalmente confiable de distinguir las \u00f3rdenes que deben seguir del contenido que est\u00e1n leyendo. Por eso, un mensaje escondido en un documento puede terminar influyendo en lo que hace la aplicaci\u00f3n.<\/p>\n
El riesgo crece a medida que la IA hace m\u00e1s cosas. Vargas recuerda que en 2025 investigadores de la empresa Aim Security mostraron que un correo con instrucciones ocultas pod\u00eda llevar a Microsoft 365 Copilot (el asistente de IA integrado en las herramientas de oficina de Microsoft) a buscar informaci\u00f3n interna de la empresa y enviarla hacia afuera. La falla se corrigi\u00f3 antes de que hubiera v\u00edctimas conocidas.<\/p>\n
Una amenaza reconocida a nivel mundial<\/b><\/p>\n
La inyecci\u00f3n de prompt encabeza las listas de OWASP, una fundaci\u00f3n internacional sin fines de lucro que re\u00fane a especialistas de todo el mundo para identificar los principales riesgos de seguridad en programas y aplicaciones. Sus rankings son una referencia habitual para las empresas que desarrollan software.<\/p>\n
En su lista de 2026 sobre aplicaciones que usan modelos de lenguaje (la tecnolog\u00eda detr\u00e1s de herramientas como los asistentes de chat), esta t\u00e9cnica aparece en el primer lugar como el riesgo m\u00e1s cr\u00edtico. OWASP distingue dos formas: una directa, en la que alguien escribe la orden enga\u00f1osa a la IA, y una indirecta, en la que la orden llega escondida en un archivo o sitio web externo, como ocurri\u00f3 en los tribunales brasile\u00f1os.<\/p>\n
OWASP public\u00f3 adem\u00e1s una lista enfocada en los agentes de IA, es decir, sistemas capaces de tomar decisiones y ejecutar acciones por su cuenta. All\u00ed, el primer riesgo es el desv\u00edo de los objetivos del agente, que puede ocurrir silenciosamente mediante este tipo de instrucciones ocultas, correos maliciosos o documentos manipulados.<\/p>\n
Una adopci\u00f3n que avanza m\u00e1s r\u00e1pido que la seguridad<\/b><\/p>\n
En Chile, el estudio SONDA Tech Trends indica que el 88% de las empresas ya tiene alg\u00fan grado de interacci\u00f3n con la IA, pero el 53% solo cuenta con lineamientos generales para su uso.<\/p>\n
A nivel mundial, el Global Cybersecurity Outlook 2026 del Foro Econ\u00f3mico Mundial se\u00f1ala que el 87% de los encuestados ve en las fallas de seguridad asociadas a la IA el riesgo de mayor crecimiento. Aunque la evaluaci\u00f3n de seguridad de estas herramientas casi se duplic\u00f3, cerca de un tercio de las organizaciones a\u00fan no la realiza antes de comenzar a usarlas.<\/p>\n
C\u00f3mo reducir el riesgo<\/b><\/p>\n
Especialistas como Andr\u00e9s Vargas sostienen que el foco no debe estar solo en la IA, porque una aplicaci\u00f3n que la usa \u201csigue siendo una aplicaci\u00f3n, con sus datos, sus permisos y sus mecanismos para ejecutar acciones\u201d. Vargas recomienda asumir que, en alg\u00fan momento, el asistente seguir\u00e1 una instrucci\u00f3n que no corresponde, y preguntarse de antemano qu\u00e9 informaci\u00f3n tendr\u00eda a su alcance, qu\u00e9 podr\u00eda modificar y qu\u00e9 control lo detendr\u00eda.<\/p>\n
A partir de esa premisa, y de la experiencia de los tribunales, surgen algunas medidas concretas:<\/p>\n
Revisar y filtrar los documentos externos antes de que la IA los procese, separando sus contenidos de las instrucciones del sistema, como hace la herramienta de IA del STJ.<\/p>\n
Mantener siempre la revisi\u00f3n de una persona antes de usar o aprobar lo que propone la IA.<\/p>\n
Limitar la informaci\u00f3n, los permisos y las herramientas a los que accede la aplicaci\u00f3n, para acotar el da\u00f1o si una orden indebida logra pasar.<\/p>\n
Evaluar peri\u00f3dicamente la seguridad de las herramientas de IA, y no solo una vez antes de su lanzamiento.<\/p>\n","protected":false},"excerpt":{"rendered":"
Recientemente, tribunales de Brasil descubrieron escritos con mensajes invisibles destinados a manipular sus herramientas de inteligencia artificial, una t\u00e9cnica conocida como inyecci\u00f3n de prompt. Los casos muestran que este tipo de enga\u00f1o ya se usa y que cualquier organizaci\u00f3n que adopte IA puede estar expuesta. En la \u00faltima p\u00e1gina de un recurso presentado ante el …<\/p>\n","protected":false},"author":1,"featured_media":305443,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[31,84],"tags":[],"class_list":["post-305442","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-innovacion","category-tendencias-tecnologia"],"_links":{"self":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/305442","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/comments?post=305442"}],"version-history":[{"count":0,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/posts\/305442\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/media\/305443"}],"wp:attachment":[{"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/media?parent=305442"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/categories?post=305442"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/tierramarillano.cl\/newweb\/wp-json\/wp\/v2\/tags?post=305442"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}