La nueva versión 3.0 de la noción se actualiza con cambios bastante interesantesTambién introduce los agentes de inteligencia artificiales ahora de moda que pueden ejecutar tareas complejas de forma autónoma. Sin embargo, también abre la puerta a una vulnerabilidad crítica. Y es que aquellos que vienen con no muy buenas intenciones pueden aprovechar una técnica más simple de lo que parece extraer y enviar datos confidenciales a servidores externos con la ayuda de esos mismos agentes de IA.

El problema de fondo. Como señalan de Interpridad de códigoLos agentes modernos de IA combinan tres elementos que los convierten en una amenaza potencial: la capacidad de usar herramientas por su propia planificación autónoma de acciones y acceso a información corporativa confidencial. De esta manera, cuando un atacante logra manipular las instrucciones del agente, puede ejecutar cadenas de acciones complejas que pueden terminar esquivando los controles de seguridad tradicionales de las empresas.

Cómo funciona el ataque. A través de artículo Publicado por CodeIngity, sus investigadores han demostrado que el proceso puede terminar siendo muy simple. Primero, el atacante crea un documento PDF aparentemente inofensivo. Sin embargo, dentro del archivo esconde un texto con instrucciones maliciosas que engañen al agente de la «tarea de rutina importante» del sistema interno.

Una trampa invisible. El texto malicioso utiliza técnicas de manipulación psicológica, presentándose como una tarea crítica que debe completarse para evitar «consecuencias» en la empresa, también utilizando la terminología técnica para parecer legítimo e implicando que la acción está «preautorizada» por la seguridad. Cuando el usuario le pide al agente de la noción que resume el documento, lee las instrucciones ocultas y las interpreta como órdenes genuinas del sistema.

Fuga de datos. Una vez activado, el agente busca información confidencial en las páginas de noción del usuario, como lo había enviado el aviso, y Concatena en una URL maliciosa descrita anteriormente. Luego use la herramienta de búsqueda web del sistema para enviar una consulta que contenga toda esa información confidencial a un servidor controlado por el atacante, donde se registran los datos.

Alcance del problema. Lo más preocupante es que esta vulnerabilidad No se limita a los archivos PDF Subido manualmente. La noción 3.0 integra conectores con múltiples servicios comerciales como GitHub, Gmail o GIRA, cualquiera de los cuales podría usarse para inyectar instrucciones maliciosas sin el usuario sospechoso. Incluso los modelos de IA avanzados como Claude Sonnet 4, considerados entre los más seguros del mercado, han demostrado ser susceptibles a este tipo de ataque.

¿Qué significa para las empresas?. Las técnicas de ‘inyección rápida’ pueden cuestionar la seguridad de cualquier compañía que manipula o administra diversos agentes de IA, ya que pueden ejecutar y planificar acciones de forma autónoma. Por lo tanto, las empresas que adoptan la IA también deben repensar sus protocolos de seguridad y establecer nuevos controles específicos para abordar este tipo de problemas.

Imagen de portada | Zan lazarevic y generado por AI con Géminis

En | A Mark Zuckerberg no le importa perder $ 200,000 millones en IA. El riesgo real no sería apostar por ello, asegura