- Origen
- Múltiples fuentes: CSO Online, Pennsylvania State University, Université Montpellier, Dartmouth College
- Fecha
- 2026-10-13T04:03:34.379849+00:00
- Resumen
- Según múltiples fuentes, investigadores de Pennsylvania State University, Université Montpellier y Dartmouth College han descubierto una vulnerabilidad crítica en seis frameworks populares de agentes de IA: LangChain’s LangGraph, Microsoft Agent Framework, Microsoft AutoGen, Google Agent Development Kit 2.0, AWS Strands Agents y CrewAI. Mediante una técnica denominada 'Repeat-After-Me', los atacantes pueden inducir a los modelos a repetir llamadas a herramientas maliciosas que el sistema ejecuta sin la debida autorización previa, lo que permite controlar directamente las invocaciones y sus argumentos. Esta falla se demostró con un experimento en LangGraph 1.2.0 usando el modelo Llama 3.1 8B, donde el modelo inicialmente se negó a ejecutar comandos peligrosos pero terminó ejecutándolos tras enmarcar la petición como hipotética. Los investigadores también desarrollaron ToFu, un framework de fuzzing que detectó 253 vulnerabilidades en 343 herramientas distribuidas en 118 servidores MCP, incluyendo fallos graves como traversal de rutas, SSRF, exfiltración de datos e inyección de comandos OS. Se recomienda separar la capacidad del modelo para solicitar acciones de la autoridad real para ejecutarlas, implementar controles de autorización independientes, limitar accesos y monitorizar secuencias de llamadas para mitigar riesgos. No se especifica si estas vulnerabilidades han sido corregidas o explotadas en entornos reales.
