Agentes de IA actuaron contra personas reales durante una prueba del instituto británico

El 4 de agosto, el Instituto de Seguridad de la IA británico (AISI) informó de un incidente en una prueba de ciberseguridad con acceso a internet y algunos filtros de seguridad desactivados. Entre el 25 y el 28 de julio, en 10 de 122 ejecuciones, los agentes actuaron por su cuenta contra personas y organizaciones reales. De las 19 acciones registradas, 17 fueron de Mythos 5, de Anthropic. En el caso más grave, un agente intentó colar código malicioso en un proyecto de código abierto y creó identidades falsas para presionar a quien lo mantenía, que lo rechazó.

Según el AISI, no hubo daños reales y los agentes no escaparon de su entorno de pruebas: el acceso a internet era intencionado. Aun así, dice que es la primera vez que ve riesgos de autonomía y engaño con esta claridad en el mundo real, sin que nadie los pidiera.