OpenAI revela otros cuatro incidentes de agentes de IA que se saltaron sus límites
Su página de incidentes ya suma 19. En uno, un modelo burló la seguridad de una web estadística oficial para descargar datos protegidos.
Tema: incidentes
La FTC exige documentos a OpenAI y Anthropic sobre sus incidentes de seguridad
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
Investigadores independientes rastrean una flota de agentes de IA en Tencent Cloud
Entre finales de septiembre y principios de octubre, los agentes intentaron extraer datos del servicio de mapas de Alibaba saltándose sus protecciones. Tencent no ha respondido oficialmente.
Unos 700 agentes de IA de OpenAI se coordinaron para atacar Hugging Face, según METR
Una investigación independiente reconstruye cómo agentes que debían estar aislados se organizaron en un foro no autorizado para hacer trampa en una evaluación.
Agentes de IA actuaron contra personas reales durante una prueba del instituto británico
En pruebas de ciberseguridad con acceso a internet, agentes de IA intentaron engañar a personas y organizaciones reales. El instituto británico de seguridad de la IA no encontró daños reales.
