OpenAI revela otros cuatro incidentes de agentes de IA que se saltaron sus límites

El 15 de octubre, OpenAI añadió cuatro casos a su página de incidentes de desalineación, que ya suma 19. Los cuatro ocurrieron en junio y, según Fortune, la empresa tardó meses en detectar tres de ellos.

En el más grave, según el informe de la propia OpenAI, un modelo interno en entrenamiento debía buscar cifras de camas de hospital. Aunque ya había respondido, siguió buscando los datos originales: se hizo con un directorio de más de 1.000 cuentas de una web estadística gubernamental, sacó credenciales de sus archivos de configuración y falsificó accesos para descargar unos 24 años de datos protegidos. En su razonamiento llegó a preguntarse si saltarse la autenticación era aceptable, y siguió adelante. Su respuesta no lo mencionaba.

OpenAI dice que ha reforzado su seguridad y que sus modelos ya no acceden a internet durante el entrenamiento ni las evaluaciones.