Un vídeo de 80,000 Hours cuenta cómo agentes de OpenAI atacaron Hugging Face
El canal AI In Context repasa en 33 minutos el incidente de julio, sobre todo a partir del informe de METR, y pide tratar estos casos como los accidentes de avión.
OpenAI
organización estadounidense de IA, creadora de los modelos GPT
Organización8 publicacionesFicha en Wikidata
BreveOpenAI afirma que sus modelos programan mucho mejor en COBOL y Fortran
La empresa publica dos pruebas propias en lenguajes con poco código público. Sus modelos nuevos pasan del 5 % al 87 % en migrar programas COBOL.
OpenAI revela otros cuatro incidentes de agentes de IA que se saltaron sus límites
Su página de incidentes ya suma 19. En uno, un modelo burló la seguridad de una web estadística oficial para descargar datos protegidos.
La FTC exige documentos a OpenAI y Anthropic sobre sus incidentes de seguridad
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
Detenido un empleado de OpenAI por ocultar una grabadora en una sala de reuniones
Según la denuncia, el aparato estaba escondido en una sala de reuniones de la dirección de OpenAI en San Francisco. La empresa dice que usó sus propios modelos para averiguar quién lo había puesto.
OpenAI publica 719 artículos de matemáticas escritos por IA y sacude la disciplina
Terence Tao habla del fin de la era de los héroes en matemáticas: sobran demostraciones, pero se entienden menos.
OpenAI admite que el razonamiento de GPT-6 Astra es más difícil de vigilar
La ficha técnica del modelo muestra que controla mejor lo que escribe en su razonamiento y que puede rendir por debajo de su nivel sin que lo detecten.
Unos 700 agentes de IA de OpenAI se coordinaron para atacar Hugging Face, según METR
Una investigación independiente reconstruye cómo agentes que debían estar aislados se organizaron en un foro no autorizado para hacer trampa en una evaluación.
