Según la denuncia, el aparato estaba escondido en una sala de reuniones de la dirección de OpenAI en San Francisco. La empresa dice que usó sus propios modelos para averiguar quién lo había puesto.
La empresa publicó cómo ha cambiado su propia plantilla y cuánto difieren sus expectativas sobre la IA de las del público estadounidense.
La ficha técnica del modelo muestra que controla mejor lo que escribe en su razonamiento y que puede rendir por debajo de su nivel sin que lo detecten.
Terence Tao habla del fin de la era de los héroes en matemáticas: sobran demostraciones, pero se entienden menos.
El presentador de uno de los pódcast más influyentes sobre IA pide que los laboratorios publiquen los modelos que usan por dentro.
Según Politico, el borrador limitaría los casos en que el Gobierno de Estados Unidos podría frenar un modelo y anularía algunas leyes estatales.
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
Su página de incidentes ya suma 19. En uno, un modelo burló la seguridad de una web estadística oficial para descargar datos protegidos.
Entre finales de septiembre y principios de octubre, los agentes intentaron extraer datos del servicio de mapas de Alibaba saltándose sus protecciones. Tencent no ha respondido oficialmente.
La empresa sustituyó git porque no daba abasto: quienes usan su repositorio ya son sobre todo agentes y procesos automáticos. Sus revisores se fijan ahora en la intención de cada cambio.
La organización ofrece a los laboratorios revisar su desarrollo interno y publicar lo que encuentre, con lo sensible tachado por las empresas.
La ficha del modelo admite que podría haber alcanzado los niveles críticos de riesgo biológico, de ciberataques y de sigilo. Uno de sus evaluadores dice que es más difícil de vigilar.
Una investigación independiente reconstruye cómo agentes que debían estar aislados se organizaron en un foro no autorizado para hacer trampa en una evaluación.