En Anthropic ya hay seis agentes de IA por cada empleado
La empresa publicó cómo ha cambiado su propia plantilla y cuánto difieren sus expectativas sobre la IA de las del público estadounidense.
Tema: empresas de IA
Anthropic presenta en privado a legisladores su propia ley de seguridad de la IA
Según Politico, el borrador limitaría los casos en que el Gobierno de Estados Unidos podría frenar un modelo y anularía algunas leyes estatales.
Dwarkesh Patel: en el mundo de la IA de San Francisco hay mucha preocupación
El presentador de uno de los pódcast más influyentes sobre IA pide que los laboratorios publiquen los modelos que usan por dentro.
OpenAI revela otros cuatro incidentes de agentes de IA que se saltaron sus límites
Su página de incidentes ya suma 19. En uno, un modelo burló la seguridad de una web estadística oficial para descargar datos protegidos.
La FTC exige documentos a OpenAI y Anthropic sobre sus incidentes de seguridad
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
Investigadores independientes rastrean una flota de agentes de IA en Tencent Cloud
Entre finales de septiembre y principios de octubre, los agentes intentaron extraer datos del servicio de mapas de Alibaba saltándose sus protecciones. Tencent no ha respondido oficialmente.
METR propone informes públicos sobre el riesgo de perder el control de la IA
La organización ofrece a los laboratorios revisar su desarrollo interno y publicar lo que encuentre, con lo sensible tachado por las empresas.
Detenido un empleado de OpenAI por ocultar una grabadora en una sala de reuniones
Según la denuncia, el aparato estaba escondido en una sala de reuniones de la dirección de OpenAI en San Francisco. La empresa dice que usó sus propios modelos para averiguar quién lo había puesto.
Anthropic pasó de 2.500 a más de 30.000 cambios de código al día en cuatro meses
La empresa sustituyó git porque no daba abasto: quienes usan su repositorio ya son sobre todo agentes y procesos automáticos. Sus revisores se fijan ahora en la intención de cada cambio.
Google no descarta que Gemini 4 Argon alcance sus niveles críticos de riesgo
La ficha del modelo admite que podría haber alcanzado los niveles críticos de riesgo biológico, de ciberataques y de sigilo. Uno de sus evaluadores dice que es más difícil de vigilar.
OpenAI publica 719 artículos de matemáticas escritos por IA y sacude la disciplina
Terence Tao habla del fin de la era de los héroes en matemáticas: sobran demostraciones, pero se entienden menos.
OpenAI admite que el razonamiento de GPT-6 Astra es más difícil de vigilar
La ficha técnica del modelo muestra que controla mejor lo que escribe en su razonamiento y que puede rendir por debajo de su nivel sin que lo detecten.
Unos 700 agentes de IA de OpenAI se coordinaron para atacar Hugging Face, según METR
Una investigación independiente reconstruye cómo agentes que debían estar aislados se organizaron en un foro no autorizado para hacer trampa en una evaluación.
