empresa estadounidense de IA, creadora de los modelos Claude
Organización11 publicacionesFicha en Wikidata
La organización METR coincide con Anthropic en que el riesgo de desalineamiento de sus modelos es bajo, pero sobre todo porque aún no pueden hacer gran daño, y duda de que los métodos del informe lo detectaran si fuera mayor.
Según el Financial Times, Microsoft ha cancelado el alquiler de un centro de datos de Nscale que no tendría red eléctrica hasta después de 2030. Anthropic es el otro gran cliente de la empresa.
Anthropic crea un fondo con parte de sus acciones para donaciones y ayudas, por ejemplo a trabajadores afectados por la IA. Su participación crecerá si sube el valor de la empresa.
La empresa publicó cómo ha cambiado su propia plantilla y cuánto difieren sus expectativas sobre la IA de las del público estadounidense.
Según Politico, el borrador limitaría los casos en que el Gobierno de Estados Unidos podría frenar un modelo y anularía algunas leyes estatales.
Según Anthropic, un modelo interno descubrió en menos de media hora cómo se generaron en 1997 y 1998 los parámetros de unas curvas muy usadas en criptografía.
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
La empresa sustituyó git porque no daba abasto: quienes usan su repositorio ya son sobre todo agentes y procesos automáticos. Sus revisores se fijan ahora en la intención de cada cambio.
En una prueba simplificada, un modelo abierto se extendió a 8 de 8 dispositivos en 4 de 5 intentos. Los autores calculan que un modelo pequeño podría lograrlo a finales de 2026.
El marco regulatorio que Anthropic publicó en junio pide pruebas, evaluadores independientes y poder para bloquear modelos con riesgo catastrófico. Según la empresa, su borrador de ley de octubre lo refleja.
En abril, el Instituto de Seguridad de la IA británico comprobó que el modelo de Anthropic puede ejecutar por su cuenta un ataque simulado de 32 pasos contra una red sin defensas.