Anthropic propone que el Gobierno de EE. UU. pueda frenar modelos de IA peligrosos

En junio, Anthropic publicó su Marco para la IA Avanzada, una propuesta para que los gobiernos, sobre todo el de Estados Unidos, regulen los riesgos catastróficos de los modelos punteros: armas biológicas, ciberataques, pérdida de control y automatización de la investigación en IA.

Afectaría a modelos entrenados con más de 10²⁵ operaciones de coma flotante, de empresas con más de 500 millones de dólares de ingresos por IA o 1.000 millones de gasto en investigación. Deberían probarlos, publicar resultados, pasar evaluaciones independientes y proteger sus sistemas. El Gobierno podría bloquear o disuadir su despliegue, con multas según la facturación mundial, y el marco plantea salvaguardas, como que solo un juez pueda imponer esas medidas.

Anthropic pide que el Congreso no anule leyes estatales salvo con una ley federal al menos tan estricta como el marco. Según Politico, la empresa dice que su borrador de ley de octubre lo refleja.