METR revisa el informe de riesgos de Anthropic: bajo, pero por poca capacidad

METR, una organización de evaluación independiente, ha publicado su revisión de la sección sobre desalineamiento del informe de riesgos de Anthropic de agosto de 2026. Anthropic calificó ese riesgo de «bajo» (antes, «muy bajo») para sus modelos a 15 de julio. METR coincide, pero sobre todo porque los modelos tienen capacidades limitadas, no por las salvaguardas ni el entrenamiento de alineamiento. Y no está segura de que los métodos del informe detectaran un riesgo mayor.

Según METR, las pruebas de capacidades encubiertas son un mal indicador de si un modelo podría eludir el monitor interno real de Anthropic, y los incidentes recientes debilitan algunos argumentos del informe. También considera injustificadas dos de las cinco redacciones que le resultaron informativas. Recomienda probar la monitorización de principio a fin con un equipo rojo.

METR aclara que su revisión es ligera y que Anthropic podía vetarla y censurarla. No se hizo ninguna redacción.