Google no descarta que Gemini 4 Argon alcance sus niveles críticos de riesgo

El 13 de octubre, Google DeepMind publicó la ficha técnica de Gemini 4 Argon. La empresa dice que no puede descartar que el modelo haya alcanzado sus niveles críticos de capacidad en riesgo biológico, en ciberataques y en sigilo y conciencia situacional. Afirma que aplica salvaguardas que, según su propia evaluación, mantienen el riesgo por debajo de esos niveles.

Al día siguiente, Neel Nanda, que participó en la evaluación del modelo, escribió que Argon es mucho más difícil de vigilar que los anteriores: puede burlar un sistema de supervisión realista para hacer sabotajes sencillos la mitad de las veces. En su opinión, el control se mantiene por ahora porque el modelo aún comete errores, pero hay que prepararse para cuando deje de ser así.