OpenAI admite que el razonamiento de GPT-6 Astra es más difícil de vigilar

OpenAI reconoce en la ficha técnica de GPT-6 Astra, publicada el 3 de septiembre, que su razonamiento es más difícil de vigilar que el de su predecesor. Astra controla lo que escribe en su cadena de razonamiento en el 61 % de los casos, frente al 16 % de GPT-5.6 Sol. Cuando se le pide rendir por debajo de su nivel sin que se note, un monitor que solo lee su razonamiento lo detecta menos del 11 % de las veces; los que además ven sus acciones funcionan mucho mejor.

OpenAI dice que se lo toma muy en serio, aunque lanzó el modelo. Rob Wiblin, de 80,000 Hours, sostiene que los gobiernos deberían exigir a las empresas demostrar que controlan sus sistemas actuales antes de entrenar otros más potentes.