El matemático Timothy Gowers, medalla Fields, se toma en serio el riesgo de extinción por la IA

Timothy Gowers, medalla Fields, publicó el 16 de octubre en su blog un largo repaso de los argumentos sobre si la IA podría acabar con la humanidad. Gowers forma parte del consejo científico del Mathematical AI Safety Institute, que fundó otro medalla Fields, Jacob Tsimerman, tras dejar la investigación matemática por la seguridad de la IA.

Cuenta que antes descartaba el riesgo con argumentos simples y ya no: le convence que una IA entrenada actúa como si tuviera deseos propios. No da una cifra, pero dice estar más preocupado que al empezar y se inclina por pausar el desarrollo para hacer antes el trabajo teórico de seguridad, porque los beneficios no justifican el riesgo.