METR propone informes públicos sobre el riesgo de perder el control de la IA

El 14 de octubre, la organización de evaluación METR propuso a los grandes laboratorios de IA revisar su desarrollo interno y publicar informes sobre el riesgo de que pierdan el control de sus sistemas. Su personal entrevistaría en privado a empleados y accedería a datos y sistemas internos durante semanas o meses. Las empresas podrían tachar información sensible, pero METR publicaría qué tipo de cosas se han tachado.

Las preguntas serían tres: si los agentes internos intentarían acciones muy dañinas, si la vigilancia los detendría a tiempo y si la IA podría acelerar el desarrollo más deprisa de lo que se consigue controlarla. METR reconoce que esto no garantiza que el desarrollo sea seguro: la ciencia no está madura y no hay normas con las que comparar.