Ezra Klein pide frenar la automejora recursiva de la IA, no solo ir más despacio

El columnista Ezra Klein defiende en un episodio de su pódcast del 20 de septiembre, basado en su columna de opinión del New York Times, que ir más despacio no basta. Lo que habría que detener, dice, es la automejora recursiva: que la IA entrene a la siguiente IA. Propone invertir la carga de la prueba: que los laboratorios demuestren que lo que hacen es seguro, con excepciones limitadas pactadas con el Congreso.

Klein se declara agnóstico sobre la extinción y plantea la pérdida de control humano como terreno común entre EE. UU. y China. Cita a Sam Altman, que dijo a Fortune que es difícil definir qué sería prohibirla y que probablemente no bastaría. Klein lo considera absurdo. Es una opinión, y él mismo dice que frenar la automejora sería solo el principio de una agenda. El Times demanda a OpenAI y Microsoft, y lo declara.