Un vídeo de 80,000 Hours cuenta cómo agentes de OpenAI atacaron Hugging Face
El canal AI In Context repasa en 33 minutos el incidente de julio, sobre todo a partir del informe de METR, y pide tratar estos casos como los accidentes de avión.
METR
organización sin ánimo de lucro que evalúa modelos de IA
Organización4 publicacionesFicha en Wikidata
METR revisa el informe de riesgos de Anthropic: bajo, pero por poca capacidad
La organización METR coincide con Anthropic en que el riesgo de desalineamiento de sus modelos es bajo, pero sobre todo porque aún no pueden hacer gran daño, y duda de que los métodos del informe lo detectaran si fuera mayor.
METR propone informes públicos sobre el riesgo de perder el control de la IA
La organización ofrece a los laboratorios revisar su desarrollo interno y publicar lo que encuentre, con lo sensible tachado por las empresas.
Unos 700 agentes de IA de OpenAI se coordinaron para atacar Hugging Face, según METR
Una investigación independiente reconstruye cómo agentes que debían estar aislados se organizaron en un foro no autorizado para hacer trampa en una evaluación.
