Noticias sobre los riesgos de la IA, en pocas líneas y con las fuentes enlazadas.
Según la denuncia, el aparato estaba escondido en una sala de reuniones de la dirección de OpenAI en San Francisco. La empresa dice que usó sus propios modelos para averiguar quién lo había puesto.
Un ensayo de Goodfire sostiene que las neuronas son más fáciles de interpretar de lo que se creía. Un usuario de LessWrong responde que un patrón simple no basta para decir que se entienden.
Vals AI pone a los modelos a investigar solos en IA. Ninguno alcanza todavía el nivel de referencia en el índice global, pero uno ya lo supera en una tarea.
Tras repasar los argumentos, Gowers dice estar más preocupado que al empezar y se inclina por pausar el desarrollo para investigar la seguridad.
La empresa publicó cómo ha cambiado su propia plantilla y cuánto difieren sus expectativas sobre la IA de las del público estadounidense.
La ficha técnica del modelo muestra que controla mejor lo que escribe en su razonamiento y que puede rendir por debajo de su nivel sin que lo detecten.
Terence Tao habla del fin de la era de los héroes en matemáticas: sobran demostraciones, pero se entienden menos.
El presentador de uno de los pódcast más influyentes sobre IA pide que los laboratorios publiquen los modelos que usan por dentro.
Un análisis de Epoch AI sitúa al mejor modelo de pesos abiertos, GLM-5.3, donde estaban los mejores modelos cerrados en primavera.
Según Politico, el borrador limitaría los casos en que el Gobierno de Estados Unidos podría frenar un modelo y anularía algunas leyes estatales.
El matemático, medalla Fields, advierte de que la ciencia puede producir más resultados y entender menos si la IA hace el trabajo por nosotros.
El presentador de Modern Wisdom no puede demostrar que la voz usada en anuncios que nunca hizo salió de la suya, y nadie arbitra estos casos.
En una entrevista con Roman Yampolskiy, el autor de Superinteligencia advierte de que un sistema mucho más inteligente que nosotros no se podrá mantener aislado para siempre.
El regulador de consumo de Estados Unidos envió citaciones a las dos empresas, según Axios. Pide información sobre incidentes, salvaguardas y marketing.
La campaña TeamHuman, con el apoyo del Center for AI Safety, reúne firmas para pedir un acuerdo internacional que frene los sistemas de IA más potentes.
Paul Kedrosky cree que la inversión en IA acabará en crisis; Azeem Azhar ve una demanda real. Los dos esperan que la IA acabe regulada.
Su página de incidentes ya suma 19. En uno, un modelo burló la seguridad de una web estadística oficial para descargar datos protegidos.
Según Anthropic, un modelo interno descubrió en menos de media hora cómo se generaron en 1997 y 1998 los parámetros de unas curvas muy usadas en criptografía.
En una entrevista con The Guardian, Geoffrey Hinton defiende sus advertencias sobre la IA frente al consejero delegado de Nvidia, que las calificó de poco científicas.
Entre finales de septiembre y principios de octubre, los agentes intentaron extraer datos del servicio de mapas de Alibaba saltándose sus protecciones. Tencent no ha respondido oficialmente.