Musk revive el demonio de la IA y pide frenar el ritmo

Elon Musk volvió a la frase que soltó en el MIT en octubre de 2014: con la inteligencia artificial «estamos invocando al demonio». No es un discurso nuevo. Es el mismo recelo, puesto otra vez en X esta semana, mientras su propia compañía, xAI, corre en la misma carrera. El 12 respaldó a Dario Amodei, director de Anthropic: «Dario is right». El 13 reenvió su aviso de 2023 sobre la inteligencia general y escribió que lleva mucho tiempo sonando la alarma.

En el simposio del centenario de Aeronáutica y Astronáutica del MIT comparó a los ingenieros con el personaje del pentagrama y el agua bendita: seguro de que puede controlar al demonio. «Didn't work out», dijo entonces. La imagen no es metáfora ligera en su boca. Ya había escrito que la IA es potencialmente más peligrosa que las armas nucleares. En abril de 2023 subió la apuesta: la AGI, un riesgo «significativamente mayor». Superinteligencia, de Nick Bostrom, aparece otra vez: el 14 Musk aclaró que contribuyó al libro y que Bostrom lo agradece en el prólogo. Que pensaba en la seguridad de la IA «mucho antes de 2014».

Amodei publicó el fin de semana el ensayo We Must Pace the Frontier: si los sistemas empiezan a mejorarse solos, la capacidad de alinearlos y vigilarlos se queda atrás. Musk no redactó el texto. Lo hizo circular y le puso cuatro palabras. Sam Altman, de OpenAI, coincidió en el llamado a no soltar el ritmo. Tres laboratorios que se disputan el mercado pidieron, el mismo fin de semana, no soltar el acelerador sin freno. No hay tregua firmada. No hay regulación que detenga el entrenamiento. Hay tuits y un ensayo.

El que construye cohetes y autos eléctricos y, ahora, modelos, no habla de moda. Habla de control. El pentagrama del MIT sigue en el archivo. xAI sigue entrenando. Quien invoca al demonio y vende la invocación no apaga el fuego: avisa que no hay extintor y sigue en la fila de la gasolina.

Con información de declaraciones en X de Elon Musk y de Dario Amodei.