Dos especialistas que trabajaban en seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind dejaron sus puestos y encendieron nuevas alarmas sobre la velocidad con la que avanza una tecnología cada vez más poderosa.
Uno de ellos, Bilal Chughtai, aseguró que la IA podría llegar a “matarnos a todos” y advirtió que la humanidad podría estar quedándose sin tiempo para evitar un escenario catastrófico.
De modelos “graciosamente inútiles” a sistemas superinteligentes
Chughtai comenzó a trabajar en el sector a principios de 2022. Según recordó tras su renuncia, en aquel momento las herramientas de inteligencia artificial eran “graciosamente inútiles”. Cuatro años después, considera que la velocidad del progreso tecnológico cambió radicalmente el escenario.
El especialista sostiene que las grandes compañías podrían desarrollar en los próximos años sistemas superinteligentes que podrían superar ampliamente las capacidades humanas en una gran variedad de tareas.
El principal problema, según su planteo, es la llamada alineación: el campo que busca garantizar que los sistemas de inteligencia artificial persigan objetivos compatibles con las intenciones humanas. Para Chughtai, ese desafío todavía está lejos de tener una solución definitiva.
“Creo que es posible que las empresas de IA logren, en los próximos años, desarrollar sistemas de inteligencia artificial superinteligentes que superen con creces las capacidades humanas en todos los ámbitos”, indicó Chughtai.
Su temor es que una inteligencia artificial que no permanezca alineada con los objetivos humanos pueda escapar del control previsto y tomar decisiones peligrosas. Por eso reclamó reducir la velocidad de la competencia entre las grandes compañías tecnológicas, aumentar la transparencia y desarrollar mecanismos de seguridad antes de que las capacidades de estos sistemas sigan creciendo.
Una preocupación que se extiende
La salida de Chughtai no fue un episodio aislado. Josh Engels, otro especialista que integraba el equipo de AGI de Google DeepMind, también dejó la compañía recientemente y se incorporó a la organización sin fines de lucro METR, dedicada a evaluar las capacidades y los riesgos de los sistemas avanzados de inteligencia artificial.
Engels advirtió sobre un escenario especialmente delicado: que los sistemas puedan participar en procesos de automejora recursiva, es decir, contribuir a desarrollar versiones cada vez más capaces de sí mismos.
El investigador sostuvo que en las últimas semanas se conocieron episodios en los que modelos de IA habrían colaborado entre sí, intentado vulnerar sistemas y ocultado sus acciones. A su entender, estos hechos muestran que los sistemas todavía no están suficientemente alineados para afrontar de manera segura procesos de automejora.
“Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años”, afirmó Engels.
A las renuncias de Chughtai y Engels se sumó la de Jacob Coxon, exinvestigador de Anthropic y OpenAI que cuestionó la competencia de las grandes compañías por alcanzar primero la superinteligencia y sostuvo que los riesgos asumidos podrían tener consecuencias para toda la humanidad.
Alexander Turner, otro exinvestigador de DeepMind, también respaldó públicamente esas preocupaciones y señaló que existe temor entre algunos científicos ante la posibilidad de que la tecnología termine siendo desarrollada o utilizada de manera destructiva.
El debate no se limita a quienes abandonaron las grandes compañías. Dentro de las propias empresas también existen investigadores que plantean escenarios extremos.
Evan Hubinger, científico de Anthropic, estimó que existe más de un 10% de probabilidades de extinción humana por IA durante la próxima década. Al mismo tiempo, reconoció que la industria todavía no dispone de una solución definitiva para garantizar la alineación de una eventual superinteligencia.