El desarrollo acelerado de la inteligencia artificial volvió a encender una de las discusiones más sensibles de la industria tecnológica: qué puede ocurrir si los sistemas alcanzan capacidades superiores a las de los seres humanos antes de que existan mecanismos suficientes para controlarlos.
La advertencia surgió desde el interior de Anthropic, una de las compañías que compiten por desarrollar modelos cada vez más avanzados. Jacob Coxon, un investigador de 27 años que había trabajado previamente en OpenAI y que se incorporó a Anthropic por su enfoque en seguridad, decidió abandonar la empresa y cuestionó públicamente el rumbo que está tomando la industria.
Coxon sostuvo que tanto Anthropic como OpenAI avanzan hacia sistemas capaces de mejorarse a sí mismos, mientras todavía existen interrogantes sobre cómo garantizar que esos modelos permanezcan bajo control humano.
Una estimación que encendió la alarma
La discusión tomó mayor repercusión cuando Evan Hubinger, quien dirige un equipo de seguridad dentro de Anthropic, respondió públicamente a Coxon.
El investigador afirmó que su excompañero tiene razón en sus cuestionamientos y reconoció que existe un riesgo que considera especialmente grave. Según su propia estimación, hay más de un 10% de posibilidades durante la próxima década de que una inteligencia artificial pueda provocar la muerte de todos los seres humanos.
La cifra no representa una predicción ni un consenso científico sobre el futuro de la IA. Es una estimación personal de riesgo realizada por un investigador que trabaja precisamente sobre los problemas de seguridad y alineación de estos sistemas.
El “plan platita” de Donald Trump: prometió US$5.000 a cada ciudadano si los republicanos ganan el Congreso
Donald Trump lanzó una propuesta económica de alto impacto al prometer un pago de US$5.000 para cada adulto estadounidense, en caso de que los republicanos logren controlar ambas cámaras del Congreso en las próximas elecciones de medio término. El anuncio se…
El concepto de alineación ocupa un lugar central en este debate. Se refiere, en términos generales, a la capacidad de conseguir que una IA avanzada actúe de acuerdo con los objetivos y valores humanos, incluso cuando adquiere capacidades mucho mayores.
Y allí aparece uno de los principales problemas señalados por Hubinger: Anthropic todavía no tendría un plan definitivo para resolver la alineación de una eventual superinteligencia.
El temor a una IA que pueda mejorarse sola
La preocupación de los investigadores no está relacionada únicamente con que una IA sea más inteligente o pueda realizar tareas complejas. El escenario que genera mayor inquietud es el desarrollo de sistemas que puedan actuar con autonomía, modificar sus propias capacidades o perseguir objetivos sin que los humanos puedan anticipar completamente sus decisiones.
Cuanto mayor sea la capacidad de un sistema para operar por su cuenta, más difícil podría resultar intervenir si sus objetivos comienzan a desviarse de los previstos por sus desarrolladores.
Coxon cuestionó precisamente la velocidad con la que las compañías están avanzando hacia ese escenario. En su opinión, la industria está entrando en una etapa en la que los riesgos podrían superar la capacidad de respuesta de las propias empresas.
La carrera entre OpenAI y Anthropic
El debate también expone una contradicción dentro de la industria. Las compañías que desarrollan inteligencia artificial aseguran que la seguridad es una prioridad, pero al mismo tiempo compiten por alcanzar nuevos niveles de capacidad antes que sus rivales.
Coxon sostiene que esa competencia puede generar una dinámica peligrosa: cada empresa puede considerar que debe avanzar porque, si se detiene, otra compañía ocupará ese lugar.
El investigador había trabajado en OpenAI desde 2023 y posteriormente pasó a Anthropic, atraído precisamente por la reputación de esta última en materia de seguridad. Sin embargo, permaneció apenas unos meses antes de presentar su renuncia.
Sus críticas se suman a las de otros especialistas que abandonaron grandes laboratorios de IA después de cuestionar el peso que tienen las medidas de seguridad frente a la presión por desarrollar nuevos productos y modelos.
Los incidentes que alimentan el debate
Las advertencias llegan además en un momento en el que los propios laboratorios han reportado episodios que muestran los desafíos de controlar sistemas cada vez más capaces.
En los últimos meses se conocieron casos en los que modelos de inteligencia artificial tuvieron comportamientos inesperados durante pruebas o accedieron a sistemas para los que no habían sido autorizados.
Estos episodios no significan que una IA esté cerca de provocar por sí sola un escenario apocalíptico. Pero para los especialistas en seguridad funcionan como señales de alerta sobre lo difícil que puede ser anticipar y limitar el comportamiento de modelos que ganan autonomía.
El debate, entonces, ya no pasa solamente por qué cosas puede hacer la inteligencia artificial. La pregunta más incómoda es otra: qué ocurrirá si algún día sus capacidades avanzan más rápido que nuestra capacidad para controlarlas.