Sam Altman, CEO de OpenAI —la empresa creadora de ChatGPT—, utilizó su cuenta oficial de X para lanzar una advertencia sobre los riesgos de concentrar tecnología excesivamente poderosa en pocas manos y la necesidad de establecer estándares de seguridad estrictos antes de lanzar nuevos modelos al mercado, como parte del debate ético e institucional sobre los alcances y peligros de esta tecnología desarrollada por las tecnológicas más avanzadas.
“Hay dos formas en que el progreso de la IA podría salir muy mal y que debemos evitar”, comenzó señalando Altman.
En primer término, advirtió sobre el peligro de la pérdida de mando humano sobre la tecnología: “Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos sin disculpas en el Equipo Humanidad, y la IA debe siempre servir a las personas. Para garantizar eso, necesitamos formas de asegurar que las técnicas de alineación y seguridad se mantengan por delante del progreso en las capacidades de los modelos”.
En segundo lugar, el empresario apuntó de lleno a la geopolítica y al control corporativo de las herramientas avanzadas. “Podríamos terminar en un mundo con demasiada concentración de poder. Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, alertó, agregando que “evitar estas dos amenazas requiere caminar por un angosto camino intermedio; por ejemplo, un país podría ganar demasiado poder. Otro ejemplo es un laboratorio terminando con demasiado poder”.
Seguridad, autorregulación y límites a la competencia
Frente a la aceleración en el ritmo de innovación, el ejecutivo remarcó que las compañías estadounidenses del sector deben asumir un compromiso ético ineludible.
“El mundo merece tener la confianza de que las empresas estadounidenses que desarrollan IA cada vez más capaz actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado. Cada laboratorio de frontera debe cumplir con esto, y no hay razón por la que ninguno de nosotros deba ir a trabajar si no podemos hacerlo”, aseveró.
En esa línea, respaldó la intervención estatal y la fiscalización externa: “Damos la bienvenida a un marco federal que establezca requisitos de seguridad consistentes para la IA de frontera. Pero no creemos que necesitemos esperar a una exención antimonopolio o legislación para comenzar el trabajo de brindar esta confianza. Reglas consistentes para gestionar el riesgo de frontera, de modo que podamos maximizar los beneficios, son una buena idea (y nos entusiasman ideas como auditores independientes)”.
Altman repasó la evolución de la industria y admitió que las medidas del pasado quedaron obsoletas frente al desarrollo actual. “Hace años, empresas como la nuestra desarrollaron cosas como Políticas de Escalado Responsable y Marcos de Preparación. Esas fueron buenas para ese momento, y se centraron principalmente en el despliegue de modelos completados, no en lo que sucede durante su proceso de desarrollo”, explicó.
Sobre las metodologías de trabajo actuales en su compañía, detalló: “El cambio actual hacia enfocarse en el desarrollo y evaluación seguros requerirá nuevas herramientas. Por ejemplo, en OpenAI ahora formulamos casos de seguridad explícitos antes de las ejecuciones de aprendizaje por refuerzo de frontera que esperamos que aumenten significativamente la capacidad, además del trabajo de seguridad que hemos realizado durante mucho tiempo antes de los lanzamientos de modelos”.
El CEO de la tecnológica expresó su deseo de que “otras empresas aprendan de nuestros enfoques y propongan los suyos propios; creemos que estándares compartidos para desalineación, monitoreo y seguridad conducirán a mejores resultados. Esperamos con interés colaborar con nuestros colegas en toda la industria para formular la mejor versión de estos”.
Finalmente, aclaró que la búsqueda de seguridad no implica frenar la innovación, aunque sí exige prudencia por encima de las presiones comerciales: “Cuando hablamos de ‘ritmo’, no nos referimos a ‘detenerse’. El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento de lo que podría ser de otra manera; intervenciones como casos de seguridad y monitoreo tienen costos significativos. El ritmo valdrá bien este costo; ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia, ni permitir que las capacidades se adelanten al alineamiento y monitoreo. Donde necesitaremos la ayuda de nuestro gobierno es para la coordinación internacional. Pero primero debemos hacer lo que podamos nosotros mismos”.