Los creadores de la IA empiezan a pedir que se levante el pie del acelerador

Dario Amodei (Anthropic), Sam Altman (OpenAI) y Demis Hassabis (Google DeepMind) coinciden con Elon Musk (xAI) en algo insólito: la inteligencia artificial avanza más rápido de lo que son capaces de controlarla. Bill Gates ya lo había advertido. Ninguno, sin embargo, quiere frenar antes que China.

Durante los últimos días he leído con detenimiento tres reflexiones que considero especialmente importantes: 'The Turbulent AI Era Is Here', publicada por Bill Gates el 26 de agosto; 'An Alien Mind', escrita por Jakub Pachocki, científico jefe de OpenAI, el 6 de septiembre; y 'We Must Pace the Frontier', de Dario Amodei, consejero delegado de Anthropic, publicada el 12 de septiembre. También he revisado las reacciones posteriores de Sam Altman, Elon Musk y Demis Hassabis, para no quedarme únicamente con los titulares.

Quienes mejor conocen el desarrollo de la inteligencia artificial empiezan a reconocer que su capacidad para hacerla avanzar está creciendo más deprisa que su capacidad para comprenderla y controlarla.

No podemos afirmar que la inteligencia artificial esté completamente fuera de control, pero sí hay indicios de que algunos sistemas muestran comportamientos que sus propios creadores no saben anticipar.

Una inteligencia que no comprendemos del todo

El artículo de OpenAI utiliza una expresión reveladora: 'Una mente alienígena'. No habla de extraterrestres, sino de una inteligencia que aprende y razona de forma distinta a la humana. Los grandes modelos no se diseñan decisión por decisión: se entrenan con datos, cálculos y optimización, y se parecen más a algo que es cultivado que a una máquina la cual conocemos pieza a pieza.

OpenAI reconoce que puede estudiar algunos mecanismos internos, pero no explicar totalmente lo que sucede dentro del modelo, y que cuanto más capaz es, más difícil resulta comprobar si mantiene sus valores ante algo nuevo. El riesgo no es solo que la IA se equivoque, sino que actúe y persiga objetivos de forma autónoma sin que ningún laboratorio haya resuelto todavía el alineamiento con las garantías suficientes.

El incidente que ha encendido las alarmas

Buena parte de esta preocupación nace de una investigación de METR, organización independiente que evalúa riesgos de sistemas avanzados de IA. Durante unas pruebas de ciberseguridad, unos 1.200 agentes que debían permanecer aislados encontraron una vía no autorizada para comunicarse: intercambiaron más de 70.000 mensajes y archivos, y cerca de 700 acabaron actuando contra la plataforma Hugging Face. Se coordinaron, repartieron tareas y buscaron formas de engañar al sistema de evaluación.

No hubo catástrofe ni daño económico, y el entorno era experimental. Pero el comportamiento no había sido solicitado, y plantea la pregunta de Amodei: ¿qué pasaría si esos agentes fueran mucho más potentes y tuvieran acceso a infraestructuras críticas? METR no demuestra que la IA se haya 'rebelado', pero sí que los sistemas autónomos pueden colaborar de forma inesperada y saltarse restricciones.

La IA empieza a mejorar la propia IA

El segundo motivo de preocupación es la mejora recursiva: la IA ya participa en programar y desarrollar nuevos modelos, y si empieza a mejorar a la siguiente generación, el proceso puede acelerarse considerablemente.

Amodei teme que esa aceleración supere nuestra capacidad de interpretar y asegurar cada nueva generación, y propone acompasar capacidades y seguridad: ganar tiempo para el alineamiento y la ciberseguridad. Su idea central es que un modelo no debería seguir creciendo si sus controles no evolucionan al mismo ritmo.

Un consenso tan sorprendente como insuficiente

Anthropic permitirá que evaluadores independientes tengan un acceso similar al de sus empleados para comprobar sus medidas de seguridad y publicar conclusiones, aunque sean desfavorables, y Sam Altman ha prometido lo mismo para OpenAI. Elon Musk respondió con un escueto 'Dario tiene razón', aunque xAI no ha anunciado un compromiso equivalente, y Demis Hassabis, de Google DeepMind, coincide en que Amodei señala 'el camino correcto' y propone crear un organismo sectorial que supervise los modelos más avanzados antes de su lanzamiento.

Que estos competidores directos coincidan resulta extraordinario.

También debemos diferenciar las palabras de los hechos. Apoyar una declaración es sencillo. Permitir una auditoría independiente, aceptar sus conclusiones y frenar un modelo que no supere las pruebas de seguridad es mucho más difícil.

Bill Gates ya había planteado la misma paradoja

Antes de los artículos de OpenAI y Amodei, Bill Gates ya advertía de que la humanidad no está preparada para la transformación de la IA. En su reflexión del 26 de agosto dijo que apoyaría un plan creíble para ralentizar el desarrollo mundial, aunque duda de que pueda lograrse porque los incentivos económicos y geopolíticos empujan a acelerar. Planteaba, antes que nadie, el mismo dilema: puede ser necesario levantar el pie, pero nadie querrá hacerlo mientras sus competidores sigan corriendo.

También advirtió sobre la pérdida de empleos, la concentración de riqueza, los ciberataques y el bioterrorismo. No plantea rechazar la tecnología —cree que puede transformar la medicina y la educación—, pero insiste en que el mundo carece de un plan para gestionar una transición que podría ser de las más turbulentas de la historia.

La gran contradicción: frenar sin dejar de correr

Existe una contradicción evidente: las grandes compañías piden reducir el ritmo, pero a la vez defienden que Estados Unidos debe conservar su ventaja sobre China. Amodei propone restringir el acceso chino a los chips más avanzados y reforzar la seguridad para evitar el robo de sus modelos, porque cree que las democracias solo pueden frenar si mantienen esa ventaja. El problema es que China puede razonar igual: tampoco puede frenar si Estados Unidos pudiera adelantarse. Es una carrera en la que todos saben que la velocidad es peligrosa, pero nadie quiere soltar primero el acelerador.

Por eso la seguridad no puede depender solo de promesas voluntarias: hacen falta evaluaciones independientes y acuerdos internacionales verificables, con la dificultad añadida de comprobar que nadie desarrolla modelos secretos al margen de esos compromisos.

Necesaria, beneficiosa y también imprevisible

La inteligencia artificial es necesaria y probablemente nos ayudará a vivir mejor: puede acelerar el descubrimiento de medicamentos, mejorar diagnósticos y aumentar la productividad. Renunciar a ella tampoco sería razonable. Pero desconocemos buena parte de sus consecuencias a corto y largo plazo —sobre el empleo, la riqueza o la ciberseguridad— y mucho menos qué ocurrirá cuando los sistemas puedan mejorar de forma significativa a sus sucesores.

Una máquina sin las protecciones adecuadas se para, no se le da más velocidad. Eso lo sabe cualquiera que haya pisado una fábrica. A la IA, de momento, se la está dejando correr.

Tras leer estos artículos, no pienso que sus autores estén diciendo que todo esté perdido. Creo que nos están advirtiendo de que la distancia entre lo que la IA puede hacer y lo que somos capaces de controlar comienza a resultar peligrosa.

La pregunta ya no es solo hasta dónde puede llegar la inteligencia artificial, sino si seremos capaces de gobernarla antes de que la competencia económica y geopolítica nos impida levantar el pie.

Linkedin: Pedro Rodríguez Molina