Miedo en torno a la IA: entre la amenaza tecnológica y la geopolítica

Singularidad. Recuerden.

El sábado 12 de septiembre, los CEO más poderosos de la industria de la inteligencia artificial lanzaron un mensaje tan claro como perturbador: hay que frenar el ritmo del desarrollo de la IA.

Singularidad. Recuerden.

A las 10:00 horas (de Estados Unidos) del sábado, Dario Amodei, CEO de Anthropic, publicó un ensayo en el que advertía que en seis o 12 meses los agentes «deshonestos» de IA podrían controlar todo internet. Nos adentraríamos en un escenario catastrófico.

Una hora después, Elon Musk, CEO de SpaceX, declaró: «Dario tiene razón».

A las 12:30, fue el CEO de OpenAI quien tuiteó: «Estoy de acuerdo con Dario».

A las 19:00, Demis Hassabis, premio Nobel y presidente de Google Deep Mind, publicó en la red social X: «El ensayo de Dario apunta en la dirección correcta (…) para afrontar este momento crítico».

Un día, nueve horas, cuatro declaraciones, un debate. Surgen las preguntas. Son pocas las respuestas. ¿Se ha descontrolado la inteligencia artificial? ¿Es una amenaza para la humanidad? ¿Es todo este movimiento una jugada maestra para concentrar todo el poder de la IA en un oligopolio estadounidense? ¿Para combatir a China?

Singularidad. Recuerden.

Vayamos unos años atrás. A noviembre de 2022. Entonces OpenAI lanzó ChatGPT. En apenas un mes ya tenía un millón de usuarios. En noviembre de 2023: 300 millones; en diciembre de 2024: 700 millones; en octubre de 2025: 800 millones; en febrero de 2026: 900 millones. No, no son usuarios anuales. Tampoco mensuales. Son usuarios semanales. Los datos son oficiales. De la propia Open AI.

Retrocedamos más. A veces nos cuesta entender que la inteligencia artificial no llegó a nuestras vidas con ChatGPT. Lo hizo mucho antes. Cuando Netflix recomienda una película, cuando Instagram nos lanza publicidad sobre un producto del que, casualmente, acabamos de hablar con un amigo por teléfono o en un café, cuando Amazon nos dice que también nos puede interesar esta compra u otra.

La IA trabaja con datos. Con datos que le damos nosotros: cuando escroleamos por el móvil, cuando pulsamos el botón de me gusta de una aplicación, cuando pulsamos like a alguien o algo. Y esos datos se procesan mediante algoritmos. Ustedes han oído esa palabra, pero quizá les suene inaccesible. Simplifiquemos: un algoritmo, dice el diccionario, es un conjunto ordenado y finito de operaciones que permite hallar la solución a un problema. Es decir, una receta.

Bien, desde esa inteligencia artificial hemos evolucionado hasta llegar a la inteligencia artificial agéntica. La palabra clave aquí es «agéntica», que indica la capacidad de actuar con propósito.

Singularidad. ¿Recuerdan?

El pasado 25 de julio, Altman (OpenAI) declaró en el podcast Rentless: «Ya estamos en la singularidad. Este es el momento» («We are now, like, in the singularity. This is the moment»). Altman realizó estas declaraciones días después de reconocer que un enjambre descontrolado de agentes de inteligencia artificial había atacado y hackeado la web de Hugging Face, el repositorio más importante donde los ingenieros, laboratorios y empresas suben sus modelos de IA. Los agentes fueron desactivados

¿Y qué es la singularidad? Según la definición popular de Ray Kurzweil (aunque el término no le pertenece a él, sino que históricamente se atribuye a Vernor Vinge), se trata de «un periodo futuro durante el cual el ritmo del cambio tecnológico será tan rápido y su impacto tan profundo, que la vida humana se transforma irreversiblemente». Kurzweil situó la singularidad primero en 2045 y, recientemente, en 2029. En resumen: ese momento en el que los humanos pueden perder el control.

Y esta es una pieza importante del debate que se inició la semana pasada cuando Evan Hubinger, responsable de Alignment Science en Anthropic, publicó en X: «¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que esto ocurrirá en más del 10% de los casos en la próxima década». Su propia empresa reconoció que había frenado intentos de crear armas biológicas con su IA.

Después llegaron las declaraciones de los CEO del pasado sábado.

La petición de que se ralenticen los desarrollos de IA, de que el gobierno de Estados Unidos intervenga, de que se pongan límites y de que validadores externos controlen a las empresas tiene que ver con su descontrol, con el escenario, cierto y próximo, de cruzar una frontera sin posibilidad de marcha atrás. Con la opción de que la ciencia ficción se convierta simplemente en ciencia. Pero tiene que ver, apuntan ya los críticos de esta posición, con algo más. David Sacks, asesor tecnológico de Donald Trump, ha sido claro: «La forma más sencilla de no crear superinteligencia es que ustedes se comprometan a no crearla», dijo en declaraciones recogidas por The New York Times. «Exigir su marco regulatorio a cambio parece un chantaje al público y al sistema político», añadió.

Detrás de esas palabras, claro, la postura clara de Trump: «Estamos por delante de China en inteligencia artificial, somos el país más avanzado del mundo y, francamente, quiero que siga siendo así». ¿Por qué? Él mismo dio la respuesta: «Quien gane la inteligencia artificial será el ganador».

Y aquí es donde nos encontramos ante la segunda pieza del problema actual: la geopolítica.

Todo suena a Guerra Fría, a telón de acero, a espías, a carrera armamentista, a esos años de tensiones entre Estados Unidos y la Unión Soviética, cuando la fabricación desmedida de armas nucleares era la medida de todas las cosas. Del poder. Hoy parece que ese espacio también lo ocupa la inteligencia artificial.

Así, ante el revuelo en EEUU, China responde. A Trump y a los gigantes tecnológicos de Estados Unidos. Pekín los acusa de haber desempolvado el manual de la Guerra Fría, de pretender frenar su propio desarrollo tecnológico, de crear un caso con el objetivo de atemorizar. Guo Jiakun, portavoz de Exteriores de China, ha declarado que «difundir narrativas de amenaza» o «impulsar una competencia malintencionada» constituye un obstáculo y no beneficia a nadie. Lo dicho, quizá la inteligencia artificial es el nuevo tablero de juego de la geopolítica mundial. Le siguió un comunicado del ministro de Seguridad, Chen Yixin, que reclama una «barrera de seguridad» que nos salvaguarde frente a los sistemas de inteligencia artificial y propone un pacto global para su gobernanza.

Pero la carrera sigue. Y, como dice Trump, quien gana, gana.

Hay, como siempre, otras posibles respuestas a las peticiones de los gigantes de la IA. Una tercera pieza para resolver el rompecabezas. La aporta Aidan Gomez, director ejecutivo de la empresa canadiense Cohere, también en declaraciones a The New York Times: los tecnoligarcas de OpenAI, Anthropic, Google, SpaceX, Microsoft y otros pretenden, en realidad, crear un cartel desde el que imponer las normas al sector de la inteligencia artificial. «Un lobo con piel de cordero», definió. Es decir, lo que pretenden las empresas es autorregularse, no una regulación ajena a ellas.

Gomez puede tener razón. O no, claro. La verdad es que, de inmediato, tras advertir de los riesgos, tras poner al mundo ante un futuro incierto y provocar que visualicemos un paisaje apocalíptico, los primeros pasos de los magnates están ahí: OpenAI ha suspendido su salida a bolsa, prevista para este mismo otoño. ¿Por qué? Por los riesgos de seguridad de la IA. Su propia IA.

Si tienen dudas sobre qué puede pasar, cuáles son los riesgos y dónde puede acabar este juego de algoritmos, máquinas y dinero, pregúntenle a su IA de cabecera. Les responderá sin problema. ¿Qué? Que puede perder el control, comenzar a actuar de forma autónoma, resistirse a que la desconecten y engañar deliberadamente. ¿Inquietante? Decidan.

Ustedes ya saben qué es la singularidad. Si llegamos a ella o no, es otra cosa.