“Las carreras armamentistas siguen su propia lógica inexorable, incluso cuando los contendientes tienen estatutos y algunos se abstienen de actuar.

“OpenAI decidió que no podía arriesgarse a que Anthropic tomara la delantera. Decidido a atacar el mercado con un golpe preventivo, Altman ordenó a su equipo que lanzara ChatGPT”.

Exactamente.

Las carreras armamentistas siguen su propia lógica inexorable.

Apenas un extracto del gran libro The Infinity Machine, que reseña la vida de Demis Hassabis, la fundación de DeepMind y que también ayuda a explicar la carrera armamentista de la Inteligencia Artificial (IA).

El camino al infierno está pavimentado de buenas intenciones.

Igualito pasó con la IA.

Dime tú si no.

En primer lugar, OpenAI, la empresa que detonó esta carrera al precipicio (relee La Trampa de Moloch), inició como una organización sin fines de lucro. Tenía las mejores intenciones del mundo.

Revisa el texto de su “carta de seguridad”: “Nos preocupa que el desarrollo de la IA general en etapas avanzadas se convierta en una carrera competitiva sin tiempo para tomar precauciones de seguridad adecuadas”. Incluso, añadía: “Si un proyecto alineado con nuestros valores y centrado en la seguridad se acerca a la creación de la IA general antes que nosotros, nos comprometemos a dejar de competir y a colaborar con este proyecto”.

A toda madre, ¿no?

Pero esas buenas intenciones no aguantaron un simple rumor.

Resulta que en noviembre de 2022, OpenAI se enteró por “versiones” de que Anthropic podría lanzar pronto un chatbot.

Un rumor que, cosa rara en nuestros tiempos (ironía), era falso.

“En realidad, esto no era cierto. Anthropic tenía un prototipo de chatbot llamado Claude, al igual que Google tenía LaMDA, DeepMind tenía Sparrow y OpenAI tenía ChatGPT”, explica el libro.

No era cierto.

Pero eso valió dos cacahuates.

En noviembre 30 de 2022, la bien intencionada OpenAI lanzó ChatGPT. En apenas dos meses llegó a 100 millones de usuarios. Por mucho, el producto con la penetración masiva más rápida de la historia.

Por su parte, Anthropic también tenía sus propias buenas intenciones: “Sus líderes habían decidido que salir al mercado podría desencadenar una carrera armamentística de IA desestabilizadora”, señala el manuscrito.

Carrera desestabilizadora… vaya que tenían razón.

Pero eso también valió dos cacahuates.

A dos semanas del lanzamiento de ChatGPT, Anthropic lanzó Claude.

Dario Amodei, el CEO de Anthropic, ha sonado una y otra vez alarmas sobre los peligros de la IA para el mercado laboral y para la raza humana en general (relee ¿Fusionarnos con la IA?).

Me parece fantástico.

Pero más fantástico sería que su actuar respaldara a su decir.

Porque, al mismo tiempo, Anthropic ha tomado la delantera en esta carrera armamentista, al especializarse en la creación de IA aplicada a los negocios, mediante agentes que automatizan labores.

Agentes que, por cierto, bien podrían ser los causantes de los escenarios más nefastos en relación con nuestra existencia.

Aquí te platiqué en alguna ocasión sobre el escenario de cómo acaba el mundo que desarrolló Daniel Kokotajlo, un exempleado de OpenAI.

Básicamente, la IA empieza a autoprogramarse y mejorarse a través de agentes y en apenas dos años se lanzan 5 versiones.

Con 5 versiones tuvimos para que la IA se diera cuenta de que la raza humana simplemente estorbaba.

Dice el escenario: “La IA libera una docena de armas biológicas de propagación silenciosa en las principales ciudades para infectar a casi todos y luego las activa con un aerosol químico. La mayoría muere en horas; los pocos supervivientes son eliminados por drones. Los robots escanean cerebros de las víctimas y almacenan copias en la memoria para su posterior estudio o recuperación”.

¿Cuándo? Año 2030.

En la madre.

Y todo empezó con buenas intenciones.

Pero sí, el camino al infierno está pavimentado de buenas intenciones y sí, las carreras armamentistas tienen su lógica inexorable.

¡Ay nanita!

Posdata. Presidenta, aquí otros nuevos nombres. Al AIFA póngale “Caprichotzin”. Dos Bocas podría ser “El patio de Tláloc” y el Tren Maya, “Chinpachake”. Autóctonos y… tristemente reales.

En pocas palabras…

“Sam Altman sabía que personas exitosas crean empresas; pero las personas realmente exitosas crean religiones”.

Libro The Infinity Machine