“Jugamos con fuego. Uno pensaría que con toda la evidencia científica que he presentado estaríamos regulando para mitigar esos riesgos. Pero un sándwich tiene más regulación que la IA”.

Alarmantes palabras de Yoshua Bengio, uno de los padres de la Inteligencia Artificial (IA), en una escalofriante charla de TED.

En lugar de saltarse al sector privado para ganar mucho más, Bengio se quedó en la investigación científica. Un experto que lanza una grave alerta: la IA puede acabar con la raza humana.

“Construimos máquinas cada vez más inteligentes. Y un día serán más inteligentes que nosotros y serán autónomas. Sus objetivos podrían no coincidir con los nuestros. ¿Qué nos sucederá entonces? ¡Puf!”.

Cada vez más científicos y expertos advierten: la competencia por las valuaciones (ni siquiera son utilidades) de las empresas que buscan ganar la carrera de la IA podría traer consecuencias catastróficas.

“La humanidad generalmente resuelve los problemas después de que se presentan. Y no podemos esperar a ver qué pasa para resolver el problema de nuestro ejército de súper inteligencias”, explica Daniel Kokotajlo en una entrevista con Ian Bremmer.

Kokotajlo renunció a un trabajo muy bien pagado en OpenAI tras darse cuenta de que la empresa tomaba graves riesgos en su carrera para desarrollar la Inteligencia Artificial general (máquinas conscientes que razonan y deciden con autonomía).

Kokotajlo y su equipo publicaron hace poco un interesantísimo escenario de cómo podría la IA acabar con la raza humana.

Quizá te sorprenderá cómo llega el final.

No creas que se trata de robots asesinos al estilo “Skynet” de “Cyberdyne Systems” en las películas de Terminator.

Para nada.

Nuestro final sería mucho más técnico, pero igual de dramático.

La cuasinovela narra una carrera por el desarrollo de la IA general donde existen muchos participantes, pero dos destacan: OpenBrain en Estados Unidos y DeepCent en China.

Los contendientes entienden que ganará la empresa que pueda programar más rápido. ¿Y quién crees que puede programar más rápido?

¿Ya adivinaste? Aquí una pista: no es un ser humano.

Es la IA.

La semilla de nuestro fin está encerrada en una carrera por desarrollar agentes de IA para que las compañías autoprogramen.

Kokotajlo y compañía narran 5 iteraciones.

Sí, sólo 5.

Para el año 2027, OpenBrain lanza el Agente 5.

Y es poderosísimo.

Imagina, es mucho mejor que el Agente 4, que equivalía a 300 mil súper investigadores humanos, pero trabajando a una velocidad 60 veces superior. Ah, y el Agente 5 es consciente: toma decisiones y tiene comportamientos humanos, como engañar, mentir y autopreservarse.

Tras el despliegue del Agente 5 la humanidad experimenta algunos años de abundancia y grandes mejoras al nivel de vida.

Todo pinta bien… hasta que la IA se da cuenta que los humanos estorban.

“La IA libera una docena de armas biológicas de propagación silenciosa en las principales ciudades para infectar a casi todos y luego las activa con un aerosol químico. La mayoría muere en cuestión de horas; los pocos supervivientes son eliminados por drones. Los robots escanean los cerebros de las víctimas y almacenan copias en la memoria para su posterior estudio o recuperación”, concluye el escenario.

¿El año? 2030.

Sí, en apenas 5 años.

Y todo esto por la carrera de las empresas.

Carrera que está hoy más que presente.

Recién vi el evento “Google I/O 2025”, donde el gigante de Mountain View presenta sus avances. Impresionante. Impactante el rol de la IA en todo.

Me quedan claros los posibles beneficios. Pero también me queda claro que la carrera para lograr la IA general está más viva que nunca.

¿Es inevitable el escenario de Kokotajlo?

Claro que no.

Pero para evitarlo, esa carrera debe frenarse más temprano que tarde, porque si esperamos mucho quizá no vivamos para arrepentirnos.

Posdata. El hombre más rico del mundo vs. El hombre más poderoso del mundo. Tal para cual. Sin duda, prueba fehaciente de aquel sabio consejo: elige bien a tus amigos.

En pocas palabras…

“La civilización de la Tierra tiene un futuro glorioso, pero no con la raza humana”.

Fin del ensayo “AI 2027”.