Todos quieren que la inteligencia artificial sea segura. Nadie quiere ser el primero en frenar para lograrlo. Es un dilema de acción colectiva. Todos ganarían si cooperaran, pero cada uno tiene incentivos para actuar por su cuenta. China, Estados Unidos y cada laboratorio cree que su prudencia se convierta en ventaja de los otros. Mientras tanto, la tecnología avanza más rápido que nuestra capacidad para entenderla y controlarla.

¿Qué preocupa exactamente? Hay riesgos que ya vemos, como fraudes, manipulación y concentración de poder. Otros podrían agravarse, como la pérdida masiva de empleos, los ciberataques o la ayuda para fabricar armas biológicas. Y está el escenario extremo de sistemas capaces de mejorarse a sí mismos que persigan objetivos ajenos a los nuestros sin que podamos controlarlos.

OpenAI, Anthropic y Google compiten por clientes, capital y talento. Lanzar primero asegura mercados enormes y verificar la seguridad cuesta tiempo y dinero. La paradoja es que esta industria nació del miedo. El 25 de mayo de 2015, Sam Altman le escribió a Elon Musk que se preguntaba si era posible impedir que la humanidad desarrollara IA y que casi seguramente no. Si iba a ocurrir, mejor que Google no llegara primero. Por eso fundaron OpenAI. En 2021, exempleados de OpenAI fundaron Anthropic por falta de confianza en su seguridad. En 2023, Musk, ya convertido en crítico feroz de OpenAI, lanzó xAI. Cada uno fundó una empresa para ganarle a quien consideraba irresponsable.

Entre Washington y Pekín la lógica es similar. Uno quiere conservar su liderazgo tecnológico y militar, el otro disputárselo. Cooperar exige confiar en que el rival respetará límites verificables. Acelerar parece la opción defensiva, aunque todos pierdan al final.

Bill Gates publicó un ensayo en el que dice que apoyaría un plan creíble para desacelerar la IA en todo el mundo, pero no cree que exista porque las fuerzas económicas y geopolíticas empujan en sentido contrario. Propone poner impuestos a la IA y a los robots como se grava la nómina de un trabajador.

Ahora Dario Amodei, director de Anthropic, está pidiendo frenar el ritmo al que mejoran los modelos. Altman, Musk y Demis Hassabis, de Google DeepMind, le dieron la razón. Pero empleados de varios laboratorios han admitido que continúa la intensa presión para no desacelerar.

Los escépticos de los escenarios alarmistas tienen objeciones entendibles. No hay consenso sobre la probabilidad de una catástrofe y presentar capacidades hipotéticas como destino inevitable distrae de los daños actuales.

¿Se acuerdan del Y2K? Los programas guardaban el año con los últimos dos dígitos y había el miedo de que en el 2000 las computadoras leyeran 1900. El problema era real y, según el Departamento de Comercio, sólo en Estados Unidos corregirlo costó unos 100 mil millones de dólares. Se evitó un desastre que tenía una fecha exacta de caducidad, el 31 de diciembre de 1999. La IA no la tiene. Amodei advierte que enjambres de agentes descontrolados podrían apoderarse de internet en seis meses, pero no hay un día ni hora exacta. Además, el crecimiento económico actual depende de la inversión en IA. Pausar hoy podría provocar un caos económico cierto y actual para evitar uno económico y humano hipotético y futuro.

El debate me parece interesantísimo. Ya veremos si dentro de unos años nos burlamos de haber pensado que las máquinas podían amenazar a la humanidad o si, desde nuestras celdas, lamentamos no haber actuado cuando todavía podíamos.

 Apostilla

Mientras en el mundo está este debate sobre la Inteligencia Artificial, en México tenemos una FGR que no puede encontrar a un presunto delincuente como Amílcar Olán, aunque se lo pongan los medios en charola de plata