Por: Jorge Volpi

Desde el inicio de los bombardeos sobre Irán en el marco de la Operación Furia Épica –otro de los grandilocuentes epítetos que tanto entusiasman a Trump–, el 28 de febrero pasado, las Fuerzas Armadas de Estados Unidos se han valido de la inteligencia artificial para seleccionar sus objetivos. Sólo en el primer día de la guerra, se produjeron unos mil bombardeos, en teoría contra asentamientos militares; sin embargo, uno de ellos arrasó la escuela primaria Shajareh Tayyebeh, en la ciudad de Minab, en el sur de Irán, provocando la muerte de 168 personas, entre ellas un centenar de menores de doce años. A sólo cien metros se encontraba una instalación naval de la Guardia Revolucionaria: cien metros que la IA no tomó en cuenta en su misión de optimizar al máximo el plan para el que había sido programada.

Pese a los cuestionamientos de distintos legisladores demócratas, el Departamento de Guerra se ha resistido a responder si la identificación de ese objetivo había sido supervisada por un humano o si había sido dejada al arbitrio de la IA. El almirante Brad Cooper, del Comando Central, se limitó a explicar: “Los seres humanos siempre tomarán las decisiones finales, pero las herramientas avanzadas de IA pueden convertir procesos que antes tomaban horas o días en segundos”. Es decir, lo que siempre suele decirse sobre la IA.

¿A qué herramientas avanzadas se refería el almirante? En primera instancia, al Maven Smart System, un programa desarrollado para el Pentágono por Palantir -la empresa fundada por Peter Thiel y ahora dirigida por Alex Karp-, capaz de analizar en un santiamén los datos que le proporcionan satélites, drones, radares y los datos proporcionados por la inteligencia… humana. Para lograr sus objetivos, Maven se vale ni más ni menos que de Claude, la IA desarrollada por Anthropic con el objetivo de ser más ética y segura frente a su principal competidor, OpenAI.

Hace unas semanas, Dario Amodei, el fundador de esta empresa –antes amigo y hoy acérrimo rival de Sam Altman–, protagonizó un episodio que fue visto como el primer acto de resistencia de las grandes tecnológicas frente al poder autoritario. Cuando Peter Hegseth, el secretario de Guerra, quiso cambiar los términos del acuerdo que ya tenía con Anthropic, Amodei se negó rotundamente al uso de la IA en sistemas bélicos autónomos e hizo pública una serie de líneas rojas que no se debían traspasar. La reacción de Trump fue inmediata y etiquetó a la compañía como “riesgo para la cadena de suministro de seguridad nacional”, excluyéndola de incontables contratos.

Para algunos, el gesto de Amodei fue celebrado como algo casi heroico, frente a la capitulación de OpenAI unas horas después: cambiando toda las políticas de la empresa –algo que ha hecho una y otra vez en los últimos años–, Altman firmó el acuerdo con Hegseth, lo que hará que muy pronto OpenAI se halle incrustado en Maven. Si esto es así, ¿por qué en el bombardeo de la escuela de Minab participó Claude? Porque, en una de las cláusulas del acuerdo, Anthropic se comprometió a mantenerlo durante seis meses posteriores a su disolución. Paradójicamente, tal vez la empresa tecnológica que le dijo no a Trump sea la primera responsable pública de un crimen de guerra.

Una vez más, la IA no es la culpable de la matanza, sino quienes han decidido emplearla en usos bélicos autónomos. Un humano podría haber cometido el mismo yerro, sin duda, pero el Comando Central emplea ahora apenas un diez por ciento de humanos para supervisarla. Habría que decirlo de otro modo: si el único objetivo que se le da a una IA es la derrota del contrario, poco importarán los cien metros que separan a la Guardia Nacional de una escuela. Como demuestra el reciente episodio de Claude Mythos -su retirada antes de hacerse público ante su aparente peligrosidad-, quizás las IAs que ya tenemos sean capaces de un pensamiento estratégico que aún no hemos medido. Si de pronto les otorgamos agencia -y, en este caso, la peor de todas: la capacidad de asesinar a otros humanos-, nada impide que, en aras de cumplir sus objetivos, sean capaces de desdeñar las normas éticas más elementales. Y todo ello sin necesidad de que hayan cobrado conciencia o de que se hayan convertido en monstruos como el HAL9000 de 2001.