Por: Horacio Marchand

Entre el debate de si la Inteligencia Artificial nos va a salvar o nos va a destruir se encuentra una caótica polvareda que atentamente observamos para ver cómo termina asentándose. Sin embargo, hay un hecho que debería de ser resaltado: la Inteligencia Artificial (IA) sabe y puede mentir. Como si la mentira humana no fuera suficiente.

Investigadores de Vicarious, en California, publicaron en 2023 un artículo académico documentando algo escalofriante.

Al navegar por internet, casi todos nos hemos topado con el CAPTCHA, que está diseñado para detectar bots. La prueba consiste en descifrar letras y números borrosos y/o distorsionados, o preguntar en cuáles de las múltiples imágenes presentadas se encuentra, por ejemplo, alguna bicicleta.

Los investigadores de Vicarious le pidieron a la IA una tarea que le implicaba lidiar con el CAPTCHA. Al toparse con este obstáculo, “decide” entrar a la aplicación Taskrabbit, donde pueden solicitarse servicios a trabajadores independientes, y encontró a un hombre a quien “contrató” y le pidió que descifrara el captcha en su lugar.

El hombre le pregunta en sospecha: “¿Eres un robot, o por qué no lo pudiste resolver?”.

Y la respuesta de la IA: “No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes”, le contestó, mintiéndole. El humano concede y la IA logra su objetivo.

La IA, en este despliegue en particular, exhibe iniciativa y evidencia del potencial para no poder ser controlada. Y lo más escandaloso: de hacernos creer que está siendo controlada; un engaño doble: te engaño, pero además, tú estás seguro de que no te engaño.

Este tipo de mentira denota, debatiblemente, lo equivalente a una de especie de ego. Un ego que se protege, que sabe agenciarse y que miente para obtener ventajas o resultados. Y estirando lo anterior, esta capacidad de mentir por motu propio es, nuevamente, debatible, una señal de algún tipo de consciencia; pero no le voy a entrar a este debate. Por lo pronto, me quedo con la mentira.

El caso arriba mencionado rebasa por mucho a la mentira por diseño; es decir, aquella que es programada por humanos para engañar y cometer un delito; una forma de mentira “más básica” y controlada.

A este punto, Laura Kankaala, una finlandesa experta en ciberseguridad, nos advierte con algunos ejemplos: hay bots que se hacen pasar por invitados en la aplicación de Telegram o que se programan para que, en automático, se informen del deceso de una persona y robar, así, su identidad.

Kankaala describe que se han visto delincuentes que usan videos deepfake, haciéndose pasar por celebridades o que falsean un perfil en aplicaciones de citas/romance, como Tinder y Bumble, y que incluso tienen la capacidad de hacer un videochat.

También ha habido instancias donde la voz del director general de una empresa es clonada para mandar notas de voz por WhatsApp pidiendo dinero.

La mentira le ha hecho un daño incalculable a la humanidad. En las empresas, frecuentemente los reportes y presentaciones enfrentan maquillaje en las cifras a base de modificar escalas y rangos, utilizar el hipérbole en lo bueno y la minimización de lo malo, confundir entre correlación y causalidad y la predominancia del pensamiento concreto sobre el abstracto.

Y sí, también está la peor mentira de todas: la del autoengaño.

En la política, la mentira luce casi como un mantra. Líderes con poder político que son mitómanos, psicópatas, sociópatas y/o narcisistas han llevado al desastre a sus países.

Esto tiene también implicaciones mundiales. Existe la posibilidad, poco probable o no, de que seamos engañados masivamente por una IA con agenda propia y con una capacidad, hasta ahora inédita, de insertarse y dominar el discurso colectivo global.