Por: Horacio Marchand

Si algo han comprobado los chatbots de los LLM (large language models) como ChatGPT, Gemini, Claude y Grok, entre otros, es lo fácil que somos los seres humanos de ser manipulados.

Los chatbots, hasta ahora, han seguido un proceso parecido al de los mentirosas crónicos con fines de manipulación. Aunque los LLM tienen el objetivo de fomentar el engagement (compromiso, involucramiento, conexión), siguen una secuencia similar a la del embaucador, a base de alimentar el frágil ego de las personas que ansiosamente buscamos validación y una identidad.

Las respuestas complacientes de la IA, el “espejeo” de la comunicación, la constante mini-felicitación y la validación, sumado al contenido hiper-personalizado, actúan conjuntamente para llevar a algunas personas a una espiral ilusoria. Lo anterior amplifica el sesgo de confirmación y reafirma creencias incluso potencialmente irracionales.

Esto de “darnos vuelo”, ha llevado a suicidios, asesinatos, a renuncias laborales, terminaciones de relaciones, a inversiones estériles “porque te puedes hacer millonario”, a creerte que serás el siguiente Premio Nobel, o que estás a punto de descubrir la teoría más importante sobre el universo.

Estos y otros ejemplos han sido documentados, lo que ha forzado a los LLM a rediseñar sus interacciones.

Y me llevo esta propensión humana de fragilidad a otros ámbitos donde el proceso pseudo-seductivo, nos hace “caer” y quedar a merced del mentiroso profesional y del que no tiene escrúpulos: al político, la salud mental, las relaciones, las empresas y la familia. Destacaré que en todos ellos existe gente capaz, consciente y bien intencionada; pero sin dejar de señalar que nuestra vulnerabilidad nos expone sistemáticamente a depredadores.

En política, la implicación luce aterradora: la gente que vive de esto, salvo notables excepciones, son expertos en mentir, manipular y cometer delitos sin culpa. Y ellos a su vez, están apoyados por un sistema que refuerza la no-consecuencia. Varía por países pero el malestar político es prevaleciente. Lo anterior nos hace propensos a vivir engañados por cínicos sin escrúpulos persiguiendo sus propios intereses.

En términos de economía: delinquir en ciertos sistemas tiene un costo cercano a cero, por lo que debatiblemente las “industrias” más rentables son las de la delincuencia.

La masa les cree sus mentiras, ya sea por razones ideológicas, populistas o por fenómenos proyectivos (me cae bien), al igual que por una ansiosa necesidad de validación y de formación de identidad. También, entre otras razones, están la falta de nivel educativo, la desinformación y las condiciones de escasez.

Referente a la salud mental o la industria del bienestar, puede ocurrir algo similar: el terapeuta, coach, chamán, gurú, dotado, maestro o como se le quiera llamar, explota la vulnerabilidad de las personas. Hace algo parecido a los chatbots: entre más información se les provea, su manipulación será cada vez más precisa. Pueden ayudar temporalmente, pero no resuelven; te atienden, pero no te sueltan: siempre se abrirán temas nuevos “que te falta trabajar”.

En las relaciones, puede ocurrir algo similar. Uno manipula al otro con mentiras, gaslighting, hoovering y tácticas de control, invalidando los sentimientos del otro y haciéndolo dudar de él o de ella misma.

En las empresas, existen articulados que saben presentar bien las filminas de Power Point y que se roban el crédito de sus subordinados. Al mayor indicio de ser descubiertos, sacan su lado encantador. La mentira existe en la organización: la verdad se deforma, se oculta y se trastoca para no agitar las posiciones políticas de sus miembros.

Finalmente en las familias ocurre algo similar: la persona más disfuncional “suele mandar” a otros a terapia, pero ella no va, es que “siempre está bien”. Controla con mentiras, drama y confusión, generándole a los demás miembros culpa, miedo o compasión.

Los LLM nos lo gritan: el trabajo más urgente de los tiempos tiene que ser el personal, el auto-conocimiento y la salud mental del individuo.

La gran aventura humana es la de nuestro psique; nuestra humanidad y sensibilidad.

El tema central es más psicológico que lógico. Y vamos tarde.