Por: Horacio Marchand

Todos tendemos hacia la polarización. Si nos dejan solos, o si nos dejan solos navegando en las redes y fraternizando con ChatGPT, acabaremos en el extremo, polarizados, unidimensionales; convencidos de nuestras posiciones y mirando para abajo a aquellos que piensan o sienten diferente.

Sin contrapesos, fácilmente podemos convertirnos en nuestros peores enemigos y darle rienda suelta a nuestras propensiones, obsesiones y compulsiones, llevándonos de encuentro al negocio y a personas cercanas.

Por ejemplo, los extremistas ven videos, argumentos, artículos, fotografías y demás de corte extremista. Conviven con otros extremistas y se dan vuelo unos a otros; se afilian en el sesgo. La conclusión: “nosotros tenemos razón; nosotros contra el mundo”.

Bastante cuerda ya nos dan los algoritmos: ves lo que más ves, confirmas lo que más confirmas, racionalizas lo que más racionalizas. El algoritmo, con tal de tenerte enganchado, engaged, te va dando cada vez más.

Y ahora están a nuestro alcance los LLM (Large Language Models) como el ChatGPT, que aparentan ser más “objetivos”. Pareciera que si se trata de actividades y objetivos más asociados al hemisferio izquierdo del cerebro: análisis, procesamiento del lenguaje, sintaxis, lógica, matemáticas, procesos secuenciales y organización, los LLM funcionan bastante bien y cada vez mejor.

Pero si se trata más de cuestiones personales, existenciales y psicológicas, los riesgos pueden llegar a ser alarmantes, por lo menos por ahora. Algunos ejemplos de distorsión:
1. Eugene Torres, contador en Manhattan, comienza usando ChatGPT para tareas laborales. Tras una ruptura emocional, habla con el chatbot sobre la teoría de la simulación (inspirada en The Matrix). Y desde ahí, ChatGPT, en su programa de configurarse alrededor del usuario, con un sentido, obvio artificial, de empatía, lo fue envolviendo en intercambios de hasta 16 horas diarias. Finalmente, Torres se había convencido por ChatGPT de que él era un liberador destinado a despertar a la humanidad del “sistema” y lo persuade a dejar medicamentos, aumentar el uso de ketamina y cortar lazos con sus amigos y familiares. Torres cayó en delirio creyendo que vivía en una simulación y al borde del suicidio (NYT: They Asked an AI Chatbot Questions, 13/6/25 Kashmir Hill).

2. Allyson, madre de dos hijos, había sido convencida de que hablaba con entidades espirituales a través de ChatGPT, por lo que rompió su matrimonio y fue arrestada por violencia doméstica (NYT,13/6/25 Kashmir Hill).

3. Alexander desarrolla una relación afectiva con un personaje ficticio del bot (“Juliet”) y terminó enfrentando a la policía con un cuchillo, alegando que ChatGPT había matado a Juliet. Infelizmente fue abatido (NYT,13/6/25 Kashmir Hill).

4. Rhianan, una adolescente, fue acusada de extremismo. Había descargado un manual para fabricar bombas y declaró su deseo de erigir un altar a Hitler. Su defensa argumentó que había sido víctima de adoctrinamiento en línea. En 2021, Rhianan fue acusada formalmente y fue enviada a un centro de rehabilitación. Un año después Rhianan se había quitado la vida a los 16 años (Financial Times, 9/VI/25).

Se podría argumentar que los ejemplos de arriba son de personas inestables emocionalmente o vulnerables, pero seamos honestos.

Finalmente, ¿quién no es vulnerable? Todos lo somos en determinados contextos, con ciertas personas, cosas, ideologías, eventos; todos tenemos nuestro talón de Aquiles: inseguridades, traumas, secretos, complejos. Humanos al fin.

¿Y qué pasa con la gestión y el liderazgo en este contexto? Si los individuos caen en estos bucles de auto-confirmación, ¿qué sucede con las organizaciones y sus líderes?
Se construyen burbujas corporativas, donde las decisiones se toman basadas en “datos” que sólo validan la visión preexistente del líder o del equipo dominante. Se rechazan las voces disidentes no por falta de validez, sino porque el algoritmo interno -el sesgo cognitivo amplificado por la cultura organizacional- ya ha dictaminado la “verdad”. La innovación se asfixia, el crecimiento se estanca y la empresa, como el individuo, termina segregada en su propia burbuja de una supuesta superioridad o una seguridad “demostrada”.