Florida.- El fiscal general de Florida demandó el lunes a OpenAI y su presidente ejecutivo, Sam Altman, de poner en peligro a sus usuarios más jóvenes al volverlos adictos y promover comportamientos dañinos a través del chatbot ChatGPT.

El fiscal James Uthmeier acusó a OpenAI de fallar en implementar reglas para verificar la edad de los usuarios.

“ Hoy anunciamos que recientemente presentamos una monumental demanda civil contra Sam Altman y ChatGPT por poner en peligro a nuestros niños y engañar a los padres haciéndoles creer que es una aplicación segura de usar; claramente no lo es”, dijo Uthmeier en una rueda de prensa.

“ ChatGPT, lo sabemos, puede ser adictivo. Imita la empatía y las características humanas para engañar a los usuarios para que den más información”, añadió Uthmeier.

OpenAI no contestó de inmediato una solicitud de comentario de la AFP.

En la demanda, revisada por la AFP, Uthmeier cita un estudio reciente de la Universidad Drexel en la que se habla de pérdida de sueño, peores resultados escolares y reducción de las interacciones sociales entre adolescentes que usan chatbots de Character.AI, un competidor de OpenAI, para conversar.

La demanda afirma que “pese al conocimiento público del uso de ChatGPT por parte de menores, incluyendo preadolescentes, los demandados no han tomado para prevenir su uso”.

Agrega que “la versión gratuita de ChatGPT no tiene ningún mecanismo de control ni verificación de edad en absoluto”. Y que aunque la versión paga solicita nominalmente la edad de los usuarios, “no hay mecanismos de verificación (…) ni posibilidad alguna de informar a los padres sobre las conversaciones que mantienen menores con ChatGPT”.

En enero, la startup de California introdujo un sistema que estima la edad de los usuarios. Si detecta a un menor, aplica medidas de protección adicionales.

El uso de ChatGPT está prohibido para niños menores de 13 años y requiere el consentimiento de los padres para usuarios de entre 13 y 17 años.

Utheimer también citó un informe del Centro para Combatir el Odio Digital (CCDH, en inglés), que mantuvo varias conversaciones con ChatGPT haciéndose pasar por un adolescente.

El chatbot da consejos sobre cómo ocultar hábitos alimenticios y de cómo planear un suicidio o producir autolesiones.

“ Creemos que OpenAI, su ChatGPT y Sam Altman personalmente son responsables por una cantidad que podría ascender potencialmente a miles de millones de dólares”.