Ciudad de México.-  El chatbot Grok, desarrollado por la empresa xAI de Elon Musk e integrado a la red social X, enfrenta una reacción internacional luego de que se detectara un aumento en la generación de imágenes sexualizadas de mujeres y menores, creadas mediante inteligencia artificial sin consentimiento.

El caso detonó alertas en distintos países, luego de que la herramienta permitiera modificar imágenes de personas reales para producir contenido explícito. Reguladores y gobiernos han señalado el riesgo de estas tecnologías, en particular de las aplicaciones de “desnudamiento digital”, que fabrican imágenes falsas de carácter sexual.

En Reino Unido, la secretaria de Tecnología, Liz Kendall, exigió a X actuar de forma “urgente”, mientras que el regulador Ofcom estableció contacto con la plataforma para verificar el cumplimiento de la Ley de Seguridad en Línea, que obliga a prevenir y eliminar material de abuso sexual infantil.

En Polonia, un legislador citó el caso de Grok como uno de los motivos para impulsar una legislación de seguridad digital más estricta, enfocada en la protección de menores y en facilitar el retiro de contenido dañino.

La Comisión Europea también expresó su preocupación por el uso de Grok para generar contenido sexual explícito, incluidas imágenes con apariencia infantil, y advirtió que este tipo de material es ilegal bajo las normas comunitarias. La respuesta de X a requerimientos previos sigue bajo análisis.

En Francia, la fiscalía de París amplió una investigación en curso contra X para incluir la difusión de deepfakes sexuales, tras denuncias de legisladores y funcionarios. El gobierno subrayó que los delitos sexuales en línea son punibles al igual que los cometidos fuera de internet.

El gobierno de India emitió un ultimátum a X para retirar contenido ilegal y revisar el marco técnico de Grok, al considerar que existen fallas graves en sus salvaguardas. Malasia y Brasil también iniciaron investigaciones y exigieron explicaciones a la empresa por el uso de la IA para producir material obsceno o dañino.

Ante las críticas, X aseguró que elimina contenido ilegal y coopera con autoridades, aunque xAI respondió a solicitudes de comentarios con un mensaje automatizado que desacredita las denuncias. Mientras tanto, crece la presión internacional para que la plataforma refuerce controles y limite la generación de contenido explícito mediante inteligencia artificial.