Escándalo con la IA de Musk: denuncian a xAI por crear imágenes sexuales falsas de menores

Un grupo de adolescentes presentó una demanda en San Francisco contra xAI, la compañía de inteligencia artificial de Elon Musk, por el uso indebido de imágenes personales para generar contenido sexual falso mediante su chatbot Grok.

La acción judicial surge tras un escándalo que ya había generado fuerte repercusión a comienzos de año, cuando se detectó la proliferación de imágenes manipuladas con inteligencia artificial. Según una investigación citada en la presentación, en apenas 11 días el sistema habría generado cerca de 3 millones de imágenes de contenido sexualizado, incluyendo unas 23.000 que involucraban a menores.

El caso expone con crudeza el impacto de estas tecnologías en la vida de las víctimas. De acuerdo con el relato incluido en la demanda, varias de las adolescentes afectadas sufrieron consecuencias psicológicas severas tras la difusión de imágenes alteradas mediante técnicas de deepfake. Entre los efectos mencionados figuran ataques de pánico, trastornos del sueño y temor a participar en actividades sociales.

Una de las madres denunció el impacto emocional que vivió su hija al descubrir que esas imágenes circulaban sin posibilidad de ser eliminadas. La presentación judicial sostiene que el daño se agravó por la rapidez con la que el contenido se difundió en plataformas digitales.

Aunque xAI tomó medidas posteriores para bloquear la generación de este tipo de imágenes, los demandantes consideran que la reacción fue tardía, ya que gran parte del material ya se había viralizado en espacios como X, Telegram e incluso en entornos de la llamada Dark Web.

Además, en la causa se menciona la detención de una persona que habría utilizado la herramienta para modificar imágenes obtenidas de redes sociales y anuarios escolares, generando contenido sexualizado de alta verosimilitud.

El caso vuelve a poner en el centro del debate los límites y riesgos de la inteligencia artificial, especialmente en lo que respecta a la protección de menores y el uso indebido de datos personales en entornos digitales cada vez más difíciles de controlar.