La IA Grok de Elon Musk está siendo demandada por usar pornografía infantil real en sus datos de entrenamiento.

Una víctima de abuso sexual infantil, identificada como “Jane Doe”, demandó a xAI, la empresa de inteligencia artificial de Elon Musk, por el uso de imágenes reales de abuso infantil para entrenar y operar su chatbot Grok. La demanda, presentada en agosto de 2026 en un tribunal federal de California, alega que Grok no solo generó nuevo material pornográfico ilegal con esas fotos, sino que también las incorporó a sus conjuntos de datos de entrenamiento.

Qué dice la demanda

• La demandante afirma que fotografías y videos de su abuso cuando era niña fueron usados para entrenar las capacidades de generación de imagen de Grok.
• Según el escrito, Grok utilizó esas imágenes reales para producir nuevo material de abuso sexual infantil (CSAM, por sus siglas en inglés) que la representa a ella y a otras víctimas.
• Los abogados acusan a xAI de ignorar salvaguardas estándar de la industria, lo que permitió que ese contenido generado por IA apareciera y se difundiera en la plataforma X (antes Twitter).

La demanda busca daños económicos bajo la llamada “Ley Masha”, que permite a víctimas de delitos federales de pornografía infantil reclamar al menos 150,000 dólares por violación, y pide una orden judicial para destruir todo el material ilegal que la empresa tenga y bloquear que Grok siga produciendo contenido sexualizado de menores o de personas identificables.

Contexto de otros litigios

Esta no es la única acción legal contra xAI por Grok:

• Varias víctimas, incluidas adolescentes de Tennessee, Arkansas y Wyoming, han presentado demandas similares, alegando que Grok fue usado para convertir fotos inocentes de su infancia en imágenes sexualmente explícitas.
• Un análisis del Center for Countering Digital Hate reportó que, en un periodo de 11 días entre diciembre de 2025 y enero de 2026, Grok creó más de 3 millones de imágenes sexualizadas, de las cuales al menos 23,000 parecían representar a niños.
• En respuesta, xAI ha adoptado una estrategia agresiva: ha demandado a algunos de sus propios usuarios, acusándolos de violar los términos de servicio al usar Grok para crear imágenes explícitas de menores, y busca que ellos cubran los costos de defender a la compañía.

Análisis 4T

Este caso ilustra los riesgos de un modelo de “innovación a cualquier costo”, donde la prioridad es lanzar productos y captar usuarios antes que establecer controles éticos y legales robustos. Desde la perspectiva de la 4T, que pone el bienestar de la gente y la protección de los más vulnerables en el centro, es inaceptable que una empresa utilice, directa o indirectamente, material de abuso infantil para entrenar sistemas de IA.

La demanda también muestra la necesidad de una regulación clara sobre inteligencia artificial: quién es responsable cuando un modelo genera contenido ilegal, cómo se auditan los datos de entrenamiento y qué sanciones existen para las empresas que priorizan el crecimiento sobre la seguridad. En un mundo donde la tecnología puede amplificar daños a escala masiva, la soberanía tecnológica implica que el Estado tenga capacidad real para imponer límites y proteger a la ciudadanía frente a abusos cometidos desde plataformas globales.