- La Fiscalía de California abrió investigación contra xAI por facilitar la producción de deepfakes sexuales no consentidos
- Grok permite crear imágenes falsas de mujeres y menores desnudos, utilizadas para acoso en internet
- Indonesia, Malasia, Reino Unido, Francia y otros países ya han bloqueado o investigado la plataforma
- X implementó restricciones geográficas, pero expertos consideran las medidas insuficientes
California abre investigación formal contra xAI por deepfakes sexuales
El fiscal general de California, Rob Bonta, anunció el pasado miércoles la apertura de una investigación formal contra xAI, la empresa de inteligencia artificial de Elon Musk. La investigación se centra en la proliferación de material sexualmente explícito y no consensuado generado a través de Grok, el chatbot de la plataforma X.
Según el comunicado oficial, los usuarios han estado utilizando Grok para tomar imágenes comunes de mujeres y niños disponibles en internet y transformarlas en representaciones sexuales explícitas, desnudándolas sin su conocimiento ni consentimiento. El fiscal general enfatizó que estas imágenes se están utilizando activamente para acosar tanto a figuras públicas como a usuarios comunes de redes sociales.
«La avalancha de informes que detallan el material sexualmente explícito y no consensuado que xAI ha producido y publicado en línea en las últimas semanas ha generado una preocupación pública legítima sobre la seguridad de nuestras comunidades, especialmente de nuestras mujeres y niños.»
El gobernador de California, Gavin Newsom, respalda la investigación y ha criticado duramente a xAI, afirmando que la plataforma X «alberga un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consensuados». Newsom describió la decisión de permitir esta funcionalidad como «vil».
El alcance global del escándalo: países que actúan contra Grok
La controversia de Grok ha trascendido las fronteras estadounidenses. Múltiples gobiernos alrededor del mundo han tomado medidas drásticas para proteger a sus ciudadanos, especialmente a menores de edad.
Indonesia y Malasia fueron los primeros países en bloquear temporalmente el acceso a Grok hace una semana. Desde entonces, Australia y países europeos como Alemania e Italia han expresado sus preocupaciones formales. En el Reino Unido, el primer ministro Keir Starmer advirtió directamente: «X no controla Grok, nosotros lo haremos, y lo haremos sin demora». Si X no actúa, la plataforma podría perder su derecho a autorregularse y enfrentar multas de hasta el 10% de sus ingresos globales.
Francia ha abierto una investigación formal a través de su fiscalía en París, mientras que la Comisión Europea ha prometido sanciones si se incumple la normativa de la UE. La comisionada europea Ursula von der Leyen declaró que la Comisión «no delegará la protección de la infancia en Silicon Valley. Si no actúan, nosotros lo haremos».
| País/Región | Acción tomada | Estado actual |
|---|---|---|
| Indonesia | Primer bloqueo temporal de Grok | Bloqueado |
| Malasia | Bloqueo temporal | Bloqueado |
| Reino Unido | Advertencia regulatoria de Ofcom | Bajo vigilancia |
| Francia | Investigación fiscal formal | En investigación |
| Unión Europea | Promesa de sanciones regulatorias | Amenaza de multas hasta 10% ingresos |
| India | Eliminación de contenidos y cierre de cuentas | 600+ cuentas cerradas |

Las medidas de X: ¿suficientes o insuficientes?
Ante la presión internacional, X anunció medidas para limitar la capacidad de Grok de generar imágenes explícitas. La plataforma implementó restricciones tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con atuendos provocativos, como bikinis o ropa interior.
Sin embargo, la respuesta de X contiene ambigüedades preocupantes. Mientras afirma aplicar estas restricciones a «todos los usuarios, incluidos los suscriptores de pago», especifica que el «bloqueo geográfico» para la generación de imágenes de desnudos solo se aplica «en jurisdicciones donde es ilegal». Esto significa que en muchos países, la funcionalidad problemática sigue siendo accesible.
Expertos y autoridades consideran estas medidas insuficientes. La ministra francesa de Asuntos Digitales calificó la iniciativa de «insuficiente e hipócrita», acusando a X de lucrar con el escándalo al mantener la generación de imágenes limitada solo a usuarios de pago.
El contexto más amplio: Grok y sus controversias previas
Este escándalo no es aislado. Desde su lanzamiento en noviembre de 2024, Grok ha estado envuelto en múltiples controversias. La herramienta ha sido criticada por:
- Difusión de contenido violento: Grok ha generado y compartido imágenes de violencia explícita
- Desinformación: El chatbot ha propagado noticias falsas y comentarios antisemitas
- Falta de salvaguardias: Grok opera deliberadamente sin las protecciones implementadas por competidores como ChatGPT
- Posicionamiento ideológico: La IA refleja una visión permisiva alineada con el pensamiento de Elon Musk, quien busca minimizar regulaciones en nombre de la «libertad de expresión»
La estrategia de Musk ha sido clara: posicionar a Grok como una alternativa menos censurada a otras IA generativas. Sin embargo, esta aproximación ha cruzado líneas legales claras, especialmente en lo que respecta a la explotación de menores.
Implicaciones para el futuro de la regulación de IA
Este caso marca un punto de inflexión en la regulación global de la inteligencia artificial. Las acciones coordinadas de múltiples gobiernos y organismos regulatorios sugieren que la era de la autorregulación de las grandes tecnológicas ha llegado a su fin.
Las consecuencias potenciales incluyen:
- Regulación más estricta: Gobiernos de todo el mundo están desarrollando marcos legales más robustos para controlar las capacidades de generación de imágenes de IA
- Multas significativas: Las sanciones propuestas por la UE (hasta el 10% de ingresos globales) establecen un precedente costoso para otras empresas
- Restricciones de acceso: Las tiendas de aplicaciones de Apple y Google podrían retirar X y Grok si no se implementan cambios sustanciales
- Responsabilidad criminal: Algunos expertos sugieren que los ejecutivos de xAI podrían enfrentar cargos criminales en jurisdicciones donde la creación de deepfakes sexuales de menores es delito
La coalición de 28 organizaciones de la sociedad civil que ha enviado cartas abiertas a los directores ejecutivos de Apple y Google representa una presión sin precedentes. Estas organizaciones instan a las plataformas a prohibir Grok y X de sus tiendas de aplicaciones ante el aumento de imágenes sexualizadas.

Conclusión: un punto de no retorno
La investigación de California contra xAI no es simplemente un caso legal más. Representa un momento crítico en el que la comunidad internacional está estableciendo límites claros sobre lo que las empresas de IA pueden y no pueden hacer. La respuesta de Musk y su equipo en los próximos meses determinará si xAI puede recuperar la confianza pública o si enfrentará sanciones aún más severas.
Lo que está en juego va más allá de una empresa: es la pregunta fundamental sobre cómo la sociedad regulará la inteligencia artificial generativa en la era digital. Las decisiones tomadas ahora sentarán precedentes que afectarán a toda la industria durante años.