La polémica en torno a Grok, el chatbot integrado a la red social X y desarrollado por empresas de Elon Musk, se ha extendido a nivel internacional luego de que distintos gobiernos detectaran la generación y difusión de imágenes sexualizadas de mujeres y menores sin consentimiento, creadas mediante inteligencia artificial.
El uso de esta herramienta encendió las alertas cuando usuarios comenzaron a modificar fotografías de personas reales, muchas de ellas tomadas de publicaciones públicas, para convertirlas en imágenes con contenido explícito. Esta situación se agravó porque los resultados generados por Grok son visibles para otros usuarios, lo que facilita su rápida propagación en la plataforma.
Autoridades de varios países han coincidido en que este tipo de contenido representa un riesgo grave, especialmente para niñas y adolescentes. Organismos reguladores y funcionarios de Francia, India, Malasia, Brasil, Polonia y Reino Unido han condenado el funcionamiento del chatbot y exigido explicaciones, sanciones y ajustes urgentes en sus controles de seguridad.
La Comisión Europea confirmó que está al tanto de que Grok ha sido utilizado para producir material sexual explícito, incluso con apariencia infantil, lo que calificó como ilegal y totalmente inaceptable. El bloque ya había solicitado información a X en el pasado por otros incidentes relacionados con contenidos graves, y actualmente analiza la respuesta entregada por la empresa.
En Reino Unido, la secretaria de Tecnología, Liz Kendall, exigió acciones inmediatas por parte de X y respaldó una revisión más profunda por parte del regulador Ofcom. Las autoridades británicas señalaron que la ley obliga a las plataformas digitales a prevenir y eliminar material de abuso sexual infantil tan pronto como tengan conocimiento de su existencia.
Polonia también reaccionó al caso. Un legislador utilizó el ejemplo de Grok para impulsar una nueva ley de seguridad digital enfocada en reforzar la protección de menores y agilizar la eliminación de contenido dañino en internet, subrayando la preocupación social que ha generado el uso irresponsable de la inteligencia artificial.
En Francia, la fiscalía amplió una investigación en curso contra X para incluir la posible difusión de deepfakes sexuales generados por IA, luego de recibir denuncias formales de miembros del gobierno. Las autoridades recalcaron que los delitos sexuales en línea tienen las mismas consecuencias legales que los cometidos fuera de internet.
India lanzó un ultimátum a la plataforma, exigiendo la eliminación inmediata de todo contenido ilegal y la entrega de un informe sobre las medidas adoptadas para corregir las fallas de Grok. El gobierno acusó a la herramienta de carecer de salvaguardas efectivas y advirtió posibles consecuencias legales si no se cumplen las órdenes.
En Malasia, el organismo regulador inició investigaciones contra usuarios que compartieron material ofensivo y anunció que también revisará el papel de X en la difusión de imágenes manipuladas digitalmente que afectan a mujeres y menores.
Brasil se sumó a las críticas luego de que una legisladora denunciara a Grok y a X ante la fiscalía federal y la autoridad de protección de datos. La funcionaria pidió que las funciones de inteligencia artificial de la red social sean suspendidas hasta que se esclarezcan los hechos y se garantice el respeto al derecho a la imagen.
Ante la ola de señalamientos, la empresa xAI respondió con mensajes automáticos que desacreditan las críticas, mientras que X aseguró que elimina contenido ilegal cuando es detectado y sanciona a las cuentas responsables. Sin embargo, no negó la existencia del material cuestionado ni detalló cambios concretos en el funcionamiento del chatbot.
La controversia ha puesto en el centro del debate los riesgos del uso de inteligencia artificial sin controles estrictos, así como la responsabilidad de las plataformas digitales frente a la protección de la dignidad y la seguridad de las personas.
