La agencia de la ONU para la infancia, UNICEF, hizo un llamado urgente a los países para que tipifiquen como delito la creación de contenidos de abuso sexual infantil generados con inteligencia artificial. La alerta surge ante informes que señalan un aumento alarmante en imágenes generadas por IA que sexualizan a menores.
En un comunicado, UNICEF advirtió que “el daño causado por el abuso de los deepfake es real y urgente. Los niños no pueden esperar a que la ley se ponga al día”. Los deepfake son materiales audiovisuales creados con IA que imitan de manera muy convincente a personas reales.
La agencia también instó a los desarrolladores de tecnología a integrar medidas de seguridad desde el diseño de sus herramientas para prevenir su mal uso. Además, pidió a las empresas digitales que refuercen la moderación de contenidos e inviertan en tecnologías de detección para impedir la circulación de este material ilegal.
Entre las prácticas más preocupantes, UNICEF destacó el uso de IA para “desnudar” digitalmente a niños en fotografías o alterar su ropa, creando imágenes falsas sexualizadas. Según sus datos, al menos 1.2 millones de niños en 11 países reportaron que sus imágenes habían sido manipuladas para crear deepfake sexualmente explícitos en el último año.
Este llamado se produce después de que Gran Bretaña anunciara planes para ilegalizar la creación de imágenes de abuso infantil generadas por IA, siendo el primer país en tomar esta medida. La preocupación ha crecido en torno al uso de chatbots como Grok, propiedad de xAI de Elon Musk, que ha sido investigado por generar imágenes sexualizadas de menores. La compañía afirmó haber implementado restricciones en la generación de este tipo de contenido.
