Red PaPaz alerta sobre el uso de IA para crear contenido de explotación sexual infantil: una emergencia digital que va en aumento
En el Día del Internet Seguro, la línea de reporte Te Protejo revela un preocupante incremento en el uso de aplicaciones de Inteligencia Artificial para generar material de abuso sexual infantil no consentido.
Red PaPaz hace un llamado urgente al Estado para regular estas tecnologías y a las plataformas para implementar seguridad por diseño.
Bogotá, febrero 10 de 2025. En el marco del Día del Internet Seguro, Red PaPaz e se suma como organización firmante de la declaración internacional “No a las herramientas de IA de desnudez” ante el aumento de aplicaciones que utilizan Inteligencia Artificial (IA) para manipular fotos y videos de niñas, niños y adolescentes con ropa, generando contenidos desnudos o sexuales no consentidos (conocidos como deepfakes).
De acuerdo con las últimas cifras de Te Protejo, se viene registrando un incremento de situaciones de explotación y abuso sexual con el uso de IA. Solamente en el 2025, se procesaron más de 15 casos en donde se han utilizado estas aplicaciones para crear cientos de imágenes ilegales y que afectan a menores de edad. Por su parte, a través de la línea de ayuda Te Guio, se ha evidenciado preocupaciones de niñas, niños, adolescentes y familias sobre el uso de IA para la creación de imágenes falsas con contenido sexual y el uso de agentes para el desarrollo de relaciones emocionales y sexuales.
Estos contenidos, además de ser ilegales, tienen un impacto emocional y psicológico devastador. Su carácter revictimizador se agrava al circular en plataformas digitales donde el desmonte total es casi imposible, lo que facilita delitos como la extorsión y el chantaje. La capacidad de la IA para generar estas imágenes de forma artificial y a gran escala ha dado paso a una alarmante ‘economía del abuso’, en la que agresores —incluyendo, en algunos casos, a los mismos pares— ya están monetizando la intimidad vulnerada de niñas, niños y adolescentes.
Es por esto que hacemos un llamado al Estado para que exija a las plataformas digitales y empresas de tecnología a cumplir con su corresponsabilidad en la protección de los derechos de niñas, niños y adolescentes
