Pedófilos utilizan la tecnología para crear y vender material que simula situaciones reales de abuso sexual
Algunos pedófilos utilizan la tecnología de Inteligencia Artificial (IA) para crear y vender material que simula situaciones reales de abuso sexual infantil, cuenta una investigadora a la BBC.
Logran el acceso a las imágenes pagando subscripciones a cuentas en sitios populares de intercambio de contenido como la plataforma Patreon.
La empresa declaró que tiene una política de “cero tolerancia” contra este tipo de imágenes en su sitio.
![](https://informado.mx/wp-content/uploads/2023/06/image-414.png)
El Consejo Nacional de Jefes de Policía en Reino Unido (NPCC) expresó que era “indignante” que algunas plataformas estuvieran percibiendo “enormes ganancias” al no adoptar una “responsabilidad moral”.
Por su parte, la agencia de inteligencia y ciberseguridad británica GCHQ respondió al informe diciendo: “Los criminales de abuso sexual infantil adoptan todas las tecnologías y algunos creen que el futuro del material de abuso sexual infantil yace en el contenido generado por IA”.
Los productores de las imágenes de abuso están utilizando un programa de IA llamado Stable Diffusion, cuya función original era para generar imágenes para arte o diseño gráfico.
![](https://informado.mx/wp-content/uploads/2023/06/image-416.png)
¿Cómo logran crear estas imágenes?
La IA posibilita a las computadoras realizar tareas que típicamente requieren inteligencia humana.
El software de Stable Diffusion permite a los usuarios describir la imagen que buscan, a través de palabras clave, para que el programa luego genere esa imagen.
Pero la BBC ha encontrado que se está usando para crear imágenes realistas de abuso sexual infantil, incluyendo la violación de bebés y menores.
Los equipos de la policía británica que investigan el abuso infantil online dicen ya haberse topado con ese contenido.
![](https://informado.mx/wp-content/uploads/2023/06/image-415.png)
Una “pseudo imagen” generada por una computadora que muestra abuso sexual infantil es considerada en Reino Unido como una imagen real y su posesión, publicación o transferencia son ilegales.
El director de protección infantil del consejo NPCC, Ian Critchley, dijo que sería incorrecto alegar que no se está causando daños a alguien por el hecho de que ningún menor real está representado en ese tipo de imágenes “sintéticas”.
Critchley advirtió que un pedófilo podría “progresar a lo largo de esa escala de ofensa partiendo del pensamiento, a lo sintético, hasta actualmente abusar un niño de verdad”.
![](https://informado.mx/wp-content/uploads/2023/06/image-417.png)
¿Cómo es que usan la IA para el comercio de abuso sexual infantil?
Algunos de los creadores de las imágenes las están colocando en una popular plataforma de redes sociales llamada Pixiv, que es principalmente usada por artistas de comparten manga y anime.
Debido a que el sitio está basado en Japón, donde el intercambio de dibujos animados sexuales y las ilustraciones de menores no son ilegales, los creadores lo utilizan para promover su trabajo en grupos y vía etiquetas, que crean índices de tópicos según palabras clave.
Un portavoz de Pixiv señaló que el sitio pone mucho énfasis en abordar este tema. Afirmó que el 31 de mayo había prohibido toda representación realista de contenido sexual que involucrara menores.
![](https://informado.mx/wp-content/uploads/2023/06/image-418.png)
La compañía aseguró que había fortalecido proactivamente sus sistemas de monitoreo y estaba destinando recursos sustanciales para contrarrestar los problemas relacionados al desarrollo de la IA.
Los comentarios de los usuarios sobre las imágenes individuales en Pixiv dejan claro que tienen interés sexual en menores, con algunos de ellos incluso ofreciendo aportar imágenes y videos de abuso que no ha sido generados por IA.
En Japón el intercambio de dibujos animados sexuales y las ilustraciones de menores no son ilegales.
![](https://informado.mx/wp-content/uploads/2023/06/image-419.png)
La IA incursiona en el comercio de abuso sexual infantil
Muchas de las cuentas en Pixiv incluyen vínculos a sus biografías que dirigen a la gente a lo que llaman sus “contenidos sin censura” dentro del sitio de contenido compartido Patreon, que está basado en Estados Unidos.
Patreon está valorado 4 mil millones de dólares y afirma contar con más de 250 mil creadores, la mayoría de estos son cuentas legítimas que pertenecen a celebridades, periodistas y escritores bien conocidos.
Sus seguidores pueden apoyar a los creadores afiliándose a una subscripción que les da acceso a blogs, podcasts, videos e imágenes por un costo que empieza en US$3.85.
![](https://informado.mx/wp-content/uploads/2023/06/image-420.png)
En la investigación se encontró que cuentas de Patreon ofrecen vender imágenes obscenas fotorrealistas de niños, con diferentes niveles de precio dependiendo del tipo de material requerido.
Uno escribió en su cuenta: “Yo entreno a mis niñas en mi PC”, añadiendo que despliegan “sumisión”. Por US$8.30 al mes, otro usuario ofreció “arte exclusivo no censurado”.
La BBC envió a Patreon un ejemplo, que la plataforma confirmó como “semi realista y viola nuestras políticas”. Dijo que la cuenta había sido inmediatamente retirada.
![](https://informado.mx/wp-content/uploads/2023/06/image-421.png)
Patreon afirmó que tiene una política de “tolerancia cero”, insistiendo que: “Los creadores no pueden financiar contenido dedicado a temas sexuales que involucran a menores”.
La compañía dijo que el aumento de contenido dañino generado por IA en internet era “real y preocupante”, añadiendo que había “identificado y eliminado “crecientes cantidades” de dicho material.
“Ya prohibimos material sintético de explotación infantil generado por IA”, manfiestó, describiendo el sitio como “muy proactivo”, con equipos, tecnología y socios dedicados a “proteger a los adolescentes”.
Comments