Las aplicaciones de “nudificación” de inteligencia synthetic que crean imágenes sexuales de niños de profundidad deben ser prohibidas de inmediato, en medio de los crecientes temores entre las adolescentes de que podrían ser víctimas, el comisionado de niños de Inglaterra es advertencia.
Las niñas dijeron que estaban dejando de publicar imágenes de sí mismas en las redes sociales por temor a que las herramientas generativas de IA pudieran usarse para eliminar digitalmente su ropa o sexualizarlas, según el informe del Comisionado sobre las herramientas, aprovechando las experiencias de los niños. Aunque es ilegal crear o compartir una imagen sexualmente explícita de un niño, la tecnología que les permite seguir siendo authorized, señaló el informe.
“Los niños me han dicho que están asustados por la concept misma de que esta tecnología está disponible, y mucho menos que se use. Temen que cualquiera, un extraño, un compañero de clase o incluso un amigo, podría usar un teléfono inteligente como una forma de manipularlos creando una imagen desnuda usando estas aplicaciones a medida”, dijo la comisionada, Dame Rachel de Souza.
“El mundo en línea es revolucionario y evoluciona rápidamente, pero no hay una razón positiva para que existan estas aplicaciones particulares. No tienen lugar en nuestra sociedad. Herramientas que usan tecnología Deepfake para crear imágenes desnudas de niños no deben ser legales y estoy pidiendo al gobierno que tome medidas decisivas para prohibirlos, en lugar de permitirles ir a verificar con consecuencias de los valores reales extremos”.
De Souza instó al gobierno a introducir un proyecto de ley de AI que requeriría que los desarrolladores de herramientas de Genai aborden los riesgos que sus productos posan y a implementar sistemas efectivos para eliminar las imágenes de niños confake sexualmente explícitas. Esto debe ser respaldado por la formulación de políticas que reconoce el abuso sexual de Deepfake como una forma de violencia contra las mujeres y las niñas, sugirió.
Mientras tanto, el informe insta a OFCOM a garantizar que la verificación de edad en las aplicaciones de nudificación se aplique adecuadamente y que las plataformas de redes sociales eviten que se promuevan las herramientas profundas sexualmente explícitas a los niños, en línea con la Ley de Seguridad en línea.
El informe citó una encuesta de 2025 por Girlguiding, que encontró que el 26% de los encuestados de 13 a 18 años había visto una imagen de profundo sexualmente explícito de una celebridad, un amigo, un maestro o ellos mismos.
Muchas herramientas de IA parecen trabajar solo en cuerpos femeninos, lo que el informe advirtió está alimentando una cultura creciente de misoginia.
Una niña de 18 años le dijo al Comisionado: “La narrativa de Andrew Tate y los influenciadores así … respaldados por una industria porno bastante violenta y de convertirse en más influyente está haciendo que AI sea algo que puede usar para que siempre pueda presionar a las personas para que salgan con usted o que hagan actos sexuales con usted”.
El informe señaló que existe un vínculo entre el abuso de Deepfake y la ideación suicida y el TEPT, por ejemplo, en el caso de Mia Janin, quien murió por suicidio en marzo de 2021.
De Souza escribió en el informe que la nueva tecnología “confronta a los niños con conceptos que aún no pueden entender”, y está cambiando “a tal escala y velocidad que puede ser abrumadora tratar de controlar el peligro que presentan”.
Los abogados le dijeron a The Guardian que estaban viendo esto reflejado en un aumento en los casos de adolescentes que fueron arrestados por delitos sexuales porque no entendieron las consecuencias de lo que estaban haciendo, por ejemplo experimentando con defectos profundos, estar en un chat de WhatsApp donde las imágenes explícitas están circulando, o mirando porno con niños su propia edad.
Danielle Reece-Greenhalgh, socia del bufete de abogados Corker Binning, que se especializa en delitos sexuales y posesión de imágenes indecentes, dijo que la ley estaba “tratando de mantenerse al día con la explosión en la tecnología accesible de Deepfake”, que ya estaba planteando “un gran problema para la aplicación de la ley que intentaba identificar y proteger a las víctimas de abuso”.
Señaló que las prohibiciones de aplicaciones eran “probablemente provocar debate sobre las libertades de Web”, y podría tener un “impacto desproporcionado en los hombres jóvenes” que estaban jugando con el software program de IA sin darse cuenta de las consecuencias.
Reece-Greenhalgh dijo que, aunque el sistema de justicia penal trató de tener una “visión de sentido común y evitar criminalizar a los jóvenes por delitos que se asemejan a un comportamiento adolescente regular … que podría haber sucedido previamente detrás de un cobertizo de bicicletas”, los arrestos podrían ser experiencias traumáticas y tener consecuencias en la escuela o en la comunidad, así como lo más tiempo, así como una repercusión más larga, como la necesidad de tener una referencia más avanzada.
Matt Hardcastle, socio de Kingsley Napley, dijo que había un “campo minado para los jóvenes en línea” en el acceso a contenido sexual y violento ilegal. Dijo que muchos padres no sabían lo fácil que period para los niños “acceder a las cosas que los llevan a un lugar oscuro rápidamente”, por ejemplo, aplicaciones de nudificación.
“Lo están mirando a través de los ojos de un niño. No pueden ver que lo que están haciendo es potencialmente ilegal, así como bastante perjudicial para usted y otras personas también”, dijo. “Los cerebros de los niños todavía se están desarrollando. Tienen un enfoque completamente diferente para la toma de riesgos”.
Marcus Johnstone, un abogado felony especializado en delitos sexuales, dijo que estaba trabajando con un “número cada vez mayor de jóvenes” que fueron atraídos por estos crímenes. “A menudo, los padres no tenían concept de lo que estaba pasando. Por lo normal, son hombres jóvenes, muy raramente mujeres jóvenes, encerradas en sus habitaciones y sus padres piensan que están jugando”, dijo. “Estos delitos no existían antes de Web, ahora la mayoría de los delitos sexuales se comprometen en línea. Se creó un foro para que los niños se conviertan en delincuentes”.
Un portavoz del gobierno dijo: “Crear, poseer o distribuir materials de abuso sexual infantil, incluidas las imágenes generadas por IA, es aborrecible e ilegal. Según las plataformas de la Ley de Seguridad en línea de todos los tamaños, ahora tienen que eliminar este tipo de contenido, o podrían enfrentar multas significativas.
“El Reino Unido es el primer país del mundo en introducir más delitos de abuso sexual infantil de IA, lo que hace que sea ilegal poseer, crear o distribuir herramientas de IA diseñadas para generar materials atroz de abuso sexual infantil”.
-
En el Reino Unido, el NSPCC ofrece apoyo a los niños en el 0800 1111, y los adultos preocupados por un niño en 0808 800 5000. La Asociación Nacional para las personas abusadas en la infancia (NAPAC) ofrece apoyo para los sobrevalores de adultos en 0808 801 0331. En los Estados Unidos, llame o envíe un mensaje de texto a la línea de tiempo de abuso de niños en 800-422-4453. En Australia, los niños, los adultos jóvenes, los padres y los maestros pueden contactar a la Línea de Línea de Infantil en 1800 55 1800, o Bravehearts en 1800 272 831, y los sobrevivientes adultos pueden contactar a Blue Knot Basis en 1300 657 380. Se pueden encontrar otras fuentes de ayuda en Little one Helplines Worldwide Worldwide
