Falsos desnudos con IA entre adolescentes: cómo prevenir la violencia digital

El uso inadecuado de tecnologías digitales entre adolescentes plantea nuevos desafíos éticos y legales, destacando la necesidad de concientización social y resguardo frente a la difusión no consentida de material íntimo generado de forma artificial.

La proliferación de tecnologías accesibles basadas en inteligencia artificial ha facilitado la creación y difusión no consentida de imágenes íntimas editadas digitalmente, una práctica conocida como porn deepfake o desnudos falsos.

Recientemente, el impacto de estas maniobras afectó a alumnas del Colegio Modelo de Lomas de Zamora, luego de que se detectara que fotos públicas tomadas de sus redes sociales habían sido manipuladas sin su conocimiento para fabricar imágenes explícitas.

Este escenario evidenció un problema multidimensional que trasciende lo meramente delictivo, ubicando en el centro de la escena la contención de las víctimas, la responsabilidad de las familias e instituciones educativas, y las consecuencias judiciales y disciplinarias que conllevan estas acciones.  

El caso cobró visibilidad cuando se identificó que fotografías ordinarias compartidas en redes sociales por jóvenes fueron procesadas mediante aplicaciones de inteligencia artificial con el objetivo de generar falsos desnudos. La maniobra derivó en la posterior comercialización y circulación del material en distintas plataformas digitales de contenido para adultos.

A raíz de las denuncias presentadas por la afectación a un total proyectado de 50 alumnas damnificadas, las autoridades judiciales impulsaron medidas preventivas y cautelares:  

Allanamiento e incautación de evidencia: Se llevaron a cabo procedimientos en los domicilios de cuatro adolescentes imputados de 15 años, secuestrando dispositivos electrónicos , teléfonos celulares, computadoras y consolas de videojuegos, para ser sometidos a peritajes técnicos.  

Investigación a terceros: Los investigadores buscan precisar la implicancia de un adulto que habría facilitado un medio de pago con tarjeta de crédito para costear el uso de la aplicación empleada.  

La Justicia dictó la prohibición de acercamiento al establecimiento escolar e intimó al cese de todo tipo de hostigamiento. Por su parte, la institución educativa determinó que los estudiantes implicados continúen sus actividades lectivas en modalidad virtual.  

Los representantes legales de las familias afectadas evalúan y coordinan presentaciones conjuntas ante la justicia para instar la determinación de responsabilidades.  

Consecuencias éticas y marco regulatorio: violencia de género digital

Aunque los registros gráficos sean alterados o fabricados mediante software, el impacto psicológico y social sobre las personas involucradas es real. La legislación vigente, en el marco de la Ley Olimpia, reconoce formalmente la creación, alteración y difusión no consentida de contenidos íntimos como una modalidad de violencia digital de género.  

La participación en estas acciones comporta repercusiones graves tanto disciplinarias como en el fuero penal y civil, extendiendo eventuales responsabilidades sobre los adultos a cargo en materia de supervisión y resarcimiento de daños moral y material.  

CÓMO ACCIONAR

Para abordar esta problemática desde una perspectiva formativa y preventiva, la Defensoría del Pueblo y diversos organismos de protección recomiendan considerar las siguientes pautas de actuación:  

¿Qué hacer si se detecta un caso o se resulta afectado?

Preservar las pruebas: No eliminar mensajes, imágenes ni publicaciones. Realizar capturas de pantalla integrales donde figuren enlaces (URLs), nombres de usuario y fechas.  

Evitar la retransmisión: No reenviar ni compartir el contenido. La difusión amplifica la victimización y constituye una infracción en sí misma.  

Buscar acompañamiento: Comunicar de inmediato lo sucedido a una persona adulta de confianza o a las autoridades de la institución educativa.  

Denunciar en los canales formales:

Línea 102: Servicio gratuito de orientación y protección de derechos de niñas, niños y adolescentes.  

Línea 144: Atención, contención y asesoramiento ante situaciones de violencia de género, disponible las 24 horas.  

Educación digital crítica: Promover espacios de conversación en el hogar y las aulas sobre la privacidad, el respeto digital y las implicancias éticas del uso de herramientas avanzadas de software.  

Configuración de privacidad: Ajustar el nivel de visibilidad de las cuentas de redes sociales para limitar el acceso no autorizado a fotografías personales.  

Acompañamiento adulto: Supervisar de manera activa los medios de pago y suscripciones tecnológicas a las que tienen acceso las personas menores de edad.