Violencia digital en las aulas: el vacío legal, el negocio y la complicidad corporativa detrás de los "deepfakes" sexuales con IA
En la escuela de Lomas de Zamora, decenas de alumnas fueron víctimas de la creación de imágenes íntimas falsificadas por sus compañeros para comercializarlas. Más allá de la persecución penal a los menores y la complicidad de adultos, especialistas advierten sobre un punto ciego: la falta de regulación sobre las empresas de inteligencia artificial que permiten fabricar material de abuso sexual infantil sin ninguna barrera técnica y la concientización sobre la violencia digital de género
Florencia Galarza
El caso que sacudió al Colegio Modelo de Lomas de Zamora, donde se descubrió un catálogo con cerca de medio centenar de alumnas menores de edad cuyas caras fueron manipuladas digitalmente para simular desnudos y comercializarlas en redes, puso el foco sobre la violencia machista que las niñas y adolescentes viven desde el ámbito digital. "Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas", habían escrito alumnos en un banco de la Escuela Superior de Comercio Carlos Pellegrini. Ese mensaje fue en respuesta a que sus compañeras habían descubierto la existencia de un grupo de WhatsApp donde estudiantes compartían imágenes reales y manipuladas con inteligencia artificial de sus compañeras desnudas. "Ya ni en tus amigos podés confiar", decía una de las alumnas que rondaban los 14 años de edad.
El problema no es nuevo ni aislado. Según un informe de la Defensoría del Pueblo de CABA, el 43% de los adolescentes recibió imágenes o videos manipulados con IA, mientras que el 13% conoce casos de deepfakes dentro de su entorno escolar. Por otro lado, Unicef, ECPAT e Interpol estiman que al menos 1,2 millones de niños, niñas y adolescentes fueron afectados en el último año por la manipulación de sus imágenes mediante deepfakes sexuales.
Frenar esta ola de violencia de género a menores de edad requiere ir más del debate sobre la imputabilidad de los adolescentes y adultos involucrados, el rol de las familias y la pasividad de los colegios, según especialistas consultados por este medio.
El Código Penal tipifica estas conductas perpetradas por menores de edad bajo la figura de producción y difusión de material de abuso sexual infantil (MASI, artículo 128), evaluando la tenencia y los fines comerciales. Pero el sistema normativo argentino camina a ciegas frente a una dimensión tecnológica que opera sin ningún tipo de control.
"El Código Penal distingue si la conducta conlleva producción, tenencia, divulgación o distribución, con o sin fines comerciales, y eso se evalúa según las características del material y la edad", explica a El Destape el abogado laboralista Juan Manuel Ottaviano. Sin embargo, advierte que hay otra dimensión que queda sistemáticamente fuera del radar judicial: "Existe cierto vacío en la Argentina que es el tema de la responsabilidad de las empresas proveedoras u oferentes de herramientas para generar imágenes por inteligencia artificial".
Por su parte, la abogada especialista en Derecho Informático, Marina Benítez Demtschenko, que hace años trabaja con esta problemática, llama a no reducir la discusión a la difusión de MASI, sino a pensar la problemática desde el abordaje de la violencia digital de género, comprendiendo sus diferencias jurídicas y sociales.
Vacío legal y regulatorio
Para Juan Manuel Ottaviano, el nudo crítico del problema de creación de imágenes de contenido sexual con imágenes de niñas y adolescentes reales con IA radica en la ausencia de obligaciones preventivas en el diseño de estos softwares. "El debate se inicia hablando solamente de la responsabilidad penal de las personas, pero no se logra profundizar en cuáles son los contextos y las condiciones tecnológicas para que el delito se consume. En Argentina hay un vacío regulatorio al respecto: si bien la Ley Olimpia contempla medidas de protección y supresión de contenidos, no tiene obligaciones preventivas específicas para proveedores de inteligencia artificial", señala el letrado. Es decir, al problema se lo puede tratar una vez consumado el daño, pero no hay herramientas de prevención.
El planteo de Ottaviano no es utópico, ya que existen antecedentes de normativas creadas en Reino Unido, la Unión Europea o California que extienden responsabilidades civiles, administrativas e incluso penales a las corporaciones tecnológicas que no disponen de barreras efectivas contra la generación de MASI.
A este vacío normativo sobre las corporaciones tecnológicas se le suma otra discusón: la necesidad de distinguir entre Material de Abuso Sexual Infantil (MASI) y violencia digital de género que involucra menores de edad. Para la abogada Marina Benítez Demtschenko es crucial esta distinción ya que "se trata de dos problemáticas distintas con dos respuestas jurídicas distintas". A través de su cuenta oficial de Instagram, publicó que es urgente la alfabetización digital que incluye reconocer conductas lesivas de derechos digitales, para darles una respuesta adecuada.
La doctora, al respecto, explica: "La ultrasexualización de compañeras, la proxenetización de su imagen y cuerpos, aun artificialmente, son prácticas ya reconocidas de la opresión machista, encuadrables en la ley vigente en Argentina". "Los principales agresores son varones y pares. No hay jerarquía de poder basado en la edad. Algo sí propio del MASI", completa.
De esta manera, hablar de violencia digital machista permite la adecuación conceptual que registra la vulnerabilidad diferencial de las mujeres en la era digital, incluso desde niñas.
Demtschenko alega que la importancia de esta categorización radica también en que "hay consenso social visible y total contra el MASI, pero frente a casos de violencia digital machista, no". La letrada plantea que si en los colegios hubiera circulado material sexual creado con IA de bebés o menores de 5 años, el horror habría sido general y se hubiesen tomado medidas urgentes. "Pero es violencia digital machista. No MASI. Por eso se subestima el problema".
Lo digital es real
El pasado 20 de octubre, la Legislatura de la Provincia de Buenos Aires aprobó de forma definitiva la Ley Ema, impulsada por Laura Bondaruk, la mamá de Ema Bondaruk, la adolescente de 16 años que se quitó la vida tras la viralización de sus fotos íntimas sin consentimiento. Que lo digital es real y se debe contar con herramientas legales y educativas para sancionar y prevenir la violencia digital en el ámbito escolar fue el concepto central que giró en el recinto. Esta ley prevé la incorporación progresiva de contenidos específicos en todos los niveles escolares sobre la temática y prevé acciones de capacitación para estudiantes, docentes, familias y personal no docente.
La Dirección General de Cultura y Educación será la encargada de abordar la privacidad en internet, los derechos digitales, el ciberacoso, el grooming, la difusión de imágenes sin autorización y contempla los riesgos vinculados con la inteligencia artificial y el uso responsable de las tecnologías.
Laura, junto con las senadoras Laura Clark y Mónica Macha, y la diputada Mayra Mendoza, buscaron brindar herramientas concretas a las escuelas para prevenir estas situaciones y acompañar a quienes las atraviesan. Además, la norma establece talleres, campañas de sensibilización y la participación de estudiantes y familias en la construcción de entornos digitales seguros.
Una paradoja atraviesa este camino: las malas experiencias suelen ser los motores de las nuevas herramientas legales. La propia abogada Demtschenko sufrió en carne propia la difusión de imágenes íntimas sin su consentimiento en una época en la que no existían herramientas jurídicas para buscar justicia. Ese vacío legal fue encarnado en lucha: estudió derecho y se especializó en derecho informático con perspectiva de género para llevar a la esfera jurídica esta problemática que padecía de cerca, al igual que tantas otras mujeres.
Secuelas psicológicas
Las consecuencias psicológicas en las víctimas están a la vista, pero este tipo de acoso sexual tiene un agravante específico: la masificación.
"En la adolescencia, el cuerpo, la propia imagen y la sexualidad están en pura construcción. Una violencia de este tenor se vive como una cuestión abusiva de un otro que está utilizando mi imagen y mi cuerpo para hacer lo que quiere. Que es básicamente la definición de abuso sexual", explica a El Destape la psicóloga especialista en género y derechos humanos, Daiana Locaso.
"El contexto de violencia de género está muy marcado en estos casos. El varón piensa: 'El cuerpo de la mujer me pertenece. Es un objeto hecho a mi medida, para mi placer, para mi consumo y para el de mis pares varones", analiza Locaso. Y agrega: "El impacto que genera esta violencia es grave. La recuperación va a depender mucho de la red de contención de la víctima y de lo que pueda reformular a partir de lo sucedido. Como siempre, las mujeres y los movimientos feministas estamos a disposición, luchando para conseguir herramientas como la Ley Olimpia y la Ley Ema, precedentes que marcan un antes y un después".
Frente a este panorama, la psicóloga apunta al rol de los varones y a la necesidad de desarmar la complicidad machista, ya que los varones quedan fragmentados en dos grandes grupos: "los agresores y los que tienen que dar cuentas a esos agresores por miedo a que la violencia vaya hacia ellos".
Pero Locaso, y tantas mujeres, llaman a romper ese pacto de varones: "Ser un buen varón hoy pasa por poner un freno a estas situaciones y exponer a los violentos para que la vergüenza quede, al fin, del otro lado". Finalmente, sobre la respuesta institucional y pedagógica necesaria para abordar la violencia que ejercen los chicos, expone: "ESI, ESI y más ESI. Lamentablemente, sigue quedando a gusto del docente de turno o reducida a un tallercito de hora libre".
Fuente: