La crisis de violencia escolar en el país tuvo un nuevo capítulo que involucra a la inteligencia artificial generativa. En Lomas de Zamora se produjo un caso crítico en el que alumnos crearon con IA imágenes con contenido sexual de sus propias compañeras, para distribuirlas por Internet y hasta ponerlas a la venta. En Mendoza hubo un caso similar y obligó a poner en funcionamiento el protocolo de la Dirección General de Escuelas (DGE) para trabajar este tipo de episodios.
El reciente episodio fue en el Colegio Modelo Lomas, del mencionado partido bonaerense. Los padres y alumnos hicieron una sentada en el ingreso, en protesta contra las autoridades de la institución, porque -según denuncian- conocían de la situación y no habían tomado medidas ni habían comunicado el hecho a los familiares.
Según trascendió, fueron alumnos de tercer año quienes crearon, compartieron y vendieron imágenes falsas de unas 40 compañeras. Las distribuyeron en distintas plataformas y páginas de contenido pornográfico.
En abril de este año ocurrió un caso similar en una institución del departamento de Lavalle. En esa ocasión, ante la gravedad del relato, los directivos y el apoderado legal del establecimiento formalizaron la denuncia en la sede judicial del municipio. La presentación apuntó a la creación y propagación de material prohibido de menores en entornos digitales, lo que derivó en la apertura de un expediente bajo la órbita de la Fiscalía de Delitos Contra la Integridad Sexual.
Cómo es el protocolo en Mendoza
En Mendoza, la Resolución 5679 publicada en octubre del año pasado aprobó el protocolo para casos de bullying e incluye líneas de acción tanto para la prevención, la intervención en el momento y la posvención de cada hecho. Además de un registro de esas intervenciones.
Tiene un enfoque conceptual respecto de qué se considera bullying, cómo está este mediado por los entornos digitales (ciberbullying), y cómo es considerada la violencia de índole sexual en este contexto.
Si bien el escrito no menciona explícitamente el término “inteligencia artificial”, clasifica y encuadra esta conducta de manera directa bajo la difusión no consentida de imágenes íntimas, la violencia sexual/de género y el ciberbullying. Considera que estas acciones son de “gravedad”.
El protocolo contempla las acciones a considerar en la etapa de intervención. Es decir, todo lo que se debe cumplir al momento en el que se detecta la problemática.
Consiste en una serie de pasos en los cuales la institución debe establecer la gravedad de cada acción con criterios específicos. Cuando se trata de ciberbullying, se debe evaluar la viralización, la permanencia del contenido en línea, el anonimato del acosador y el impacto psicológico en el estudiante acosado. Cuando se trata de violencia de género o sexual, las autoridades deben primero identificar si se encuadra en ese tipo de violencia. Esto incluye el acoso homofóbico, sexista, la difusión no consentida de imágenes íntimas y la estigmatización o juicio por algún comportamiento sexual real o percibido.
El escrito determina que estas formas de acoso se califican como “muy graves“ y entienden que puede aumentar significativamente esa gravedad, involucrando la necesidad de aplicar protocolos ya específicos de violencia de género.
La modalidad del ciberacoso implica una serie de medidas que debe tomar la institución. Por un lado, activar los gabinetes de equipos profesionales correspondientes, como el Servicio de Orientación Escolar (SOE) en la secundaria o la Dirección de Acompañamiento Escolar (DAE) en primaria. Deben realizar la notificación obligatoria a los organismos de protección de derechos de niños, niñas y adolescentes (conforme a la Ley 9054 y Ley 26.061), al Equipo Técnico Interdisciplinario (ETI) y a la Asesora de Menores.
En los casos graves en los que se trate de una conducta penalmente ilegal, debe radicarse una denuncia ante el Ministerio Público Fiscal.
También contempla la sanción de medidas disciplinarias, que deben tener ante todo una connotación formativa y luego reparatoria. En casos muy graves, hasta puede darse la suspensión temporal del agresor con un plan pedagógico de trabajo, siempre garantizando la continuidad de la trayectoria escolar.
El protocolo prohíbe enfrentar a las partes. Es decir, establecer una especie de mediación escolar. Así como no se deben juntar a las familias ni forzar actos de reparación como pedidos de disculpas. Tampoco se debe revelar la identidad de la persona acosada.
Luego, se realizan entrevistas con los actores. Con los acosadores, para fijar un mensaje de tolerancia cero para con esas acciones y concientizar (no punitizar meramente). Con los testigos que pudiesen haber recibido imágenes, para concientizar sobre el rol de los terceros y la importancia de no viralizar.
También hay que entrevistar a las familias de los actores, por separado.
En la última etapa deben hacer un seguimiento y monitoreo del caso. Acompañan a los estudiantes involucrados con reuniones periódicas y revisan el plan de acción. Todo queda registrado en el expediente iniciado, el cual es obligatorio.