Hipertrucatges sexuals: analitzem un cas a l'aula
Amb el curs 23/24 engegat, va transcendir, primer a les xarxes socials, després als mitjans, que adolescents d’entre 12 i 14 anys d’un institut d’Almendralejo (Extremadura) havien agafat fotografies de companyes, les havien despullat amb eines d’IA, i les havien difós.
La notícia va causar commoció i va generar preocupació social. El cas Almendralejo està documentat com el primer de deepfakes o hipertrucatges sexuals que involucraven a menors en Espanya, i va tenir una gran repercussió mediàtica. Després d’aquest cas, però, se n’han produït d’altres. És fàcil trobar aplicacions d’intel·ligència artificial que, sense cap mena de control ni restricció, ofereixen transformar i crear hipertrucatges. Aquesta situació ens porta a dades estadístiques horribles, com ara que la pornografia feta a partir de deepfakes representa el 98% de vídeos falsos que circulen per internet, i que el 99% d’aquests vídeos són de dones.
Els hipertrucatges sexuals no són cap broma: són una forma de violència sexual digital que vulnera la intimitat, la dignitat i els drets de les persones afectades. Abordar-ho a l’aula des de la perspectiva de l’educació mediàtica, implica que l’alumnat
- entengui què és un hipertrucatge i com funciona la IA generativa,
- reconegui la pràctica com una forma de violència masclista digital,
- identifiqui els riscos i l’impacte emocional, social i també legal que té generar-los i/o compartir-los,
- reflexioni sobre el consentiment, el respecte a la imatge personal i sobre el civisme digital,
- i desenvolupi estratègies de prevenció, de suport a les víctimes i d’actuació responsable a les xarxes.
En el marc de Dia Internacional per a l’Eliminació de la Violència envers les Dones, a l’eduCAC et proposem una anàlisi de cas a secundària per treballar elements com l'ètica de la intel·ligència artificial, el consentiment i la responsabilitat legal i col·lectiva. Es plantegen els fets d'Almendralejo i les conseqüències amb un objectiu final, la prevenció. La idea és que l'alumnat no es limiti a identificar què són els deepfakes, sinó que analitzi una situació real, identifiqui els drets vulnerats, valori les responsabilitats dels diferents actors i reflexioni sobre com hauria d'actuar davant d'un cas semblant.