Su Telegram l’impiego di bot di deepfake ha permesso a milioni di utenti di modificare le immagini di numerose donne senza il loro consenso. Attraverso l’intelligenza artificiale è possibile spogliare digitalmente le foto.
Negli ultimi anni si è assistita a un’esponenziale crescita di strumenti in grado di “spogliare” dei propri vestiti le foto di ignare ragazze attraverso l’intelligenza artificiale.
Gli utenti registrati a questi programmi sono numerosi, e colpiscono soprattutto le giovani donne. Un grosso problema è costituito soprattutto da Telegram, difficile da monitorare.
L’uso oscuro di Telegram
L’esperto informatico Henry Ajder è stato tra i primi a denunciare nel 2020 i bot che venivano utilizzati su Telegram per rimuovere i vestiti dalle foto o riprodurre immagini con persone intente a compiere atti sessuali. I contenuti espliciti creati erano più di 100.000, alcuni dei quali riguardanti dei minori.
La scelta di Telegram non è casuale: per molto tempo la piattaforma si è rifiutata di collaborare con le autorità, rendendo più facile ai malintenzionati usare questo canale per scambiare e vendere droghe, documenti falsi e immagini pedopornografiche.
La creazione di NCII continua a crescere in modo preoccupante
L’uso sempre più frequente dell’IA ha contribuito alla creazione di deepfake non consensuali, detti anche Non-consensual intimate imagery (NCII).
Il fenomeno è in costante crescita e può comportare ingenti danni per coloro che vengono coinvolti.
A fine settembre i bot su Telegram sembravano scomparsi. Ciononostante nuovi link sono stati creati per condividere nuove immagini. Stando ai dati pubblicati dal gruppo informatico Home Security Heroes tra il 2022 e il 2023 le immagini esplicite create con l’intelligenza artificiale sarebbero addirittura aumentate del 464%.
La sicurezza su Telegram presenta numerose falle nonostante negli anni la situazione sia lievemente migliorata, grazie a una maggiore collaboratività.
In che modo si creano i deepfake
A permettere la diffusione di contenuti intimi non consensuali sono diverse applicazioni, canali in grado di inviare messaggi a un numero potenzialmente infinito di iscritti e gruppi, che possono arrivare a contare fino a 200.000 persone.
In molti casi i bot fanno un esplicito riferimento alla nudità e alla rimozione di vestiti da immagini di donne, utilizzando parole specifiche.
In altri casi, invece, i bot non richiamano in alcun modo questo tipo di contenuti, ma offrono la possibilità di scegliere tra diverse immagini dalla chiara natura sessuale.
L’effetto dei deepfake sulle persone
Com’è facilmente intuibile, gli effetti che queste immagini hanno sulle persone possono essere devastanti.
Oltre a umiliazione, vergogna e profondi traumi, la salute mentale e il benessere di un individuo possono essere distrutti.
Ciò che è peggio è che nella maggior parte dei casi gli autori di questi reati non vengono puniti. A livello legale non sono ancora state adottate soluzioni realmente efficaci. Negli USA, ad esempio, solo 23 stati hanno regolamentato i deepfake.
Le foto sono molto realistiche e crearle è davvero semplice. Basta un click.
