Il programma AI pubblica false foto di nudo di migliaia di donne

Un recente rapporto ha affermato che foto false di oltre 100.000 donne senza vestiti si sono diffuse attraverso l’applicazione Telegram, dopo che un programma di intelligenza artificiale è stato utilizzato per manipolare le loro immagini sui social media.

Il rapporto diffuso dalla società di ricerca “Sensity” indicava che alcune delle foto erano di minori.

Il software, utilizzato per manipolare le immagini, diceva che era stato progettato per “intrattenimento”.

La BBC ha testato il programma senza risultati significativi.

La società “Sensity” che il programma si basa sulla tecnologia “deepfakes”, che viene utilizzata per falsificare video pornografici di celebrità.

Ma il CEO Giorgio Patrini ha affermato che il passaggio ai selfie è relativamente nuovo. E ha avvertito che “avere un account sui social media con foto pubblicate al pubblico è sufficiente perché l’utente diventi un bersaglio” per la manipolazione.

Come funziona il programma?
Il programma si trova su un canale privato su Telegram e gli utenti possono inviare immagini di una donna per renderla senza vestiti in pochi minuti senza alcun costo.

La BBC ha ottenuto il consenso di un certo numero di persone per testare il programma sulle proprie immagini e nessuna delle immagini apparse nei risultati era completamente realistica.

È probabile che il programma utilizzato sia simile a un’applicazione simile che è stata bloccata l’anno scorso.

“Questo è intrattenimento e non include la violenza”, ha detto il responsabile della gestione del programma, che si presenta come il signor Pei. Ha aggiunto: “Nessuno ti ricatterà per questo, purché il risultato non sia realistico”.

Ha aggiunto che il team di lavoro sta seguendo le foto pubblicate e che “quando individuiamo immagini di minori, blocchiamo l’utente per sempre”. Ma ha anche detto che la decisione di condividere l’immagine con altri spetta all’utente che ha deciso di crearla con il programma.

Difendendo il relativo danno causato dall’uso del software, Pei ha detto: “Ci sono guerre, malattie e molte cose brutte e dannose nel mondo”.

Tegram non ha risposto a una richiesta di commento sul rapporto.

Secondo il rapporto “Sensiti”, tra luglio 2019 e 2020, circa 104.852 donne sono state prese di mira e le loro foto false sono state pubblicate.

Il rapporto afferma che alcune delle foto erano di ragazze minorenni, con un’indicazione che “alcuni utenti potrebbero ricorrere al programma per promuovere contenuti mirati ai bambini a livello sessuale”.

Secondo la società “Sensity”, l’applicazione è stata promossa sul sito di social networking russo “VKai”. Un sondaggio ha mostrato che la maggior parte degli utenti proviene dalla Russia e dai paesi dell’ex Unione Sovietica.

Tuttavia, i funzionari del sito “VKai” hanno affermato di non consentire contenuti o collegamenti simili sulla piattaforma e di bloccarne deliberatamente le fonti.

Telegram è stato bloccato in Russia fino all’inizio di quest’anno.

Il CEO di “Sensity” ha affermato che “molti di questi programmi o applicazioni non funzionano in segreto, perché non sono severamente vietati”, e ha espresso il suo timore di peggiorare la situazione fino a quando non saranno banditi.

Gli autori del rapporto hanno affermato di aver condiviso tutte le informazioni con Telegram, VK e le forze dell’ordine, ma non hanno ricevuto alcuna risposta.

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...