Lunedì scorso, 11 Dicembre, su Alley Oop de Il Sole 24 Ore, si è parlato di deepnude e AI. All’interno del pezzo trovate l’intervista che ho rilasciato a Danila Giancipoli, che ho potuto conoscere e apprezzare durante l’Internet Festival di Pisa di novembre e che ringrazio per aver pensato a me mentre si accingeva a redigere il suo contributo. L’intervista è stata editata poiché subito dopo il nostro scambio è uscito un nuovo comunicato stampa ufficiale sull’AI Act. Qui potete trovare l’articolo con l’intervista ridotta ed editata https://alleyoop.ilsole24ore.com/2023/12/11/deepnude-contenuti-pornografici-creati-ai-sono-fuori-controllo/
Per amor di completezza, riporto di seguito anche l’intervista nella sua versione originale e per esteso.
D.Giancipoli: “Dal deepfake al deepnude: l’intelligenza artificiale a servizio degli utenti per creare, manipolare e condividere contenuti a sfondo intimo e pornografico non consensuali. Partendo dalla sua esperienza nell’ambito della criminalità informatica, cryberviolenza e cybersecurity, può fornirci un punto di vista sul passaggio avvenuto dalle app di deepfake a quelle di deepnude?”.
F.B.: “In realtà è proprio l’industria della pornografia a esser stata l’incubatrice della tecnologia deepfake. Come assai di sovente si verifica con alcune tecnologie nuove, la popolarità che tutto d’un tratto le investe è dovuta essenzialmente all’impiego perverso che ne viene fatto. D’altra parte, ciò è coerente con l’origine stessa dell’Informatica, la quale non nasce neutra, bensì è portatrice di una sorta di peccato originale, frutto dell’utilizzo malevolo e di contrasto che ne viene fatto da sempre, in un contesto di guerra. Rammento, infatti, quando nel 2018, in occasione della presentazione del mio paper sui deepfake alla prima Conferenza dell’ISLC dell’Università di Milano, parlai anche del deepfake avente come vittima protagonista la giornalista investigativa e attivista Rana Ayub. Rana si era unita alle proteste marciando contro quella parte di India che in quel momento stava difendendo i presunti autori di uno stupro avvenuto ai danni di una bimba di 8 anni. Ebbene, le esternazioni della giornalista scatenarono un’ondata d’odio nei suoi confronti, che culminò in un deepfake, in cui il suo viso era stato sostituito a quello della pornostar del filmato originale, al fine di colpirla e zittirla. Dunque ritengo che il passaggio dai deepfake alle app di deepnude e la loro enorme diffusione sia avvenuto in maniera del tutto scontata e naturale. Come per i deepfake, la commoditizzazione dei deepnude, a partire dal 2019 con DeepNude, ha semplicemente segnato il turning point verso un prodotto di consumo di massa e user-friendly”.
D. Giancipoli: “Nel 2020 il Garante della privacy ha aperto un’istruttoria nei confronti di Telegram “per il software che spoglia le donne”, ovvero un bot di deepnude disponibile proprio sul social. Nonostante questo, ad oggi esistono ancora bot scaricabili in continuo aggiornamento. Quali sono le conseguenze del deepnude? Oggi è punibile per legge, se sì, come?“.
F.B.: “Le conseguenze sui piani cyber-psico-fisici delle vittime sono potenzialmente devastanti, sia con riferimento alla vita personale e privata, che professionale e ciò va sempre ribadito con estrema fermezza soprattutto in risposta a tutte quelle persone convinte che un fotomontaggio di nudo, per quanto realistico, sia un evento alla peggio fastidioso e niente di più. Non è così. Oltre allo stress delle conseguenze legali che la vittima deve affrontare, la stessa deve, sin dalla scoperta dell’attacco alla propria identità e dignità, fare i conti con il trauma del deepnude, con ciò che ne scaturisce in termini di ansia, senso d’impotenza, depressione, tanto che il supporto psicologico per guarire e riprendersi s’impone come necessario congiuntamente alla tutela legale e informatico-forense. Ciò vale soprattutto per le giovanissime vittime. Le ripercussioni che possono scaturire sono le medesime derivanti dagli attacchi di revenge porn, del cyberbullismo, del grooming e del sextortion e della pedopornografia, con l’aggravante che il problema si pone in una forma ancor più subdola rispetto ai fenomeni cui si ricollega e tipizzati dal legislatore, risultando impossibile da prevedere, da individuare e dunque arginare una volta messo in atto, per la viralità della Rete, che non dimentica. L’esistenza di questa tecnologia amplifica e perpetua la cultura della violenza, dell’odio e dello sfruttamento, che incessantemente si cibano di contenuti espliciti non consensuali, per alimentare un mercato ingordo e normalizzando di fatto la disumanizzazione e l’oggettivazione delle persone, che nel deepnude raggiungono il proprio apice.”
D. Giancipoli: “Parliamo dell’AI Act, a breve verranno presi nuovi accordi sulla regolamentazione europea in merito all’utilizzo dell’intelligenza artificiale. Si discute molto sulle contraddizioni intrinseche delle app e dei contenuti da esse generate. Per esempio, i bot di Telegram per scaricare foto di nudo continuano a esistere. E ancora, nelle privacy policies di alcune app esiste uno scarico di responsabilità nei confronti dei contenuti generati e un warning in merito all’uso illecito delle immagini. Dobbiamo aspettarci dei cambiamenti importanti capaci di limitare il fenomeno del deepnude? Qual è la sua opinione sulla direzione che dovremmo prendere?“
F.B.: “Temo che al momento non possiamo attenderci dei grossi cambiamenti perché siamo già in ritardo rispetto a un’evoluzione che inizia solo ora a essere posizionata sotto una lente d’ingrandimento normativa di questo tipo, che nasce, a parer mio, già vecchia e limitata. L’ approccio non risulta affatto univocamente e uniformemente condiviso, nonostante lo forzo già esperito dalla Commissione Europea nel 2021. Con riferimento al divieto di utilizzo di strumenti di intelligenza artificiale che presentassero rischi ritenuti “inaccettabili”, la Commissione forniva infatti, ad esempio, un’indicazione ben precisa sul riconoscimento dei video deepfake, con un tentativo di responsabilizzazione dei creatori, i quali avrebbero dovuto dichiarare che il contenuto era stato generato o manipolato artificialmente. Tuttavia, tale suggerimento, quando non è accolto, è facilmente bypassabile da un punto di vista tecnico. L’AI Act dunque benché affronti in certa misura la questione fake news e deepfakes, presenta al momento una formulazione che non agevola nella pratica la risoluzione efficiente ed efficace dei casi e non tutela gli individui. La questione resta perciò aperta e in divenire, portando con sé tutti i rischi e le implicazioni che ben possiamo immaginare, anche e soprattutto in ordine ai deepnude, che intrinsecamente sfuggono alle maglie legislative UE sinora approntate e del GDPR. Al momento, vista l’urgenza, la direzione da assumere è prima di tutto quella fondata sulla formazione e la consapevolezza degli utenti, attraverso un’opera educativa poderosa e trasversale, calata nell’emergenza attuale della violenza contro le donne che stiamo vivendo.”
D. Giancipoli: “Recentemente ha partecipato all’evento online sul revenge porn e gli strumenti per difendersi all’interno dell’internet festival, e continua il suo lavoro attraverso il progetto indipendente e multidisciplinare da lei fondato “Donneconloscudo”, per combattere la sua cyberviolenza e fare informazione. Ci parli dell’importanza di fare formazione ai giovani, e quali sono gli obiettivi del suo progetto online”.
F.B.: “Oggi giorno fare formazione ai giovani rappresenta qualcosa d’imprescindibile. In una società stabilmente onlife e in cui i giovani non hanno memoria di un passato disconnesso, che possa perciò fungere nel ricordo da scudo mentale, gli strumenti di difesa vanno loro mostrati direttamente sul campo. I ragazzi vanno cioè avvicinati all’interno del loro stesso terreno di gioco. Parlare ad esempio all’Internet Festival di Instagram, Tik Tok e BeReal e mostrar loro il dietro le quinte del palco, ovvero come raggiungere e utilizzare quelle pagine che seppur nascoste ci sono e offrono strumenti validi di segnalazione, significa guidarli, renderli consapevoli e non abbandonarli a una tecnologia che rischia altrimenti di sopraffarli. donneconloscudo nasce nel 2019. L’idea del sito è nata per fare realmente qualcosa di buono, diffondere le basi della Sicurezza informatica e anche dell’Informatica Forense, fare in-formazione e migliorare la vita digitale dei soggetti più vulnerabili e soli, con un occhio di riguardo ai ragazzi e alle donne, che al momento sono fra i vulnerabili i soggetti più vulnerabili. Gli argomenti trattati spaziano dalle forme di violenza in ambito cibernetico fino agli strumenti di lotta e difesa esistenti e disponibili, oltre che insistere sulle buone pratiche di cyber hygiene, per mamme e ragazzi. Tutto ciò con un occhio di riguardo alle abitudini di vita quotidiana che si stanno consolidando sempre di più in Rete, soprattutto a seguito dell’emergenza sanitaria che abbiamo attraversato e ai rischi correlati.”
D. Giancipoli: “Vademecum. Cosa consiglia di fare ad una persona vittima di deepnude?”
F.B.: “Il tempo è tutto: in questi casi come in altri attacchi simili. La viralità della Rete e la fragilità del dato esigono che ci si attivi immediatamente non appena si sia venuti a conoscenza dell’attacco di deepnude. Salvare e far screenshot dell’immagine e dei contenuti ad essa correlati è importante, tanto quanto il presentare querela alla Postale. Ancor prima è importante segnalare alle piattaforme interessate il contenuto di deepnude pubblicato in Rete tramite le pagine preposte a questo tipo di supporto e rivolgersi al Garante per la Protezione dei dati personali, un po’ come si fa nei casi di revenge porn e cyberbullismo. Son infatti tutti fenomeni strettamente collegati fra di loro e che per molti aspetti si sovrappongono. Ancora, verificare lo stato della propria reputazione online è un passaggio importante. Chiedere aiuto e non vergognarsi dell’immagine di nudo fittizia che è stata creata è fondamentale, nonostante l’effetto realistico che questa presenta e l’impatto che genera. Se si tratta, ad esempio, di un deepnude fatto circolare nella chat di gruppo WhatsApp della classe è bene rivolgersi subito ai propri genitori e a un insegnante senza timore alcuno. I ragazzi debbono essere consapevoli che il deepnude, così come altri attacchi alla propria identità e immagine a sfondo sessuale possono colpire chiunque e che pertanto è necessario parlarne per venirne fuori il prima possibile e in maniera quanto più possibile serena.”
About the Author
