Attraverso i suoi algoritmi sempre più sofisticati, l’intelligenza artificiale generativa è in grado di manipolare video e immagini rendendo praticamente impossibile distinguere il vero dal contraffatto.
L’evoluzione tecnologica qui non porta benefici come in altri casi, ma mette a rischio la veridicità delle informazioni che ci arrivano: contamina i dati, le notizie, crea disguidi e disinformazione, mina la credibilità delle campagne politiche.
Siamo in un momento caldo – scriviamo mentre è in corso la competizione tra Donald Trump e Kamala Harris negli Stati Uniti – e tali vulnerabilità non possono che avere il loro impatto in campagna elettorale. Qui, la diffusione del Deep Fake gioca un ruolo sporco e non c’è altro mezzo per combatterla se non la consapevolezza delle persone comuni.
Abbiamo intervistato a tal proposito il gruppo di ricerca del CINI coinvolto nel progetto Europeo Horizon 2020 SOLARIS, guidato dal Prof. Daniele Nardi, ordinario di Intelligenza Artificiale presso la Sapienza Università di Roma.
Tale progetto, infatti, mira a sensibilizzare i comuni cittadini al tema della “contraffazione” delle informazioni.
CINI: con SOLARIS un aiuto contro le fake news
Seeweb: Chi è CINI e quale il suo ruolo nell’ambito dell’IA?
CINI: CINI (Consorzio Interuniversitario Nazionale per l’Informatica) costituisce oggi il principale punto di riferimento della ricerca accademica nazionale nei settori dell’Informatica e dell’Information Technology. Costituito da 49 Università pubbliche, è dotato di 13 laboratori, tra cui il laboratorio di Artificial Intelligence and Intelligent Systems, che si occupa di progetti riguardanti tecnologie che riguardano l’utilizzo di intelligenza artificiale, come SOLARIS.
SOLARIS è un progetto europeo che ci aiuterà a capire meglio come i contenuti creati dall’AI ci influenzano. Iniziato nel febbraio 2023 per avere una durata di 36 mesi, il progetto ci mostrerà come possiamo difenderci dalle “fake news” create dall’intelligenza artificiale e come usare questa stessa tecnologia per parlare di temi importanti come il clima e le disuguaglianze per creare una società digitale più consapevole e unita. La circolazione delle notizie false è un problema di fondamentale importanza per il benessere delle democrazie europee. I cittadini sono immersi in una enorme mole di dati e il diffondersi di notizie false potrebbe essere un problema da non sottovalutare. È recente, per esempio, la notizia di diffusione di fake news riguardanti la guerra in Ucraina dove contenuti generati dall’intelligenza artificiale sono stati diffusi in rete con l’obiettivo di veicolare gli utenti.
SOLARIS risponde a queste esigenze analizzando prima i rischi associati ai deepfake e successivamente stabilendo regole per mitigare e identificare deepfake.
Seeweb: Qual è il team che ci sta lavorando?
CINI: Il team è guidato dal prof. Daniele Nardi, professore ordinario presso la Sapienza Università di Roma, e comprende il Prof. Domenico Daniele Bloisi, professore associato presso l’Università Internazionale di Roma UNINT, il dott. Michele Brienza, studente del Dottorato Nazionale in Intelligenza Artificiale, e Lucrezia Sabatini, esperta in project management.
Seeweb: A quali utenti si rivolge Solaris e con quale obiettivo?
CINI: Il progetto SOLARIS si rivolge ai cittadini europei mostrando quello che l’intelligenza artificiale può produrre, sollevando un campanello d’allarme sulle notizie che ogni giorno vengono visualizzate in rete. Tramite il progetto è possibile utilizzare campagne di sensibilizzazione educando i cittadini europei a capire quali siano gli elementi a cui prestare attenzione durante la lettura di una notizia, in modo da creare in futuro una generazione di cittadini responsabili e in grado di mitigare il rischio dei deepfake.
Seeweb: Come SOLARIS fa sensibilizzazione sul tema del DeepFake?
CINI: SOLARIS riesce a sensibilizzare riguardo il tema deepfake tramite casi d’uso in cui gruppi di cittadini e stakeholder appositamente selezionati sono inclusi nella visione di deepfake e notizie reali analizzando quelle che sono le loro sensazioni e percezioni dei video a cui sono sottoposti.
Seeweb: Qual è il ruolo dell’IA generativa in SOLARIS e quali le tecniche utilizzate?
CINI: L’intelligenza artificiale generativa svolge un ruolo cruciale in SOLARIS, in particolare per la creazione di deepfake. Questi contenuti vengono infatti prodotti utilizzando reti neurali avversarie generative, note come GAN (Generative Adversarial Networks), che sono modelli di IA generativa in grado di creare nuovi dati simili a quelli reali utilizzati durante la fase di addestramento. Le GAN permettono di sostituire volti e realizzare video falsi in cui personaggi noti appaiono in situazioni o discorsi costruiti ad arte, diffondendo così notizie false attraverso contenuti visivamente credibili.
Seeweb: Intelligenza Artificiale e impatto su vita reale e politica: quali le implicazioni e perché vi siete interessati a questo tema?
CINI: L’intelligenza artificiale e tecniche come il voice cloning o i deepfake stanno rivoluzionando la vita reale e la politica, con implicazioni profonde sulla disinformazione, la manipolazione dell’opinione pubblica e la privacy. Queste tecnologie possono essere usate per creare contenuti falsi altamente realistici, influenzando elezioni e decisioni politiche. L’interesse nasce dall’urgenza di comprendere e regolamentare questi sviluppi per evitare abusi.
Seeweb: Quale il ruolo dell’infrastruttura su cui poggia SOLARIS?
CINI: Una delle peculiarità di SOLARIS risiede nella progettazione e realizzazione di una piattaforma in grado di facilitare la creazione di deepfake anche in assenza di uno specifico background tecnico. La piattaforma SOLARIS utilizza una architettura basata sul concetto di web service per fornire potenza di calcolo “virtuale” accessibile tramite desktop, tablet e smartphone.
Seeweb è partner tecnologico di SOLARIS garantendo la potenza di calcolo necessaria a creare i deepfake testati in SOLARIS.
