Dal Politecnico di Milano due ricerche europee per smascherare deepfake visivi e vocali
I laboratori dell’ateneo milanese hanno concluso i progetti FF4ALL e FUN-Media, sviluppando strumenti avanzati per rilevare contenuti sintetici e contrastare la disinformazione digitale
Il Politecnico di Milano ha portato a termine due progetti di ricerca europei dedicati all’individuazione dei deepfake: FF4ALL, focalizzato su immagini e video sintetici, e FUN-Media, incentrato sulla contraffazione audio. A condurre le attività è stato l’Image and Sound Processing Lab (ISPL) del Dipartimento di Elettronica, Informazione e Bioingegneria, con il coordinamento dei professori Stefano Tubaro e Paolo Bestagini e il contributo dei ricercatori Sara Mandelli e Luca Comanducci. Entrambe le iniziative sono state finanziate attraverso fondi PNRR e rappresentano un contributo concreto allo sviluppo di tecnologie forensi affidabili in un ecosistema mediatico sempre più esposto alla manipolazione digitale.
Quando il falso diventa indistinguibile: la sfida dei video sintetici
Il progetto FF4ALL ha preso le mosse da un problema tecnico di crescente rilevanza: l’esistenza di tecniche capaci di trasformare immagini reali in versioni sintetiche di qualità tale da rendere ardua qualsiasi verifica di autenticità, cancellando al contempo le tracce utili all’analisi forense. In risposta, i ricercatori dell’ISPL hanno elaborato nuovi strumenti per il rilevamento di volti sintetici, fondendo informazioni geometriche tridimensionali con caratteristiche strutturali del viso. Questi sistemi dimostrano una buona capacità di generalizzazione e mantengono prestazioni solide anche dopo operazioni di post-processing come compressione o editing, che tradizionalmente degradano l’efficacia dei detector.
Rendere trasparenti le decisioni dell’intelligenza artificiale
Un aspetto particolarmente innovativo del progetto riguarda non solo la capacità di individuare i falsi, ma la comprensione dei meccanismi con cui i sistemi di rilevamento arrivano a quella conclusione. «Comprendere su quali elementi basino le proprie decisioni è cruciale per aumentarne l’affidabilità» ha dichiarato il professor Tubaro. I modelli di intelligenza artificiale addestrati su grandi volumi di dati tendono infatti a operare come scatole nere, rendendo opaco il processo classificatorio. Per affrontare questo limite, sono state sviluppate tecniche capaci di identificare le regioni del volto più determinanti nella classificazione, aumentando la trasparenza dei detector.
Il progetto ha inoltre esaminato l’impatto delle nuove tecnologie di compressione basate su intelligenza artificiale, che possono introdurre artefatti difficili da distinguere da quelli prodotti da una manipolazione intenzionale.
Il dataset WILD: una risorsa condivisa per la ricerca internazionale
In collaborazione con le università partner europee, l’ISPL ha realizzato il dataset WILD, una raccolta di immagini false generate da venti modelli generativi di ultima generazione. Si tratta di uno strumento pensato per supportare la ricerca sull’attribuzione dei contenuti sintetici, ovvero per risalire alla specifica tecnologia impiegata nella loro creazione. Si tratta di un passaggio essenziale per la forensics digitale e per eventuali applicazioni in ambito legale.
La voce clonata come minaccia emergente: il progetto FUN-Media
Se FF4ALL si è occupato del dominio visivo, FUN-Media ha rivolto l’attenzione a una minaccia ancora sottovalutata: i deepfake vocali. Per affrontarla, i ricercatori hanno sviluppato nuove architetture basate sui modelli Mixture of Experts, sistemi che combinano più detector specializzati per garantire prestazioni elevate anche di fronte a tecniche generative mai incontrate durante la fase di addestramento. Questa flessibilità li rende particolarmente adatti a scenari in rapida evoluzione, dove i metodi di sintesi vocale si aggiornano con frequenza superiore alla capacità di addestramento dei modelli tradizionali.
Una seconda linea di ricerca ha esplorato i detector basati sul rilevamento di anomalie: addestrati esclusivamente su voci autentiche, questi modelli imparano a riconoscere le caratteristiche del parlato naturale e segnalano come anomali i contenuti che se ne discostano, senza dover essere esposti a campioni sintetici in fase di training.
Identificare chi ha generato un audio falso: il problema dell’attribuzione
«Il progetto ha affrontato anche il problema dell’attribuzione, ovvero l’identificazione della tecnologia generativa responsabile della creazione di un contenuto audio» ha spiegato il professor Bestagini. I ricercatori hanno sviluppato detector in grado di stabilire se due tracce vocali siano state prodotte dallo stesso modello generativo, aprendo la strada a possibili applicazioni investigative. A completare il quadro, contributi specifici sull’analisi del segnale vocale a livello di fonema e sull’utilizzo di modelli capaci di evidenziare le caratteristiche acustiche più discriminanti tra parlato autentico e sintetico.
