L'impatto sociale più dirompente dell'intelligenza artificiale (IA) si manifesta oggi nella manipolazione della percezione pubblica. Il 2024 e il 2025 sono stati anni critici per la stabilità democratica, con l'emergere di tecnologie di falsificazione audio e video che hanno reso la "verità" un concetto negoziabile. Con elezioni che coinvolgono metà della popolazione mondiale, il rischio che i deepfake possano minare seriamente l'integrità dei processi democratici è diventato una realtà concreta.
Siamo entrati ufficialmente nell'era del "Liar's Dividend" (il dividendo del bugiardo). Poiché il pubblico è sempre più consapevole che video e audio possono essere falsificati in modo convincente, i politici possono negare la realtà di prove autentiche definendole semplicemente dei "deepfake". Questo fenomeno sta sgretolando la base fattuale necessaria per il dibattito democratico, creando un cinismo diffuso verso le istituzioni incaricate di accertare la verità. Casi recenti mostrano candidati in Turchia e India che hanno bollato come manipolazioni dell'IA registrazioni o video compromettenti che si sono poi rivelati autentici.
Dalla Slovacchia agli Stati Uniti, l'uso di audio clonati per influenzare il voto dell'ultimo minuto è diventato una tattica standard. In Slovacchia, poche ore prima del voto, un audio generato dall'IA ha mostrato un candidato liberale mentre discuteva piani per truccare l'elezione e aumentare le tasse sulla birra. Dall'altra parte dell'oceano, negli Stati Uniti, il New Hampshire è stato teatro di una campagna di robocall che imitava la voce di Joe Biden per scoraggiare l'affluenza alle primarie del 2024, dicendo ai cittadini di "conservare il voto" per novembre. Attacchi simili sono stati rilevati in Taiwan, Indonesia e Nigeria, dove clip audio manipolate hanno falsamente implicato candidati in frodi elettorali.
La moderazione automatizzata delle piattaforme social – oramai palinsesto politico e istituzionale – sta fallendo davanti alla velocità virale dei falsi. Sebbene le principali piattaforme come Facebook, TikTok e YouTube abbiano politiche per etichettare o rimuovere contenuti manipolati, le regole sono spesso limitate ai casi di "danno estremo" o disinformazione sulle procedure di voto. Inoltre, molte aziende hanno allentato gli standard di moderazione nell'ultimo anno. Le etichette "AI-generated" spesso arrivano troppo tardi o vengono ignorate dagli utenti, e i team di moderazione, già sotto pressione, faticano a identificare i contenuti dannosi prima che diventino virali, anche considerata la mole estrema di falsi caricati giornalmente in rete.
In questa ottica, il cervello umano fatica a distinguere i deepfake audio e visivi, anche dopo il debunking. Studi accademici hanno dimostrato che i volti creati dall'IA sono spesso percepiti come più realistici delle fotografie autentiche. Inoltre, gli interventi contro la disinformazione possono avere l'effetto collaterale di aumentare lo scetticismo anche verso le fonti affidabili, rendendo i cittadini dubbiosi su ogni tipo di informazione.
Il problema cruciale non è solo la falsità del contenuto, ma la "velocità del danno". Un deepfake rilasciato durante il "silenzio elettorale" non lascia tempo per una smentita istituzionale efficace. La difesa della democrazia richiede quindi una nuova forma di educazione civica digitale che insegni il dubbio sistematico senza cadere nel cinismo assoluto.
Viviamo in un'epoca complessa, dove molte delle regole della affidabilità della prova audio-video, ormai standardizzata, sono messe in grave discussione, modificando radicalmente la percezione del pubblico e delle forze politiche al riguardo. La responsabilità morale ricade sulle piattaforme e sulle aziende produttrici. È necessario creare un futuro in cui la consapevolezza pubblica e politica permetta una democratizzazione completa, distinguendo con competenza il reale dalla finzione IA.