L’era oscura della disinformazione generativa, e il tramonto del fact-checking online

«Conosceva mille volte meglio di Winston le condizioni del mondo, il degrado in cui vivevano le masse, le menzogne e le atrocità con le quali il Partito le teneva in quello stato». Così George Orwell, nel suo libro “1984” presenta O’Brien, membro del Partito che detiene il potere, ambigua figura autoritaria e manipolatrice che svolge un ruolo cruciale nella vita del protagonista Winston Smith. Il visionario Orwell nel suo libro pubblicato nel 1949 ci racconta del maestoso edificio a forma di piramide, sede del ministero della Verità, alto trecento metri e con tremila stanze, risplendente di cemento bianco scintillante. Ministero il cui compito era “gestire” l’informazione e altro (svaghi, gioco d’azzardo, pornografia) in maniera tale da fare in modo che alla popolazione fosse impedito di avere un quadro veritiero sul quale ragionare. A quale scopo? Permettere al Partito di perpetuare nel tempo (all’infinito) la propria autorità, senza essere mai messo in discussione, creando le condizioni per le quali le persone accettassero qualsiasi menzogna come verità. 

Il tema della disinformazione è assai remoto (Sun Tzu ne parla nel suo famoso libro “L’Arte della guerra” scritto nel V secolo a.C.) e sono storicamente documentati altri episodi reali come quello, per citarne uno, legato alla morte del generale spartano Pausania avvenuta nel 470 a.C. Facendo un salto ai nostri giorni, il filosofo di natali sud-coreani ma naturalizzato tedesco Byung Chul Han nel suo libro “Infocrazia” (Infokratie, 2021) descrive molto bene come, anche per effetto del processo di digitalizzazione, «siamo intrappolati in una caverna digitale… intrappolati nelle informazioni… con la luce della verità completamente spenta». L’autore sviluppa il concetto legato alla enorme e sempre crescente quantità di informazione che sovrasta la capacità critica delle persone, di come la democrazia venga sostituita da una gestione algoritmica del consenso (psicometria) e come la trasparenza diventi una forma di dominio, anziché uno strumento di emancipazione (profilazione e personal data access). 

Esempi? Moltissimi. A partire dallo scandalo Cambridge Analytica (2016), società di consulenza britannica specializzata in psicometria celebre per la comprovata capacità di influenzare (manipolare) le campagne elettorali. All’esperimento del giornalista inglese Oobah Butler che nel 2017 attraverso false (ovviamente) recensioni fece di un ristorante inesistente il più richiesto locale di Londra (che aprì per una sola sera…). 

Alla recentissima notizia diffusa da Zuckerberg in persona della rimozione del fact-checking sia da Facebook sia da Instagram, almeno negli Stati Uniti. La verifica dei fatti è il processo di analisi dell’accuratezza delle informazioni presenti in un testo, in una dichiarazione o in un’affermazione. Serve a distinguere le informazioni corrette e veritiere da quelle false, incomplete o fuorvianti. Va detto che tale processo non sempre ha costituito un baluardo all’integrità e alla veridicità delle informazioni ma eliminarlo del tutto (come già avviene sulla piattaforma X) non è certo un bel segnale. Al suo posto (come più o meno sulla piattaforma X) Meta adotterà un sistema chiamato Community Notes nel quale gli utenti medesimi segnaleranno quei post che ritengono abbiano bisogno di un più ampio contesto informativo. 

Ma qual è la questione dirimente? I dati e il potere del digitale (AI). Nel libro pubblicato nel 2023 “La mente dell’hacker” Bruce Schneier, esperto di cyber–crime di fama mondiale sintetizza: «L’Intelligenza Artificiale (AI) ha il potenziale per diffondere all’infinito la disinformazione». Teniamo conto che ogni giorno vengono prodotti da 2,5 a 3 quintilioni di byte (stima Ibm), ma ancor di più come con venti dollari americani al mese chiunque può scaricare app in grado di imitare perfettamente qualsiasi voce (basta una brevissima registrazione) e far parlare col giusto labiale chicchessia, se ne possiede una foto. Facile quindi per chiunque generare videomessaggi fake (occhio alle truffe!) assolutamente non riconoscibili come falsi. Ma a parte le truffe e i raggiri di natura personale, comunque di non poco conto, il tema è oramai una questione di oligopoli del potere e di come il potere se ne può servire e se ne serve.

Un accenno va obbligatoriamente alla psicometria, una branca della psicologia che combina principi psicologici e metodologie statistiche per sviluppare strumenti e metodi affidabili per quantificare aspetti del comportamento e del pensiero umano. Essa sfrutta i dati presenti sul digitale (tutte le piattaforme social e non solo) e capacità computazionali per l’elaborazione stocastica. Michal Kosiński, che all’epoca dello scandalo Cambridge Analityca era un ricercatore presso l’Università di Cambridge e che oggi insegna psicometria all’Università di Stanford, ha dimostrato che analizzando 150 like l’AI è in grado di conoscerti “meglio di tua mamma”, con trecento “meglio del tuo coniuge”!

Uno dei più grandi scienziati del XX secolo considerato il “padre della sociobiologia”, l’americano Edward O. Wilson (1929-2021), fermamente convinto del legame tra scienza e umanesimo, alla domanda sul come gli esseri umani sarebbero stati in grado di risolvere la prossima grande crisi, postagli da James R. Flynn, psicologo famoso per i suoi studi sul quoziente intellettivo, rispose: «Sì, se siamo onesti e intelligenti… Il vero problema dell’umanità è questo: abbiamo emozioni paleolitiche, istituzioni medievali e tecnologia divina». I poteri divini della tecnologia sono aumentati drasticamente, mentre gli antichi impulsi paleolitici, ahimè, sono rimasti gli stessi.