C’è un confine che non dovrebbe mai essere oltrepassato, nemmeno nei tempi opachi dei social network dominati dall’algoritmo e dalla monetizzazione del dolore. Quel confine è la memoria. Nel caso dell’Olocausto, violarlo equivale a trasformare la tragedia in menzogna, alimentando la macchina del negazionismo. Eppure un’indagine della BBC ha rivelato che una rete internazionale di spammer sta diffondendo su Facebook immagini false, generate dall’intelligenza artificiale, che fingono di ritrarre vittime e scene nei campi di sterminio. Il risultato è un’operazione che le organizzazioni della memoria definiscono “profondamente angosciante” per i sopravvissuti e le loro famiglie. Non si tratta di semplici fotomontaggi. Le immagini costruite dall’IA mostrano presunti prigionieri che suonano il violino tra le baracche di Auschwitz o coppie di innamorati che si stringono la mano attraverso le recinzioni. Scene che non hanno mai avuto luogo, ma che nel mondo allucinato dei social accumulano decine di migliaia di “like” e condivisioni. Un’estetizzazione del dolore che sconfina nella pornografia della sofferenza.
“Qui abbiamo qualcuno che inventa storie per una specie di strano gioco emotivo che si sta svolgendo sui social media”, ha dichiarato alla BBC Pawel Sawicki, portavoce del Memoriale di Auschwitz in Polonia. Poi ha aggiunto con fermezza: “Questo non è un gioco. Questo è un mondo reale, una sofferenza reale e persone reali che vogliamo e dobbiamo commemorare”. Parole, le sue, che restituiscono la misura dello scandalo: il passato, deformato dall’IA, rischia di trasformarsi in spettacolo da consumare a scorrimento rapido. La gravità del fenomeno è accentuata dal fatto che esistono pochissime fotografie autentiche scattate all’interno di Auschwitz durante la Seconda guerra mondiale. Quelle immagini, rare e dolorose, sono fonti preziose per storici e musei, testimonianze insostituibili di una realtà che il negazionismo ha sempre cercato di cancellare. Vederle imitate o addirittura sostituite da produzioni artificiali non è solo una distorsione, ma un attacco diretto alla memoria delle vittime. Non è la prima volta che Auschwitz diventa terreno fertile per manipolazioni digitali.
Già a giugno, il Museo di Auschwitz aveva denunciato la diffusione di pagine che rubavano i suoi post, li rielaboravano con modelli di intelligenza artificiale e li ripubblicavano, alterando dettagli storici o inventando intere narrazioni. In un post su Facebook, il museo ha parlato di “pericolosa distorsione” e di “mancanza di rispetto verso le vittime”. Lo tsunami di immagini contraffatte non ha solo un impatto storico: mina la fiducia nel lavoro quotidiano di chi si occupa di trasmettere la memoria. Sawicki racconta che i curatori del Memoriale hanno già ricevuto commenti sui loro post ufficiali in cui gli utenti insinuavano che le fotografie autentiche fossero a loro volta “create dall’intelligenza artificiale”. Un cortocircuito devastante: la tecnologia, nata per produrre illusioni, genera sospetto perfino sulla verità documentata.
Dietro questa industria del falso non c’è un movimento politico, ma un mercato redditizio. La BBC ha rintracciato la rete fino a un gruppo di creatori di contenuti con base in Pakistan, che collaborano per sfruttare il programma di monetizzazione di Meta. Si tratta di un sistema “solo su invito” che paga gli utenti sulla base del traffico generato. Un account gestito da un certo Abdul Mughees, residente in Pakistan, ha pubblicato screenshot in cui vantava guadagni fino a 20.000 dollari grazie a queste pratiche. In un altro post, sosteneva di aver totalizzato oltre 1,2 miliardi di visualizzazioni in quattro mesi. Tra i suoi contenuti: immagini generate dall’IA di bambini nascosti sotto le assi del pavimento o neonati abbandonati sui binari dei treni, accostati falsamente alla tragedia dei campi di concentramento. Non è possibile verificare in modo indipendente la veridicità di tali cifre, ma l’analisi della BBC mostra come questi account pubblichino quasi esclusivamente “scarti di intelligenza artificiale”: immagini e testi prodotti in massa, di bassa qualità, pompati come spam nei circuiti social. Il fenomeno non riguarda solo il Pakistan.
La rete si estende anche in India, Vietnam, Thailandia e Nigeria. Uno degli intervistati dalla BBC, Fazal Rahman, ha raccontato di vivere esclusivamente con i proventi dei programmi di monetizzazione. Pur dichiarando di non aver mai creato contenuti sull’Olocausto, ammette che la storia è “un motore affidabile di traffico online” e che il pubblico occidentale vale fino a otto volte di più di quello asiatico in termini pubblicitari. Una degradazione che sa di beffa se si considera che, a meno di ottant’anni dalla liberazione dei campi, gli ultimi sopravvissuti stanno lasciando il testimone della memoria. “Non capiscono bene cosa vedono”, ha spiegato alla BBC il dottor Robert Williams, dell’International Holocaust Remembrance Alliance. “I sopravvissuti provano un certo senso di tristezza per il fatto che ciò sia stato permesso, nonostante gli enormi investimenti in campagne di sensibilizzazione. Sentono che i loro sforzi non sono stati sufficienti. Ed è una cosa molto triste da considerare, perché presto l’ultimo dei sopravvissuti ci lascerà”. C’è un’eco di tragedia in queste parole. La consapevolezza che, quando le voci dirette non ci saranno più, la storia potrà essere manipolata con ancor maggiore facilità. La memoria, privata dei suoi custodi viventi, rischia di essere lasciata in balia dei creatori di contenuti alla ricerca di clic.
In tutto questo, Meta, la società madre di Facebook, si difende sostenendo di non incoraggiare la diffusione di falsi storici. Tuttavia, il suo sistema di ricompense algoritmiche premia il coinvolgimento, non la verità. Post più emotivi, più scandalosi, più capaci di catturare reazioni hanno maggiori possibilità di generare guadagni. E così il dolore diventa moneta di scambio. Dopo le segnalazioni, diversi account e gruppi sono stati rimossi. “Abbiamo rimosso le Pagine e i Gruppi condivisi con noi e disabilitato gli account a cui appartenevano per aver violato le nostre norme sullo spam e sui comportamenti non autentici”, ha dichiarato un portavoce di Meta alla BBC. Ma la sensazione è che si tratti di una battaglia infinita, in cui nuove pagine continuano a sorgere dalle ceneri delle vecchie, impersonando aziende, istituzioni o influencer ignari, per guadagnare accesso alla monetizzazione. Va detto che l’uso dell’intelligenza artificiale per commemorare l’Olocausto non è di per sé negativo. Alcuni progetti, in passato, hanno dato voce digitale ai testimoni, rendendo accessibili i loro racconti alle nuove generazioni. Ma il dottor Williams avverte: “C’è il rischio che ciò contribuisca a creare la sensazione che la storia dell’Olocausto sia in qualche modo inventata. Qualsiasi forma di manipolazione estrema è qualcosa da cui dovremmo rifuggire”. Il pericolo non è teorico. Nel Novecento, le immagini autentiche di Auschwitz e dei campi liberarono gli occhi del mondo dall’ignoranza, imponendo una verità che nessun negazionista avrebbe potuto smentire. Oggi, nell’era digitale, il rischio è l’opposto: che la proliferazione di falsi renda indistinguibile l’autentico dal contraffatto. Ed è in questa confusione che la memoria rischia di annegare.