Documenti depositati negli Stati Uniti mostrano che il governo israeliano finanzia una campagna destinata a orientare il modo in cui i sistemi di IA rappresentano Israele, Gaza e l’alleanza con Washington. Una nostra controverifica condotta su ChatGPT mostra quanto il problema possa essere più profondo: non occorre controllare direttamente un algoritmo, basta condizionare l’ecosistema delle fonti che esso considera autorevoli. Secondo il Quincy Institute, Israele avrebbe speso oltre un miliardo di dollari in diplomazia pubblica dal 2023 e più di cento milioni di dollari in attività negli Stati Uniti. A proposito di un articolo di Lavinia Marchetti (“L’educazione sionista delle AI”), gli esiti della nostra controprova ve la raccontiamo di seguito. Ed è anche più grave di quanto appaia: «Non siamo davanti a un fantomatico algoritmo “sionista”. Siamo davanti a un problema assai più serio: l’intelligenza artificiale dipende da un ambiente informativo che può essere industrialmente colonizzato da chi dispone di denaro, organizzazione e potere politico sufficienti». Israele appare oggi fra i primi Stati ad aver trasformato questa vulnerabilità in una strategia esplicita. Altri governi, potenze economiche e gruppi di interesse seguiranno
► In un articolo dal titolo L’educazione sionista delle AI, postato su Substack da Lavinia Marchetti (https://substack.com/home/post/p-210571842) il 10 agosto, c’è un passaggio che dovrebbe essere letto con molta attenzione. Non perché dimostri che una qualche centrale israeliana abbia preso il controllo delle intelligenze artificiali occidentali, ma perché descrive qualcosa di assai più concreto e, forse, più pericoloso: il tentativo deliberato di “avvelenare” la base documentale dentro la quale le macchine vanno a cercare le loro risposte. Non è un’ipotesi complottistica. È scritto nei contratti. Clock Tower X, società riconducibile a Brad Parscale, già campaign manager di Donald Trump, opera attraverso Havas Media Germany nell’ambito di una campagna commissionata dallo Stato di Israele. I documenti depositati presso il Dipartimento di Giustizia statunitense ai sensi del Foreign Agents Registration Act (Fara) [nota 1 a fondo pagina] attestano che l’attività è svolta a supporto dell’incarico conferito a Havas dallo State of Israel (https://efile.fara.gov/docs/7649-Exhibit-AB-20251226-3.pdf)
La propaganda che si traveste da bibliografia
La differenza rispetto alla propaganda tradizionale è decisiva. Il meccanismo utilizzato dalla hasbara governativa israeliana [attività di pubbliche relazioni e comunicazione messe in atto dallo Stato di Israele e dai suoi sostenitori per promuovere la propria immagine, spiegare le proprie politiche e difendersi dalle critiche internazionali] descritto da Marchetti è molto più sofisticato. Si costruiscono siti dai nomi apparentemente neutri — Allyvia, FactSignal, Paxpoint, Justorium, CompassionPulse, Innovascope e altri — ciascuno dedicato a uno specifico profilo narrativo: l’utilità dell’alleanza militare Usa-Israele, la legalità delle operazioni israeliane, la contestazione delle accuse di genocidio, l’affidabilità delle immagini provenienti da Gaza, la cooperazione tecnologica, il commercio.
È necessario essere rigorosi: essere presenti in Common Crawl [nota 3] aumenta sensibilmente la possibilità che quei contenuti entrino nei grandi bacini dai quali vengono costruiti dataset futuri di addestramento dei sistemi di AI; e soprattutto quei siti possono essere recuperati in tempo reale dai sistemi di AI che integrano ricerca web e generazione (praticamente tutti). La vulnerabilità tecnica, del resto, è nota. Israele non ha inventato questa vulnerabilità. Sta però documentatamente tentando di sfruttarla sul terreno politico.
La domanda fatta a ChatGPT e le risposte ricevute
Questo esperimento non autorizza a dire che «Israele aveva manipolato ChatGPT». Dimostra però qualcosa di molto più subdolo e più grave: un’AI può assumere come punto di partenza una rappresentazione politica sedimentata nell’ecosistema delle fonti e modificarla sostanzialmente quando viene costretta a interrogarsi sulla provenienza, sui finanziamenti e sui conflitti di interesse di quelle stesse fonti. Ed è esattamente il terreno sul quale opera una strategia di source poisoning, avvelenamento dei dati. È sufficiente che grandi quantità di denaro finanzino la produzione continua di ricerche, commenti, articoli, campagne, fact sheet, siti apparentemente indipendenti e messaggi orientati nella stessa direzione. Una macchina che misura l’autorevolezza anche attraverso presenza, ricorrenza, strutturazione e citabilità può finire per scambiare una concentrazione di potere comunicativo per una pluralità di consenso. La propaganda del XXI secolo non deve necessariamente inventare ogni fatto. Le basta selezionare quelli convenienti, cancellare le connessioni scomode, moltiplicare le fonti che ripetono la stessa cornice e presentare il tutto con il linguaggio impersonale della documentazione. Come osserva Marchetti, una fonte propagandistica può contenere molti dati veri e restare profondamente ingannevole proprio per ciò che esclude e per la proporzione che assegna ai fatti.
Gaza: perché la guerra sulle fonti è diventata decisiva
È precisamente su questo terreno che siti della rete Clock Tower X cercano di accreditare la legalità della condotta militare israeliana, contestare le prove della fame, screditare giornalisti palestinesi e presentare come manipolate immagini provenienti dalla Striscia. Drop Site ha documentato anche il sito Feeding You Fiction, dedicato proprio a sostenere che immagini e racconti della sofferenza di Gaza sarebbero fabbricati. (Drop Site News). Qui l’“avvelenamento” delle fonti cessa di essere un problema tecnico per specialisti dell’intelligenza artificiale. Diventa una questione democratica. Perché se domani milioni di cittadini chiederanno a una macchina «Israele ha commesso crimini di guerra?», «a Gaza esiste davvero una carestia?», «l’alleanza con Israele conviene agli Stati Uniti?», la battaglia politica potrebbe essere stata combattuta (e vinta) prima ancora che la domanda venga formulata, decidendo quali documenti l’algoritmo troverà, quali considererà autorevoli e quante volte incontrerà la medesima tesi sotto nomi differenti.
Il nuovo monopolio della realtà
Come si legge nell’articolo di Marchetti, il Quincy Institute [nota 4]ha definito questa offensiva l’“ottavo fronte”. Secondo la sua ricostruzione, Israele avrebbe speso oltre un miliardo di dollari in diplomazia pubblica dal 2023 e più di cento milioni di dollari in attività negli Stati Uniti sottoposte a registrazione Fara. Clock Tower X rappresenta soltanto una parte di questa infrastruttura. (quincyinst.org). Vi sono inoltre inchieste israeliane che descrivono attività dell’Idf (le forze armate israeliane) rivolte esplicitamente alla gestione della “coscienza pubblica”, campagne mediatiche non immediatamente riconoscibili come militari e tecniche di manipolazione del discorso pubblico (+972 Magazine). Non siamo davanti a un fantomatico algoritmo «sionista». Siamo davanti a un problema assai più serio: l’intelligenza artificiale dipende da un ambiente informativo che può essere industrialmente colonizzato da chi dispone di denaro, organizzazione e potere politico sufficienti. Israele appare oggi fra i primi Stati ad aver trasformato questa vulnerabilità in una strategia esplicita. Altri governi, potenze economiche e gruppi di interesse seguiranno.
_____
Note
(1) Fara: Foreign Agents Registration Act, cioè «legge sulla registrazione degli agenti di soggetti stranieri». È una legge federale statunitense del 1938. Impone a determinate persone e organizzazioni che operano negli Stati Uniti per conto, sotto la direzione o il controllo di un soggetto straniero di registrarsi presso il Dipartimento di Giustizia e dichiarare pubblicamente: chi rappresentano; quali attività politiche, comunicative o di lobbying svolgono; quali somme ricevono e spendono; quali materiali informativi diffondono.
(2) Drop Site News è una testata giornalistica investigativa statunitense indipendente e senza scopo di lucro, fondata nel luglio 2024 dai giornalisti Jeremy Scahill e Ryan Grim, entrambi provenienti da The Intercept
(3) Common Crawl è un’organizzazione non profit statunitense che, dal 2008, esegue periodicamente una scansione automatizzata del Web (web crawling) e mette gratuitamente a disposizione enormi archivi delle pagine raccolte.
(4) Quincy Institute for Responsible Statecraft è un centro studi statunitense sulla politica estera, fondato nel 2019 e con sede a Washington. Prende il nome dal presidente John Quincy Adams, contrario al coinvolgimento degli Stati Uniti in guerre non necessarie.
© RIPRODUZIONE RISERVATA
