Che gli oligarchi dell’intelligenza artificiale e l’AI stessa fossero terribilmente impopolari era noto. I dati c’erano: bastava volerli vedere, andando oltre la coltre incessante di propaganda governativa, aziendale e mediatica sull’inevitabilità di un mondo a misura di tecnofascista. L’avevo scritto, sulla base di molteplici analisi e fonti, già nel primo numero di Fragile: la resistenza popolare a un mondo dettato e scandito da AI era da considerare, già prima delle elezioni americane di metà mandato della settimana scorsa, una questione rilevante dal punto di vista elettorale.

I risultati delle midterm ne hanno dato tuttavia una conferma inequivocabile: gli elettori statunitensi hanno rigettato in massa la costruzione indiscriminata di data center nelle loro comunità. Ma, a quanto pare di capire da svariate testimonianze e analisi informate del voto, non si sono limitati a rigettare l’infrastruttura fisica che renderebbe possibile un mondo tecnofascista, dominato interamente da efficienza e automazione in ogni aspetto della nostra vita. Hanno, al contrario, rigettato anche e soprattutto il sostrato ideologico che regge e motiva la costruzione di quella infrastruttura di calcolo e controllo, indispensabile a infilare l’AI in ogni cosa.

Quel che resta da comprendere è: cosa resta del progetto tecnofascista, in America e nel resto del mondo, dopo una simile batosta elettorale?

Prima di articolare una bozza di risposta, proviamo a riassumere brevemente le lezioni tratte dal voto negli Stati Uniti. Analisti ben più informati di me sulla politica USA, di cui non posso certo dirmi un esperto, hanno già passato al microscopio il voto in lungo e in largo, per cui cercherò di andare veloce e servirmi dei dati e degli argomenti già prodotti per meglio ragionare degli effetti sulla visione tecnofascista e sulle sue residue possibilità di successo.


Un voto contro i data center

Il primo dato di realtà è che gli elettori odiano i data center, e li odiano davvero. Secondo i dati raccolti da Data Centers on the Ballot, alle urne le misure per limitare o impedire la costruzione di data center (restrict) hanno sconfitto quelle pro-data center in 44 votazioni su 45, e sarebbero in vantaggio anche nei due casi in cui i risultati non sono ancora definitivi. La sola eccezione è la città di Harwood nel North Dakota. Se si aggiungono i sei casi in cui gli elettori si erano già espressi in precedenza contro i data center nel corso del 2026, si ottiene questo risultato:

Il riassunto di BallotPedia non lascia particolare spazio a interpretazioni:

“Al 4 novembre 2026, gli elettori si sono pronunciati su 47 misure. In 46 casi, la maggioranza ha espresso il proprio sostegno a maggiori restrizioni allo sviluppo dei data center, approvando limitazioni o requisiti aggiuntivi oppure respingendo misure che ne avrebbero agevolato o sostenuto la realizzazione”.

Nel 98% dei casi, gli elettori hanno votato contro i data center.

Non solo. Come brillantemente preconizzato durante l’estate dal co-fondatore del Sunrise Movement, Will Lawrence,

“Fermare la costruzione di questi data center per l’intelligenza artificiale è diventato un tema capace di unire persone di ogni orientamento politico”.

I dati di cui disponiamo dopo le midterm gli danno ragione. Gli Exit Poll di NBC News, per esempio, mostrano chiaramente non solo che la questione era percepita come centrale da una parte maggioritaria dell’elettorato (56%, con il 23% che la ritiene “cruciale”), ma anche — e forse soprattutto, vista l’estrema polarizzazione della politica USA — che la costruzione di nuovi data center preoccupa, pur se in proporzioni diverse, sia elettori democratici che repubblicani.

Anche più significativo è che le percentuali contrarie salgono, e non di poco, per gli elettori più giovani (61% per la fascia di età 18-44, 67% per quella 18-29):

I più giovani sono i più contrari ai data center per l’AI e, guarda caso, sono anche il gruppo demografico in cui il divario tra democratici e repubblicani si è fatto più ampio. Come ha scritto NPR:

“I democratici hanno prevalso in questa fascia di giovani elettori con un margine di 48 punti, registrando uno spostamento di 34 punti rispetto a due anni fa”.

Insomma, i tempi duri per i fanatici dell’AI in ogni cosa sembrano destinati a peggiorare ulteriormente in futuro, se questa rimane la tendenza.

Iscriviti a Fragile

Un voto contro l’AI degli oligarchi

Secondo svariati analisti, le ragioni di questa opposizione di massa all’infrastruttura dell’AI vanno ricercate in ciò che questa infrastruttura promette di realizzare. Un mondo automatizzato, “intelligente”, a forma di macchina — come dicevamo insieme a Polanyi e Weizenbaum — che, sorpresa!, agli esseri umani che non vendono AI o non traggono altrimenti profitto dall’AI non piace affatto.

Paris Marx, un formidabile critico tecnologico e l’autore di un recente volume proprio sugli hyperscaler, ha scritto che il no ai data center è in realtà un no alla visione che dovrebbero incarnare:

“Che si tratti delle istituzioni statali, del Congresso o delle comunità locali, gli americani hanno chiarito di non voler accettare la visione dell’intelligenza artificiale imposta loro da Silicon Valley e di essere pronti a riprendere il controllo dei propri territori, sottraendolo alle grandi aziende che li vogliono plasmare in funzione degli interessi di miliardari lontani dai luoghi in cui si produrranno gli effetti delle loro decisioni”.

La questione tecnologica è dunque, in realtà e come sempre, una questione di potere sottratto ai molti per accentrarlo in pochi, pochissimi soggetti che si ritengono — a torto — al di là del bene e del male, come i superuomini di Nietzsche, e soprattutto una questione riguardante le condizioni materiali e socio-culturali conseguenti alla resa alla loro idea di disumanizzare definitivamente il mondo tramite l’AI. Come ha detto a 404 Media il vicedirettore della comunicazione degli attivisti di Local Progress, Michael Whitesides:

“Queste elezioni di metà mandato hanno inviato un chiaro messaggio: gli elettori non vogliono ritrovarsi i data center sotto casa. In tutto il Paese, le persone non vedono concretizzarsi nella propria vita quotidiana i benefici promessi dai data center e dall'intelligenza artificiale che alimentano. Vedono invece aumentare il costo dei beni e dei servizi essenziali, mentre queste mostruosità finanziate dai miliardari occupano spazio nelle loro comunità, inquinano l'aria e fanno lievitare le bollette delle utenze”.

Benefici ipotetici e danni reali: l’ho già sentita.

Insomma, la rivolta contro i data center potrebbe essere solamente l’incipit di un libro la cui trama parla in realtà di una rivolta più ampia, contro l’intelligenza artificiale come perno di un Nuovo Mondo a misura di oligarchi, e di nessun altro. Come ben riassunto dal parlamentare democratico Greg Casar:

”La rivolta contro i data center è stata una delle questioni centrali delle elezioni del 2026 e, tra qualche anno, guarderemo a quel fenomeno come alla prima scossa di un terremoto politico molto più grande, innescato dalla crescente opposizione all'intelligenza artificiale e destinato a sconvolgere la politica americana”.

Casar poi centra il punto anche da un altro punto di vista: i data center sono stati resi ancora più impopolari dal fatto che i loro sponsor erano pagati con ingenti somme proprio dagli oligarchi e dai miliardari dell’AI. Come ha scritto Wired,

“Molti dei candidati che hanno vinto sostenendo norme più restrittive per i data center lo hanno fatto nonostante i massicci finanziamenti riversati dalle industrie dell'intelligenza artificiale e dei data center a favore dei loro avversari”.

Quando la popolazione locale preferirebbe vivere “vicino a un carcere, a un centro per la somministrazione di metadone o a una centrale nucleare piuttosto che accanto a un data center per l'intelligenza artificiale”, non stupisce che nemmeno il potente lobbying di Big Tech abbia potuto fare breccia nell’odio per il futuro che tenta disperatamente di spacciare e imporre. Anche qui, i dati non mentono. Come ha scritto Tech Influence Watch:

“212 delle 221 competizioni elettorali che figuravano sulla scheda del 3 novembre 2026 hanno già un vincitore. In queste elezioni i super PAC monitorati, attivi sui temi delle criptovalute e dell'intelligenza artificiale, hanno speso complessivamente 112 milioni di dollari per sostenere o contrastare candidati. Finora, 35,2 milioni di dollari di questa cifra sono andati a sostegno dei candidati risultati vincitori, mentre 76 milioni sono stati spesi a favore di quelli sconfitti.”

Per non parlare dei quasi 500 milioni di dollari spesi da Elon Musk per eleggere candidati repubblicani, a partire dal Texas dove ne ha spesi quasi 230 solo per essere sconfitto su tutta la linea. È lui, secondo tutte le analisi, il grande perdente delle midterm, con le sue aziende che bruciano nei giorni seguenti il voto circa 420 miliardi di dollari di capitalizzazione, e la ricchezza di Musk stesso che subisce un colpo stimato tra i 90 e i 113 miliardi di dollari — restando tuttavia l’uomo più ricco del mondo.

Altro che un semplice voto contro i repubblicani. Per Michael Goldberg sul New York Times semmai l’AI, i suoi guru e la sua infrastruttura si sono rivelati talmente impopolari da fungere da collante per coalizioni democratiche e progressiste altrimenti scollate, in cui gli underdog hanno ribaltato le aspettative proprio facendo campagna elettorale contro i mantra di Silicon Valley e l’idea che il futuro appartenga alla sua ristrettissima élite di tecnologi-guru e non a noi tutti. È proprio questo il mandato dato dagli elettori ai Democratici: combattere i miliardari dell’AI.

Pochi hanno provato ad avanzare un’interpretazione diversa. Per esempio Alec Ross, teorico dell’innovazione ed ex consigliere di Hillary Clinton, ha sostenuto in un’intervista a La Stampa che

“Gli americani hanno votato contro Trump, non contro l’AI”.

Ma c’è una ragione molto semplice per essere in disaccordo: un voto contro Trump è un voto contro l’AI. Il presidente USA infatti è la figura istituzionale che più al mondo si è esposta e spesa per assicurarsi che l’AI non fosse regolata in alcun modo, distruggendo le (poche, insufficienti) tutele previste dall’amministrazione Biden, promuovendo — indifferente a ogni preoccupazione delle popolazioni locali — i data center come fonte di ricchezza e progresso, e opponendosi a qualunque ipotesi di rallentare o controllare lo sviluppo di quella che ha rinominato “superintelligenza”. “I data center e la superintelligenza sono come l’oro”, ha scritto sul suo profilo Truth mentre andava delineandosi la batosta di metà mandato, “solo dei leader stupidi potrebbero dire no all’immensa ricchezza che porteranno”. Insomma, come efficacemente riassunto da Brian Merchant, attualmente “l’AI è più simile a un progetto trumpiano”.

Andando più in profondità, si può ribattere a Ross che l’odio per i data center pare essere al contrario la manifestazione più tangibile di un odio ideologico per il modo in cui Big Tech ha messo la tecnologia contro la vita umana, imponendosi senza il nostro controllo e pretendendo di toglierci qualunque alternativa democratica. Lo ha scritto meglio di tutti credo Faine Greenwood:

”Personalmente, penso che il voto alle elezioni di metà mandato sia stato certamente dettato dall'avversione nei confronti dei data center. Ma penso anche che ci fosse qualcosa di più. Credo che gli americani detestino i data center non soltanto perché sono data center, ma anche perché rappresentano una manifestazione concreta e tangibile dell'industria delle Big Tech, che per anni ha abusato della loro fiducia e peggiorato le loro vite.

I data center sono edifici enormi e brutti, che ricordano costantemente alle persone come le aziende tecnologiche possano (apparentemente) fare tutto ciò che vogliono, a chiunque vogliano, e come il governo continui a rifiutarsi di elaborare norme per porre un freno al loro potere.

Per chi ha trascorso anni sentendosi completamente impotente di fronte a tutti questi cambiamenti tecnologici, votare contro i data center rappresenta, per una volta, un modo concreto per mettervi un freno”.

Il fatto che i colossi tecnologici si siano legati a doppia mandata, tra un inchino e l’altro, a Donald Trump non fa che peggiorarne ulteriormente le prospettive, aggiunge giustamente Greenwood, dato che la sua “carcassa” politica comincia a marcire, e sarà durissima per Big Tech scrollarsene il puzzo di dosso. You can fool some people some time, diceva il saggio, but you can’t fool all the people all the time.

A poco serviranno dunque gli endorsement cancellati da Musk in fretta e furia e i tentativi immediati di riposizionamento di Sam Altman e compagni, che hanno dato subito il là a una serie di meme — che, come spesso accade, valgono più di mille editoriali:

Un voto contro il tecnofascismo

Se si mettono insieme i pezzi sparsi sul tavolo finora, l’immagine restituita dal puzzle comincia a emergere chiaramente: il voto delle midterm è stato anche un voto contro il tecnofascismo, i suoi interpreti, i suoi mezzi e i suoi fini.

Due studiose della materia, Courtney Radsch e Nathalie Maréchal, lo hanno scritto esplicitamente in due analisi distinte pubblicate entrambe da Tech Policy Press. Pur proponendo soluzioni parzialmente diverse, la premessa del loro ragionamento è identica.

Radsch:

“Oggi è una brutta giornata per i tecnofascisti. Le vittorie dei democratici alla Camera e al Senato, così come nelle competizioni elettorali a livello statale, rappresentano molto più di una semplice opportunità per arginare il declino della democrazia. Costituiscono anche un significativo banco di prova del potere delle Big Tech e dell'intelligenza artificiale, nonché della diffusa volontà degli elettori di chiamare il settore tecnologico a rispondere delle proprie responsabilità”.

Maréchal:

“L’onda blu di martedì è stata molto più di una bocciatura del presidente degli Stati Uniti Donald Trump. In tutto il Paese, gli elettori hanno chiarito di respingere l'oligarchia tecnologica, i suoi vassalli nell'amministrazione Trump e un Partito repubblicano ormai plasmato dal movimento MAGA, così come la sinistra agenda che questi soggetti condividono e hanno cercato di imporre con la forza negli ultimi due anni. Chi difende i diritti umani, la democrazia liberale e lo Stato di diritto ha tutte le ragioni per festeggiare” .

Lavoro, ambiente, cultura democratica: le preoccupazioni si sono legate in uno stesso nemico, il tecnofascismo appunto, che propone non di risolvere ma di dissolvere le preoccupazioni della cittadinanza rendendone le volontà e il consenso del tutto insignificanti, e accelerando anzi — come scrivono Naomi Klein e Astra Taylor in End Times Fascism — visioni apocalittiche che richiedono, come in sistemi di credenze religiosi piuttosto che politici, la distruzione del mondo contemporaneo per rifarlo a immagine e somiglianza di una ristretta élite di capitalisti dell’AI.

E la protesta non è certo nata con il voto di novembre. Le avvisaglie erano ovunque: nelle campagne e nell’odio diffuso contro strumenti di sorveglianza come le telecamere per la lettura automatica di targhe di Flock o gli occhiali “intelligenti” — rinominati efficacemente dagli attivisti “pervert glasses” — di Meta e altre aziende, nell’acclarata impopolarità dei miliardari di Big AI, nelle manifestazioni contro i data center che si estendono a macchia d’olio anche in Europa, Italia inclusa, nella crescente mobilitazione sindacale dei lavoratori stessi di Big AI.

”Questo movimento sempre più interconnesso”, hanno scritto profeticamente Klein e Taylor nel libro, “ha già vinto battaglie significative in Cile contro Google, e gli agricoltori e gli ambientalisti hanno cacciato Meta dai Paesi Bassi. In Irlanda, l’attuale hub europeo di data center, Google è stato costretto ad abbandonare il progetto di una struttura alla periferia di Dublino”. Solo negli USA sono stati bloccati 48 progetti nel 2025, grazie alla “resistenza popolare”.

Secondo le autrici, con parole che di nuovo si applicano perfettamente alle midterm, “queste battaglie riguardano qualcosa di più dell’aumento dei costi dei servizi”; riguardano piuttosto “l’affermazione del controllo democratico”. Sollevano, come scritto poco oltre, “questioni più profonde e spirituali riguardo a quello che non può, e che non dovrebbe, essere rimpiazzato dalle macchine”.

Dal punto di vista più meramente politico, queste lotte rivelano un enorme punto debole nella strategia trumpiana di “puntare, per l’andamento dell’intera economia, sulla fortuna del settore AI: non è riuscito a portare la sua base elettorale con sé”, si legge nel volume appena edito in Italia con il titolo Il nuovo fascismo.

Perché niente, dice una testimonianza raccolta da Klein e Taylor, unisce più dell’odio verso l’AI e la sua perversione ideologica in strumento di accelerazione a ogni costo dell’Apocalisse del nostro mondo per produrne un altro, nuovo, dominato dalle macchine e dai loro creatori.

Insomma, chi ha votato contro il tecnofascismo ha in realtà votato per la vita umana contro la sua svalutazione in ancella di una (presunta) inevitabile evoluzione post-umana tramite la tecnologia. Concludono astutamente Klein e Taylor:

“In un paese dove lo slogan “pro-vita” è stato a lungo appannaggio esclusivo della destra religiosa, un nuovo e più ampio genere di movimento pro-vita sta emergendo, per difendere gli esseri umani e il pianeta contro le macchine vampiresche”.

Il voto ha visto nell’opposizione ai data center la chiave per ribadire la priorità dell’uomo sulla macchina, del reale sull’artificiale. Prima che sia troppo tardi.

Sostieni Fragile

Il tecnofascismo è ferito ma non sconfitto. È tempo di sferrargli il colpo di grazia

E possiamo così finalmente arrivare alla domanda posta inizialmente: cosa resta del tecnofascismo e delle sue prospettive, negli Stati Uniti e oltre, dopo la batosta delle midterm?

Dipende da come le forze pro-democrazia reagiranno al voto, negli USA in prima battuta ma anche nel resto del mondo. Se dovesse prevalere l’idea che mettere i giganti dell’AI di fronte alle proprie responsabilità — un’urgenza di cui abbiamo già parlato anche su Fragile — costituisca non una elementare operazione di controllo democratico del potere richiesta a gran voce dagli elettori ma una qualche forma di “vendetta”, allora temo che il progetto tecnofascista continuerà indisturbato o quasi. Cambierà magari retorica e qualche volto, per rendersi più presentabile e accettabile (Palantir ha per esempio già assunto un ex senatore democratico per meglio perorare la propria causa in un parlamento a guida Dem, e non sarà certo l’unica scrive NPR), ma non ne muterà la sostanza.

Il tentativo di reframing è già in corso, ma i Democratici questa volta sembrano avere inteso il messaggio. “Ci vorranno nuove foreste per produrre tutta la carta necessaria alle citazioni in giudizio che stamperemo”, ha detto il senatore Dem Ed Markey, riassumendo efficacemente il piglio combattivo di molti dei suoi compagni di partito. Del resto c’è molto da indagare: cosa hanno realmente combinato personaggi come David Sacks ed Elon Musk all’interno dell’amministrazione della cosa pubblica, come mai le ricchezze del presidente e della sua famiglia si sono moltiplicate con le criptovalute (indispensabili nei sogni ultra-libertari di uscita dalla democrazia dei tecnofascisti), come mai Nvidia ha spinto Trump a rimuovere restrizioni alla vendita di chip alla Cina (in queste ore si è scoperto che Jensen Huang ha avuto una relazione con quella che si è rivelata essere una spia cinese, e Trump pur sapendolo da un anno non ha fatto nulla per vederci più chiaro), come funzionano esattamente le AI che uccidono in guerra o deportano migranti, e via dicendo.

Come scrive Maréchal,

“La nuova maggioranza al Congresso dovrà adempiere al proprio dovere costituzionale di indagare sui presunti illeciti (compresa la corruzione) commessi dall'esecutivo e dai suoi sodali nel settore privato, e cominciare a raccogliere le prove in vista di eventuali procedimenti penali.

Lo ripetiamo per chi non ha ancora capito: chiedere conto delle proprie responsabilità non significa vendicarsi. È il fondamento dello Stato di diritto.

(…) La società civile deve mandare un messaggio chiaro alla leadership democratica: c'è una differenza tra rendere qualcuno responsabile delle proprie azioni e vendicarsi. Le indagini e le attività di controllo parlamentare non dovrebbero essere presentate come una punizione, bensì come la conseguenza necessaria del tentativo dei tecnofascisti di rovesciare la democrazia americana”.

E le riforme dovranno intaccare alla radice la fonte del potere dei tecnofascisti, colpendone “la ricchezza, i dati, la concentrazione di mercato, il controllo sui media sia mainstream che social”. Serve, insomma, un vero e proprio “rinnovamento” della democrazia americana, perché gli elettori non chiedono niente di meno — e perché niente di meno funzionerà davvero:

“Se il popolo americano fa sul serio quando dice di voler sconfiggere definitivamente il tecnofascismo, deve affrontare il problema alla radice: i modelli di business estrattivi e basati sulla sorveglianza della Silicon Valley, la concentrazione del mercato e le strutture di potere che mettono i suoi leader miliardari al riparo da qualsiasi responsabilità.

Se tutto questo sembra radicale, è perché lo è: punta alle cause profonde anziché ai sintomi, per realizzare quel cambiamento strutturale di ampia portata che questo momento storico richiede”.

Radsch, nella sua analisi, propone un’agenda anche più dettagliata per i Democratici che intendano sfruttare questa insperata apertura politica, nel segno del consenso popolare anti-AI, per tagliare le gambe al tecnofascismo, prima che le tagli alla democrazia:

- ricorrere ad audizioni e citazioni in giudizio per “esaminare i processi di concentrazione dei media e le ritorsioni editoriali da parte dell'amministrazione Trump” anche tramite agenzie indipendenti che indipendenti non sono più, e per “indagare gli accordi anticoncorrenziali, le attività di lobbying e l'influenza politica di Big Tech e delle aziende loro alleate nel settore dell'AI”

- produrre “un'attività di controllo costante e approfondita sull'intelligenza artificiale, sia quella di frontiera (frontier AI) sia quella applicata ai singoli settori (sectoral AI), sui mercati dell'informazione e sui sistemi di comunicazione, per evitare che si ripeta il solito ciclo di audizioni dei CEO senza alcun seguito concreto”

- “scegliere dirigenti disposti a sfidare i centri di potere aziendali, anche quando la loro influenza si estende all'interno dello stesso Partito Democratico, e resistere alla tentazione di fare nuovamente affidamento sulle generose elargizioni di Big Tech”

- “portare al voto misure vincolanti di tutela nell'ambito dell'AI, comprese quelle relative alla progettazione dei sistemi e alla responsabilità giuridica (liability); rafforzare le norme a tutela della concorrenza; aggiornare le protezioni contro la concentrazione dei media, tenendo conto del ruolo di Big Tech nei settori dello streaming, della televisione e del cloud; e introdurre tutele preventive per i lavoratori, compresi i produttori di informazione e gli operatori dei settori creativi, nonché misure sulla pubblicità nell'intelligenza artificiale”

- fare un’indagine approfondita della presunta interferenza di Meta nelle elezioni sia USA che, per esempio, in Brasile (dove l’accusa è che abbia strutturalmente favorito lo sconfitto Bolsonaro Jr).

Un altro aspetto fondamentale è sfruttare le divisioni e gli scontri interni all’estrema destra. Per esempio, il tecnofascismo potrebbe cominciare a separare più nettamente i suoi destini da quelli di Trump, come già segnalato da Thiel e dalle sue critiche alla guerra in Iran, e cominciare dunque ad appoggiare Vance (che non a caso forse ha riferito la sconfitta proprio al conflitto con l’Iran), da subito, come ha fatto lo stesso ideologo della Neoreazione, Curtis Yarvin.

Si è creato insomma lo spazio politico concreto, e in buona parte bipartisan, per creare una visione diversa del futuro con l’AI: senza data center a ogni costo, senza inserirla in ogni cosa, senza farne uno strumento di violenza e repressione, senza inseguire dannose utopie apocalittiche e anti-democratiche — ma provando al contrario a regolarla e metterla al servizio di noi tutti invece che di una ristrettissima élite di tecnocrati.

Ora resta da capire se i movimenti di protesta e lo sdegno della popolazione riusciranno a canalizzare l’indignazione e il disgusto verso una proposta politica articolata e concreta, o finiranno per divenire mero “populismo anti-AI”, come vorrebbero gli entusiasti pro-innovazione (che potrebbero a quel punto derubricarli con l’ennesima sigla derisoria).

Per ora le richieste sono radicali e insieme concrete, coordinate online e insieme presenti sulle piazze — solo per citare le più recenti, quelle dei manifestanti che hanno aderito in tutta Europa alla campagna Stop Dirty Data Centres. Raccolgono la voce dei giovani, e in particolare la loro paura di non valere letteralmente più nulla in un mondo in cui tutto — anche l’empatia, l’emozione, la creatività — è ridotto a valore; di non servire più a niente in un mondo misurato in funzioni di utilità. E hanno solide, solidissime ragioni: la mancata trasparenza sui costi ambientali; l’opposizione a un mondo in cui le macchine lavorano e creano al posto nostro; la prefigurazione di un futuro di frontiere automaticamente sigillate, in cui ogni città diventa insieme smart e un carcere digitale a cielo aperto dove sei sempre osservato, analizzato, e infine giudicato. Niente di tutto questo va accettato, tantomeno da chi ha ancora tutta la vita davanti.

Anche in questo senso profondo le midterm sono una vittoria della democrazia sul suo contrario: perché ci hanno confermato con una chiarezza mai vista finora che non siamo disposti a barattare i nostri diritti e la nostra umanità con la promessa di un Eden automatico.

Per ora. Meglio agire prima che i suoi messaggeri trovino il modo di farci cambiare idea, o sfuggano definitivamente nell’empireo, al di là di ogni possibile controllo.

Quando un’allucinazione dell’AI è una condanna a morte

Lo scorso luglio, il Guardian racconta una storia di ordinaria violenza burocratica a carico di una richiedente asilo. Una donna marocchina e il figlio scappano dal loro paese per lasciarsi alle spalle un matrimonio forzato, imposto alla donna da minorenne, e una lunga storia di “estrema” violenza domestica e stupri. La donna fa richiesta di asilo nel Regno Unito, motivandola con il terrore che il marito — un pregiudicato — finisca per ucciderla, ma la richiesta viene negata. Perché? Perché un documento, considerato nelle procedure britanniche sull’immigrazione autorevole e indipendente, avrebbe assicurato all’Home Office che la donna in Marocco sarebbe stata al sicuro.

Peccato che quel documento, in gergo un Country Policy Information Note (CPIN), non esista. Il documento, su cui un giudice ha basato il rigetto dell’appello della donna all’iniziale decisione di non ricevere asilo, non si trova da nessuna parte. Lo stesso team del ministero dell’Interno UK non riesce a trovarlo. La donna fa ulteriore appello, a una corte di ordine superiore, e il 14 luglio arriva la conferma: “Sembra che quel CPIN non sia mai esistito”.

Giunti a questo punto immagino abbiate inteso cosa è successo: secondo lo stesso giudice, la decisione di negare l’asilo alla donna marocchina è stata basata su un documento inesistente, che mostra tutte le caratteristiche di un’allucinazione dell’intelligenza artificiale. “Se così fosse”, conclude il giudice, “si tratterebbe di un errore estremamente grave” da parte dell’Home Office.

Il Guardian ha poi chiesto ai funzionari del ministero di produrre il fantomatico documento, se esiste, ma questi ne hanno invece prodotto uno diverso, una guida a uso interno che in ogni caso non conteneva indicazioni sul Marocco come paese sicuro. Del fantomatico CPIN nessuna traccia.

Il caso è ancora in corso, e l’accusa del giudice attende conferma. Ma sistemi simili stanno realmente venendo adottati, e per stessa ammissione dell’Home Office comportano una certa percentuale di errori. La domanda dunque resta: com’è possibile che una decisione simile venga presa con l’AI?

Iscriviti a Fragile

L’automatizzazione dell’ostilità verso i migranti

Se è possibile, è perché — come ho scoperto dopo mesi di lavoro su richieste FOIA, documenti governativi, interviste a esperti del settore e analisi delle politiche vigenti — il sistema dell’immigrazione negli UK sta subendo una rapidissima ed estremamente opaca conversione al credo dell’AI in ogni cosa.

Proseguendo sulla strada segnata dalla premier conservatrice Theresa May nel 2012, i governi successivi — di qualunque parrocchia ideologica, laburista e conservatrice — hanno deciso di usare le più avanzate tecnologie per digitalizzare e automatizzare l’Hostile Environment che le istituzioni avrebbero dovuto esplicitamente creare nei confronti dei migranti “illegali”. E che ha già esondato in svariati ambiti delle procedure d’asilo, così come della sorveglianza e gestione dei confini britannici.

Ho riassunto i risultati di questa ricerca in un dettagliato rapporto appena pubblicato da Open Rights Group. Intitolato Automated Discrimination: Unpacking the Digital Hostile Environment, il documento mostra quanto sappiamo, e soprattutto quanto non ci è dato sapere nemmeno a seguito di precise richieste legali di accesso ai documenti in possesso dell’Home Office, degli usi dell’AI e delle loro conseguenze sui migranti negli UK.

Usi che, nel sistema dell’immigrazione, spaziano dalla stima dell’età dei richiedenti asilo all’individuazione di matrimoni di facciata, dal riassunto dei colloqui con richiedenti asilo alla presentazione e gestione delle informazioni sui paesi d’origine, dalla prioritizzazione e valutazione dei singoli casi all’automatizzazione dell’estrazione di dati dai cellulari dei migranti, oltre che sempre più dell’infrastruttura stessa con cui vengono gestite le procedure migratorie.

Vi si aggiunge l’ormai usuale apparato di repressione e controllo digitale per “proteggere” i confini e prevenire ingressi illeciti: torri autonome di sorveglianza, droni e satelliti dispiegati sulla costa meridionale, per riconoscere e fermare i soggetti che attraversano la Manica; tecnologie di riconoscimento facciale a base di AI per individuare i migranti da deportare nei porti britannici e per automatizzare i controlli di sicurezza negli aeroporti senza che ci sia bisogno di alcun documento fisico; e, naturalmente, un misterioso ma apparentemente onnipotente cervello digitale capace, grazie ad altrettanto misteriose capacità di analisi predittiva, non solo di vedere tutti i rischi attuali ai confini ma anche e soprattutto di prevedere quelli che ancora vi si devono materializzare.

Il tutto, ed è questo il reale problema, è informato da una visione imbevuta insieme di terrore securitario e tecno-soluzionismo, in cui il migrante è concepito a priori come potenziale criminale colpevole fino a prova contraria, e al contempo ridotto da persona a insieme di data point computabile da sistemi intelligenti. Un misto di pregiudizi e giudizi disumanizzati che ha realissime conseguenze sulle persone in movimento.

Il caso della donna marocchina che si è vista negata la richiesta d’asilo sulla base (pare) di un’allucinazione — cioè di un errore — dell’AI potrebbe essere stato prodotto dal sistema chiamato APS (Asylum Policy Search), che secondo un’opinione legale prodotta da Open Rights Group viola svariati principi stabiliti dalle regole UK (in particolare, dallo UK AI Playbook) ed è probabilmente illegale; ma è solo la punta dell’iceberg.

Del sistema di prioritizzazione automatica dei procedimenti in materia di immigrazione (IPIC), per esempio, sappiamo poco o nulla, ma abbiamo compreso che include la nazionalità dei migranti sotto esame. Sappiamo che considerare questo stesso criterio aveva già portato un precedente sistema “intelligente” per la gestione dei visti a odiose forme di discriminazione, tanto da portare le associazioni di settore a parlare di una corsia preferenziale per persone bianche di alcuni paesi, e dunque all’accusa di razzismo — con conseguente abbandono da parte delle autorità UK. Avviene anche per IPIC? È così che si decide chi, per esempio, sottoporre a misure alternative alla detenzione come la geolocalizzazione tramite braccialetto elettronico o, come testato in passato, con smartwatch dotati di riconoscimento facciale? Non lo sappiamo, ma c’è ragione di sospettarlo.

Ancora, il sistema a base di AI per stimare l’età dei richiedenti asilo, in fase di test, non ha alcuna base scientifica solida, e sappiamo che tende a sbagliare proprio nella fascia d’età cruciale — 16-18 anni — oltre che, come usuale per queste tecnologie, per donne e persone di colore. Ciononostante, non siamo nemmeno in grado di sapere se è stata condotta un’analisi preventiva dell’impatto del sistema di AI testato sui diritti umani.

Quanto al sistema per identificare matrimoni fasulli, sappiamo che ha a sua volta discriminato soggetti di particolari nazionalità — in questo caso perlopiù individui provenienti da Albania, Bulgaria, Romania e Grecia, anche se non c’è prova che ci siano maggiori probabilità di un loro coinvolgimento in un matrimonio di facciata.

C’è poi la questione, estremamente attuale, di quanto reale controllo possano avere le autorità UK su questi sistemi. Nonostante l’onnipresente retorica sulla “sovranità digitale” del paese di quanto sia indispensabile che gli UK diventino “AI Maker” invece che “AI Taker” — cioè produttori piuttosto che consumatori di intelligenza artificiale — buona parte di queste tecnologie “intelligenti” sono infatti tutt’altro che “sovrane”.

L’AI generativa che riassume i colloqui con i richiedenti asilo e le policy sull’immigrazione è di OpenAI. Le torri di sorveglianza sono le stesse che pattugliano il confine tra Stati Uniti e Messico, prodotte da Anduril — l’azienda di Palmer Luckey, convinto di dover proteggere l’Occidente dall’invasione dell’Altro a mezzo AI, l’uomo che ha in mano insieme a Elon Musk le sorti del futuro della guerra automatica secondo l’esercito statunitense (se la propria metafisica di riferimento informa le proprie tecnologie, potete immaginare come considerano i migranti). I droni a supporto sono israeliani e portoghesi. Il riconoscimento facciale testato nel porto di Holyhead, nel Galles, è giapponese. I GPS tag sono in buona parte statunitensi. E via dicendo.

Nell’attuale contesto geopolitico, ciò introduce un ulteriore livello di problematicità a tecnologie che, naturalmente, sarebbero problematiche anche se prodotte in house, a codice aperto, invece che comprate a condizioni opache, protette dall’interesse commerciale (sempre preminente rispetto a quello del pubblico di conoscerle, per qualche ragione) e dalla segretezza strutturale che si accompagna a qualunque tecnologia possa essere associata anche solo vagamente alla nozione, informe e sempre estendibile, di “sicurezza nazionale”.

Sostieni Fragile

L’era delle Fortezze Automatiche

Perché tutto ciò ci interessa? Perché conferma svariate tendenze che ho osservato negli anni in cui ho monitorato per AlgorithmWatch l’evoluzione delle tecnologie intelligenti ai confini e per la gestione dell’immigrazione in Europa, e non solo. Tendenze peraltro già ben documentate nella sterminata e crescente letteratura in materia prodotta, negli ultimi anni, da accademici ed esponenti della società civile ben più esperti e rodati del sottoscritto.

Non serve, credo, dilungarsi su quanto diffusi siano i sentimenti anti-migranti in Occidente: dall’alto al basso, dai media tradizionali ai capi di Stato fino al più disgraziato degli influencer estremisti, l’odio per l’Altro sembra essere l’unico collante dei reazionari di ogni risma.

Quanto al soluzionismo tecnologico, ne abbiamo già parlato più volte su Fragile: è il sostrato ideologico del tecnofascismo, il vero e proprio motore della repressione idiota e sistematica dell’umano tramite AI e della sua riduzione a strumento.

Ovunque mi sia girato in questi ultimi anni, non ho fatto che trovare la stessa malsana utopia: quella di trasformare la gestione dei migranti in un problema logistico, rendendo i confini interamente conoscibili e dominabili tramite tecnologie “intelligenti” di cui si dice invariabilmente che non decidono in autonomia, ma che nei fatti decidono sempre più spesso in autonomia.

Il sogno è un mondo chiuso per gli indesiderati e insieme automaticamente sempre aperto per i desiderati; un mondo di fortezze automatiche, fatte di ponti levatoi visibili e invisibili che si ritraggono o estendono a seconda del colore della pelle e delle condizioni socio-economiche di chi lo attraversa. Un mondo in cui la discriminazione è ovunque, ma scompare negli sguardi inumani di un drone, una videocamera intelligente, un sistema algoritmico di previsione del rischio, un cervello digitale che fonde database su database per comporre individui che non sono più tali.

È il mondo che ho cercato di descrivere più nel dettaglio nel volume pubblicato l’anno scorso da Bollati Boringhieri, La fortezza automatica. Se l’IA decide chi può varcare i confini: una fantasia di controllo totale, concepita inizialmente non a caso in contesti bellici dall’intelligence e dall’esercito, che si giustifica con l’illusoria promessa di un progresso tecnologico capace di espellere la paura dell’Altro dalla società Occidentale, risolvendo una buona volta per tutte ogni fonte di insicurezza si annidi nel nostro corpo sociale. Come si comprende, è un progetto che pur mascherandosi con la retorica dell’innovazione e della sicurezza di democratico non ha essenzialmente nulla.

Ciò che colpisce del caso britannico è quanto questa distopica utopia di controllo e pacificazione sociale sia stata, negli anni, supportata indifferentemente da amministrazioni di destra e sinistra; anzi, nel caso degli UK è stata proprio l’amministrazione laburista di Keir Starmer a spingere più convintamente sul soluzionismo tecnologico, dipingendo gli UK come una “Adoption Nation”, un terreno di libera sperimentazione tecnologica privo delle lungaggini e dei cavilli imposti dalle regole europee — sempre per qualche ragione troppo severe, anche quando in realtà non lo sono affatto, specie in tema migrazioni —, un Eldorado automatico la cui legge dice esplicitamente che ad avere la priorità è l’innovazione, e i diritti umani diventano una formula di rito da ripetere per inverarsi, anche quando poi, nella realtà, non si invera affatto.

Il tutto si accompagna a forme di opacità strutturale molto simili a quelle che ho vissuto sulla mia pelle cercando di comprendere l’AI nel sistema dell’immigrazione UE: documenti di chiaro interesse pubblico che non vengono condivisi col pubblico o vengono condivisi solo pesantemente redatti; domande dirette e precise che non ottengono risposta, se non promesse vacue e prive di riscontro di mantenere umanità e diritti al centro dell’operatività dei sistemi di AI in questione. Nel caso degli UK, a tutto questo si è aggiunta pure — con mia sorpresa, nonostante tutto — la velata minaccia a un ricercatore di rimuovere i risultati delle proprie inchieste in materia, senza precisare dove sarebbero fattualmente scorretti (impossibile peraltro lo siano, dato che l’inchiesta riguardava una mappatura delle torri autonome di sorveglianza della Manica, e la mappatura era stata svolta sul campo: forse l’Home Office può confutare ciò che il ricercatore ha visto con i propri occhi?)

Insomma, il “clima ostile” inizialmente concepito per i migranti si sta riversando su chiunque cerchi quantomeno di comprenderne i tratti. Come sempre, la repressione nasce e si sperimenta sui più deboli ma si estende rapidamente al resto della popolazione, e a ogni aspetto della vita umana. Non è solo il coraggio a essere contagioso, ahinoi.


Le migrazioni non sono a misura di AI

Non che manchino le resistenze. Sarebbe impossibile elencare qui tutti i modi in cui attivisti e istituzioni di controllo provano, in diversi casi con successo, a contestare questo status quo soluzionista e antidemocratico. Già il lavoro di Open Rights Group sulla “giustizia digitale per i migranti” ha prodotto, anche solo limitandoci ai risultati recenti, una possibile inchiesta di un watchdog governativo proprio sull’effettiva accuratezza — e l’eccessiva segretezza — degli strumenti di AI generativa usati dall’Home Office, incluso quello che potrebbe condannare la donna marocchina di cui dicevamo a ulteriori violenze.

Il problema è che senza contestare l’ideologia di fondo secondo cui queste tecnologie vengono adottate taglieremo il ramo della repressione, ma non il tronco. La radice del problema non sta nell’AI, ma nelle teste di chi pensa sia la soluzione al fenomeno migratorio. Prima ancora: sta nell’idea che i fenomeni migratori siano problemi che ammettono una soluzione efficiente e univoca, nello stesso modo in cui la ammette un problema matematico, ingegneristico, logistico, tecnico.

Anzi, a un livello più fondamentale, la radice da tagliare è l’idea che un fenomeno umano — le migrazioni — rappresentino un problema, di qualunque natura esso sia (emergenziale o meno, tecnico o meno, etc.), piuttosto che appunto un fenomeno umano da gestire come tutti gli altri. Voglio dire: i matrimoni sono problematici, giusto? Eppure non per questo costruiamo un intero apparato di repressione digitale permanente e pervasivo nelle nostre vite di coppia per fare sì che funzionino nel modo più efficiente e prevedibile possibile. O almeno, non ancora.

Il rapporto si conclude con una serie di raccomandazioni sul da farsi, supportate — come si legge nella Prefazione — da parlamentari provenienti da quasi tutto lo spettro politico. Senza entrare nello specifico del contesto britannico, è urgente per tutti noi una rivoluzione copernicana nel modo in cui affrontiamo l’uso delle tecnologie nelle migrazioni: non come ancelle dei progetti repressivi dei governi di destra e sinistra in tutto il mondo, ma come veicoli di umanità e solidarietà sociale — se e quando avremo stabilito che questa loro funzione umanitaria è effettivamente possibile.

Invece di assumere pigramente il ruolo dell’AI nel futuro della gestione dei fenomeni migratori come un dato di natura, dobbiamo urgentemente chiedere che sia discusso democraticamente e sulla base delle migliori evidenze scientifiche disponibili — e, nel frattempo, ridurlo e quando necessario eliminarlo il più possibile. Dobbiamo esigere trasparenza, responsabilità, regole, se vogliamo impedire il normalizzarsi della violenza automatica sulle fasce più vulnerabili della popolazione — la stessa che abbiamo già visto chiaramente all’opera, anche grazie all’AI, nelle attività della disgraziatissima agenzia per l’immigrazione USA, ICE, che oggi invece sembra sedurre l’UE al punto di desiderarne una copia. E dobbiamo farlo ora, perché le tecnologie e insieme l’ideologia che le informa sono le stesse in ogni parte del globo, prodotte dagli stessi soggetti, con gli stessi privatissimi interessi.

Combattere il razzismo imperante, anche e soprattutto a livello istituzionale, passa da qui; contestare l’esistente, e immaginare al contempo in modo radicalmente diverso e migliore i fenomeni migratori e il loro rapporto con la tecnologia. L’alternativa è un mondo grande quanto lo concede il colore della tua pelle, o ciò che il tuo volto dice a un numero imprecisato e da noi incontrollabile di database. Per noi cresciuti nell’Europa di Schengen e in un mondo che traeva il proprio orgoglio dall’abbattere — piuttosto che innalzare — muri, sarebbe un fallimento umano e di visione catastrofico, che i nostri figli non ci perdonerebbero.

———


La poesia

A contraltare di questo quadro deprimente, propongo la mia traduzione di un testo poetico appena pubblicato dalla rivista americana Poetry, nel numero di ottobre.

Si tratta di Hey Siri di Paul Guest: una splendida, umanissima riflessione sul senso del domandare a un’intelligenza artificiale. Spero ci aiuti a ricordare chi siamo. O forse, chi potremmo essere.

All’antenato di ChatGPT abbiamo reagito come a ChatGPT

Tra il 1964 e il 1966, oltre mezzo secolo fa, l’informatico del MIT di Boston Joseph Weizenbaum sviluppa quello che oggi potremmo chiamare il primo antenato di ChatGPT, Claude e Gemini. L’idea è creare “un programma con cui si sarebbe potuto “conversare” in lingua inglese”, scrive il computer scientist in Computer Power and Human Reason. From Judgment to Calculation (1976, W. H. Freeman and Company), il volume con cui un decennio più tardi cercherà di fare il punto proprio dell’esperienza derivante dalle reazioni alla sua creazione, la chatbot che decide di chiamare ELIZA.

Ispirato al Pigmalione di George Bernard Shaw, il nome ELIZA assume per l’autore un significato preciso: che sia possibile insegnare al programma di analisi del linguaggio a esprimersi sempre meglio, proprio come la Eliza (Doolittle) della commedia di Shaw.

Il funzionamento di ELIZA è molto diverso da un LLM; per esempio, ELIZA segue un vero e proprio “script”, un “insieme di regole simile a quelle che si darebbero a un attore per improvvisare su un certo tema”, scrive Weizenbaum. Così per il suo primo esperimento con la chatbot, a ELIZA viene dato il ruolo di psicoterapista rogersiana alle prese con una prima intervista con una giovane paziente. L’obiettivo di ELIZA è di incoraggiare la paziente a continuare a parlare, con esortazioni — socratiche, potremmo dire — brevi e dirette: se la paziente menziona la madre, ELIZA — trasformata nella variante DOCTOR per l’occasione — risponde “dimmi di più sulla tua famiglia”; se la paziente dice che è depressa la maggior parte del tempo, ribatte “mi dispiace sentire che sei depressa la maggior parte del tempo”, e così via. Niente di sofisticato, né lontanamente paragonabile alla plausibilità, la complessità e la personalizzazione delle risposte fornite dalle chatbot attuali.

Eppure, nota Weizenbaum, diversi psichiatri praticanti “hanno realmente creduto che il programma DOCTOR avrebbe potuto svilupparsi fino a diventare una forma quasi completamente automatica di psicoterapia”. Questo ci dice molto non tanto delle tecnologie che sviluppiamo, ma di noi umani che le sviluppiamo e usiamo: basta molto meno di ChatGPT per illuderci che la macchina ci possa rimpiazzare con successo, anche per attività delicatissime come la psicoterapia. L’autore del resto aveva avvertito i lettori dal principio: Computer Power and Human Reason è “solo nominalmente” un libro sui computer. In realtà, come vedremo, parla di noi e di come comprendiamo il mondo.

Certo, scrivevano i soluzionisti dell’epoca (Colby et al.), sarebbe servito “altro lavoro prima che il programma fosse pronto per un uso clinico”, ma una volta completato questo labor limae — questo fix tecnologico — “un computer costruito all’occorrenza avrebbe potuto gestire diverse centinaia di pazienti all’ora”; il terapista umano “non sarebbe stato rimpiazzato”, si legge come nelle promesse dei tecno-entusiasti odierni, “ma sarebbe diventato molto più efficiente”.

Weizenbaum è sotto choc: credeva, da umano che non intende farsi ridurre a somma di informazioni e calcoli, che fosse indispensabile la partecipazione all’esperienza dell’altro, per comprendere il problema del paziente e, chissà, curarlo. Che fosse necessario un “riconoscimento empatico” del problema. Quello che non aveva immaginato, confessa l’autore, è che “sarebbe stato possibile per anche un solo psichiatra praticante sostenere che questa componente cruciale del processo terapeutico potesse essere interamente soppiantata da pura tecnica”.

Gli enstusiasti si spingono perfino oltre: sostengono che il terapista umano, dopotutto, sia a sua volta in ultima analisi un processore, che non fa che computare informazioni, e se gli si danno le regole empiriche giuste allora prenderà decisioni almeno altrettanto buone di quelle prese dagli umani, che computano meno e peggio. Gli argomenti, fateci caso, sono gli stessi usati oggi da chi, per elevare la propria promessa — o pitch di marketing — di una superintelligenza senza pari, riduce l’umano a uno scarto della storia, una forma evolutiva obsoleta di fronte al progresso incessante e necessario della tecnica.

Iscriviti a Fragile

Ma l’attualità degli argomenti riportati da Weizenbaum non si limita a questo. Con un’altra nota terribilmente attuale, l’autore infatti ci confessa di essere rimasto altrettanto sorpreso da “quanto rapidamente e profondamente le persone che hanno conversato con DOCTOR siano rimaste emotivamente legate alla macchina, e quanto inequivocabilmente l’abbiano antropomorfizzata”. Proprio come testimoniamo in questi giorni (solo at scale e in the open invece che per pochissimi soggetti sperimentali in un laboratorio), e come già raccontato su Fragile, Weizenbaum scopre che le persone che parlano con il software dialogico finiscono per condividere i loro “pensieri più intimi”. “Ciò che non avevo compreso”, annota l’autore, “è che una esposizione anche solo estremamente breve a un programma per computer relativamente semplice potesse portare persone assolutamente normali a forme di pensiero fortemente deliranti”. Sarà per questo che tanti dipendenti di Anthropic, OpenAI, DeepMind e simili si convincono di avere creato esseri artificiali senzienti, capaci perfino di sterminare il genere umano per noia, diletto o abnegazione?

Possibile, dato che il terzo e ultimo choc raccontato dall’autore riguarda quanto perfino persone ben istruite finiscano per attribuire qualità “enormemente esagerate” a “una tecnologia che non comprendono”. Weizenbaum, in altre parole, voleva dimostrare con ELIZA “l’importanza del contesto nella comprensione del linguaggio”; le reazioni a ELIZA, invece, rivelano la convinzione che la chatbot avesse svelato un mistero ben più radicale: ossia, la soluzione generale al problema di far comprendere il linguaggio naturale a un computer — una soluzione che non è alla portata nemmeno delle persone in carne e ossa, nota l’autore.

Ma da dove vengono queste reazioni fuori misura? Da dove queste speranze irrazionali? Per comprenderlo, dobbiamo andare alla radice di un concetto fondamentale per il pensiero Occidentale: il concetto di “ragione”, e come è stato pervertito da quella che Weizenbaum chiama con straordinaria efficacia “intellighenzia artificiale”.


Pervertire la ragione, ridurla a strumento

Computer Power and Human Reason è un testo di raffinate argomentazioni, e di abili sunti delle basi dell’informatica moderna. Ma, ridotto all’osso, reca messaggi comprensibili a chiunque.

Le ipotesi fondamentali del volume sono infatti due, chiare e dirette:

HP1. “C’è una differenza tra uomo e computer”
HP2.  “Ci sono compiti che non dovrebbero essere affidati a computer, indipendentemente dal fatto che siano in grado di portarli a termine”.

Banale, direte. Per nulla, tocca rispondere. Weizenbaum ha intravisto nel 1976 ciò che cinquant’anni più tardi è quotidianamente in discussione: il nostro non essere riducibili a macchine; il fatto che le macchine, man mano che diventano più sofisticate e autonome, debbano essere concepite con al loro interno un insieme di adeguati principi morali.

Lo abbiamo raccontato su Fragile: il tecnofascismo attuale tratta le persone come somme di data point, vecchi arnesi da controllare e comandare tramite le tecnologie intelligenti di un pugno di oligarchi che non vedono l’ora di portare l’uomo oltre se stesso, nel postumano, ibridandosi con la tecnologia fino a diventare esso stesso un artificio tecnologico. Tutto questo sarebbe naturalmente possibile solo opponendosi agli Anticristo che chiedono di regolare la tecnica, di rallentarla, di imbrigliarla in vetusti, superati valori umani. A questi nemici, gli entusiasti oppongono l’idea che i computer “possano, e debbano, fare tutto”.

Insomma, il grido di Weizenbaum fischia nel cervello degli umanisti, i pochi rimasti, oggi come non mai. Ma cosa autorizza i soluzionisti e i tecnocrati di ogni epoca a sognare la perversione di questi due elementari principi umani? L’autore risponde fin dalla prefazione:

“uno dei punti principali del libro è precisamente che noi, tutti noi, abbiamo trasformato troppo il mondo in un computer, e che questo rifare il mondo a immagine e somiglianza di un computer sia cominciato ben prima che ci fosse alcun computer”.

È così che abbiamo in qualche modo collettivamente deciso di esercitare l’iperstizione di cui parlavamo settimana scorsa; così che la nostra immaginazione ha rifatto il mondo, a furia di immaginarlo: con i computer, per i computer, prima ancora che esistessero i computer.

In altre parole, “l’introduzione dei computer nelle nostre società già fortemente tecnologiche (…) non ha fatto altro che rinforzare e amplificare (…) pressioni precedenti, che hanno spinto l’uomo a visioni sempre più razionaliste della società e a un’immagine anche più meccanicistica di sé”.

Da questo punto di vista la democratizzazione dell’AI non è altro che un passo ulteriore in questa direzione, che mezzo secolo fa Weizenbaum intravedeva già come nefasta e — come vedremo — foriera di idee reazionarie, discriminatorie e disumane per il futuro della società umana. 

A supporto dell’ipotesi che sia il riduzionismo il problema, Weizenbaum apre l’introduzione del volume citando Michael Polanyi. Già nel 1935 l’antropologo ungherese aveva infatti intuito che la scienza, una volta slegata dalla ricerca del sapere fine a se stesso e divenuta mera applicazione alla soluzione di problemi (come nel caso del regime comunista, dove doveva servire unicamente alla realizzazione dei Piani Quinquennali), avrebbe così intesa “prodotto una concezione meccanica dell’uomo e della storia dove non c’è più spazio per la scienza stessa”. Questo avrebbe portato a svalutare qualunque “potere intrinseco” al pensiero, “negando” in ultima analisi “qualunque fondamento alla richiesta di libertà di pensiero”.

Ma la scienza, ricorda Weizenbaum, non è mera soluzione di problemi: “la scienza è creativa”, l’equivalente di un atto artistico, scrive, e gli atti creativi “nascono solo da individui autonomi”. E, in ogni caso, la scienza non è l’unica forma del conoscere riservata agli esseri umani.

Eppure da secoli ci viene detto il contrario. Per risalire alle origini di questa concezione meccanicistica della ragione, che la travia e mette strutturalmente al servizio di progetti antiumani, si dovrebbe andare molto più indietro, suggerisce Weizenbaum. Forse a quando Francis Bacon cominciò a trasformare la promessa della scienza nell’high di una droga somministrata a un tossico che tutto vuole risolvere; una droga che trasforma ogni cosa in un problema risolvibile dalla ragione ridotta a “logicità”; una droga che trasforma perfino la percezione di “guerre omicide” in “meri problemi che vanno risolti da orde di problem-solver professionisti”. Un po’ come le guerre attuali, il cui unico progresso riguarda le tecnologie che le automatizzano, trasformando civili e terroristi in data point da far interpolare al sistema intelligente di turno, così da ottimizzarne l’analisi e, se necessario, l’eliminazione.

È l’alba di quello che, dall’analisi di Evgeny Morozov in poi, chiamiamo “soluzionismo”: si cercano, come scrive Hannah Arendt citata da Weizenbaum, “leggi che spieghino e predicano fatti politici e storici come se fossero necessari” (un po’ come l’Elon Musk che vuole “risolvere il futuro”, incarnazione reale ma distorta dell’Hari Seldon della Fondazione in Asimov con la sua “psicostoria”). Si nutre una “fiducia irrazionale nella calcolabilità del reale”, e questa finisce per essere la base di ogni decisione. Lo scontro politico diventa mero “difetto di comunicazione”, da risolvere con migliori sistemi di gestione dell’informazione (come oggi le politiche pubbliche soluzioniste nell’immigrazione, per esempio, dove la migrazione illegale viene assunta come esistente solo perché non siamo ancora in grado di trasformare i confini in aree dove ogni movimento è calcolabile e perfino prevedibile tramite AI e forme di sorveglianza digitale, o dove ogni falla burocratica può venire tappata automatizzando e delegando gli stessi compiti alle macchine “intelligenti”).

Ma se la ragione diventa mera logica, non c’è spazio per interessi e valori umani che siano realmente e radicalmente incommensurabili (come rientrano nello stesso calcolo?); e questo riduce la nostra capacità di ragionamento e azione politica, fino a far sparire i valori umani stessi, scrive Weizenbaum.

A questo modo la scienza così intesa — come un’impresa che risolve necessariamente il futuro riducendolo a questione di logica e computazione, e dunque di information processing — diventa l’unica forma di conoscenza legittima, che soppianta e delegittima tutte le altre: la letteratura, la musica, le arti.

I risultati sono oggi apparenti, grazie all’esplicita violenza (speculativa, come detto settimana scorsa) dell’AI generativa; ma Weizenbaum li aveva già intesi alla metà degli anni Settanta:

“La credenza nell’equazione tra razionalità e logicità ha corroso il potere profetico del linguaggio. Sappiamo contare, ma stiamo rapidamente dimenticando come dire cosa abbia valore contare e perché”.

Questo naturalmente è un enorme problema per chiunque intenda mettere in moto il meccanismo creativo dell’iperstizione, usare cioè l’immaginazione e il suo racconto per trasformare l’immaginato in reale; ed è un problema radicale: e se il modo in cui comunichiamo assumesse e lasciasse intravedere solo i sogni e i desideri della ragione strumentale? Non è forse questo il tecnofascismo? Non è forse questo il superpotere finalmente realizzato dall’AGI: calcolare e risolvere il mondo intero, presente e futuro, in modo che tutto sia ordinato ed efficiente — secondo i suoi stessi piani?


L’impero della ragione strumentale è un volano della conservazione

È l’arrivo dei computer, scrive Weizenbaum, ad avere “portato l’ipotesi che l’uomo sia una macchina a un nuovo livello di plausibilità”. Ma cosa più precisamente nel computer, si chiede l’autore, ha fatto sì che accadesse?

Il fatto che il computer, risponde, possa svolgere mansioni intellettuali, portando a definire le macchine in qualche modo “intelligenti”. Weizenbaum vede di conseguenza una sola via d’uscita: va tirata una linea tra intelligenza umana e artificiale, che ponga una netta distinzione tra uomo e macchina. Altrimenti, “se non c’è quella linea, allora i sostenitori della psicoterapia a mezzo computer potrebbero diventare i messaggeri che annunciano una nuova era in cui l’uomo viene una buona volta considerato niente più che un meccanismo”.

Urge insomma chiedersi perché l’uomo abbia deciso di “arrendere la propria stessa autonomia a un mondo visto come una macchina”, e perché nel mentre abbia deciso di “cominciare ad affidarsi a macchine autonome” — un percorso culminato oggi nei prodotti dell’AI generativa che sostituiscono le nostre attività intellettuali più sofisticate e negli AI agents che svolgono compiti sempre più articolati con un livello di autonomia tale da risultare difficilmente controllabili persino dai loro stessi creatori.

La questione centrale è quella della riduzione della ragione a ragione strumentale, del pensiero a formalismo logico, secondo l’ipotesi per cui il “pensiero umano sia interamente computabile”, e cioè che ogni pensiero umano possa in qualche modo essere detto a un computer, tradursi in computazione.

Weizenbaum non lo crede, e per affrontare la questione ritorna alla sua HP2, che si può riformulare come segue: “per quanto intelligenti possano essere rese le macchine, alcuni atti del pensiero devono essere tentati solo da esseri umani”; ossia, c’è e resta una differenza tra uomo e macchina come pensatori.

Ma se uomo e macchina sono diversi, e le macchine sono ovunque nella società umana, urge chiedersi quale sia il ruolo da assegnare alle macchine nell’ordine sociale affinché non lo distrugga.

O non ne impedisca, paradossalmente, i cambiamenti più radicali, qualora fossero necessari. Perché le macchine sembrano funzionare anche insieme, in un senso fondamentale e potente, come volani di conservazione, invece che di progresso; di reazione, invece che di rivoluzione (dovremmo parlare in altre parole di “reazione dell’AI” almeno quanto parliamo di “rivoluzione dell’AI”).

E questa non è teoria ma storia. Scrive Weizenbaum: “molti dei problemi riguardanti crescita e complessità che chiedevano incessantemente risposta durante i decenni successivi alla guerra avrebbero potuto fungere da incentivi per l’innovazione sociale e politica”. Invece poi è arrivato il computer, giusto in tempo per “salvare — e mantenere pressoché intatte, e anzi a consolidare e stabilizzare — strutture sociali e politiche che altrimenti sarebbero state radicalmente rinnovate o lasciate barcollare sotto i colpi delle richieste loro presentate. Il computer, dunque, è stato usato per conservare le istituzioni sociali e politiche americane. Le ha rinforzate e immunizzate, almeno temporaneamente, da una enorme pressione per il cambiamento”.

Il computer, proprio come l’AI, è uno strumento di reazione al cambiamento, per mantenere immutato lo status quo, e sterilizzare ogni domanda radicale di cambiamento attraverso la promessa che i problemi finora irrisolti potranno essere risolti con la semplice aggiunta di nuove tecnologie; solo queste ultime — non nuove idee e visioni politiche e della società, oltre che dell’uomo — possono davvero fornire soluzioni ai problemi sociali e politici, che sono in ultima analisi problemi tecnologici, della ragione strumentale. I computer realizzano dunque un cambiamento senza alcun “pensiero deliberato di cambiamento sostanziale”.

Conclude l’autore:

“L’arrivo della Rivoluzione dei Computer e l’alba di un’Era dei Computer sono state annunciate diverse volte. Ma se il trionfo di una rivoluzione va misurato in base alla profondità dei cambiamenti sociali causati, allora non c’è stata alcuna rivoluzione dei computer.”

Allo stesso modo l’AI, pur promettendo continuamente di cambiare tutto, non sembra avere cambiato gli assetti di potere al vertice della società umana — se non cambiandone i protagonisti, sostituiti dai padri dell’AI commerciale, e le proporzioni, sempre più grottesche a favore dei potenti, piuttosto che di chi dovrebbe tenerli a freno. L’unica rivoluzione compiuta sull’assetto sociale è una reazione, che fa parlare sempre più spesso di autoritarismi automatizzati, monarchi-CEO, feudalesimo digitale e nuove forme di schiavitù, discriminazione, sfruttamento, abuso e violenza.

L’intelligenza ridotta a misura

Nel mondo dell’intelligenza artificiale, gli stessi esiti sono garantiti dalla riduzione del concetto di intelligenza alla sua misurazione tramite IQ. È questa fondamentale mistificazione a fornire un fondamento a chi cerca di ridurre l’uomo a un sistema che processa informazioni, e dunque a una macchina. “Una visione troppo semplicistica dell’intelligenza ha dominato il pensiero popolare e scientifico”, nota Weizenbaum, ed è questa nozione distorta a essere “responsabile, almeno in parte, per avere concesso alla perversa e grandiosa fantasia dell’intelligenza artificiale di crescere”.

Perché l’equazione tra uomo e macchina abbia senso, l’intelligenza deve essere ridotta a qualcosa di misurabile, “permanente, inalterabile, e culturalmente indipendente dagli attributi degli individui (un po’ come il colore dei loro occhi)”, oltre che a qualcosa “che può essere perfino trasmesso geneticamente di generazione in generazione”.

Il problema di questa visione dell’intelligenza — oltre a prestarsi ai progetti eugenetici dei tecnofascisti — è che è gravemente incompleta: “non apprezza che la creatività umana dipende non solo dall’intelletto ma anche, ed è cruciale, dall’interazione tra intelletto e altre modalità del pensiero, come l’intuizione e la saggezza”; inoltre, l’intelligenza non è un fenomeno “linearmente misurabile”, indipendente da ogni cornice interpretativa di riferimento.

Insomma, argomenta Weizenbaum: l’intelligenza è un po’ come il movimento. Non c’è mai movimento assoluto, slegato da un qualche punto di riferimento nel mondo, ci ha insegnato la fisica; allo stesso modo, l’intelligenza “è un concetto insignificante, da sé”. Richiede un punto di riferimento (frame of reference). E “le nostre vite quotidiane dimostrano abbondantemente che l’intelligenza si manifesta solo relativamente a specifici contesti sociali e culturali”. Del resto, come si comparano l’intelligenza di una madre che prende decisioni complesse per la propria famiglia ma non è in grado di scrivere un singolo paragrafo grammaticalmente corretto e quella di un computer in grado di battere un maestro di scacchi ma incapace di cambiare un pannolino?, chiede Weizenbaum. Queste diverse forme di intelligenza “non possono essere comparate”, conclude.

Solo se si assume che l’intelligenza è misurabile su una scala assoluta è possibile pensare che si possano “in linea di principio” creare computer più intelligenti degli uomini. Quanti dibattiti inutili ci ha fatto avere — lamentava già Weizenbaum nel 1976, mezzo secolo fa! — questa idea errata. E quanti dibattiti utili non ci ha fatto avere:

“L’identificazione dell’intelligenza con l’IQ ha distorto profondamente la questione principalmente matematica riguardo cosa i computer possano e non possano fare, sostituendola con quella, insensata, su “quanta” intelligenza si possa, “in linea di principio”, dare a un computer. E, naturalmente, la sconsiderata antropomorfizzazione dei computer, oggi comune specialmente tra i rappresentanti dell’intellighenzia artificiale, si accompagna facilmente a una visione così semplicistica dell’intelligenza”.

Non si deve essere dunque né ottimisti né pessimisti circa la possibilità dell’AI di superare l’intelligenza umana: “qualunque argomento che richieda questa conclusione, o la sua negazione, è di per sé mal posta (ill-framed) e perciò sterile”. 


Ciò che l’AI può fare non è ciò che l’AI deve fare

La domanda da porre invece è di natura morale: “Quali obiettivo e scopi umani non possono essere adeguatamente delegati a computer?”

Per esempio: una macchina può sostituire uno psichiatra — ma dovrebbe?

La risposta della “intellighenzia artificiale” è naturalmente positiva: prima di tutto, non c’è dominio del pensiero umano che sia inaccessibile alle macchine, assumono; il che significa che le macchine possono concepire gli stessi pensieri di uno psichiatra, mentre si rapporta a un paziente; visto che però la macchina lo può fare in modo più efficiente e meno costoso, allora sostengono che quelle funzioni “debbano essere delegate alla macchina”, scrive Weizenbaum — che racconta come una volta il celebre computer scientist e scienziato cognitivo John McCarthy gli abbia detto: “Cos’è che un giudice conosce che non possa essere detto a un computer?” Il che significa, naturalmente, che anche i giudici dovrebbero essere rimpiazzati da computer — da AI, diremmo oggi.

Una posizione che secondo l’autore ignora che non tutta la conoscenza umana è codificata in “strutture informative”: un umano può per esempio conoscere l’impatto emotivo che avrà prendere la mano di un’altra persona, sia su di sé che sull’altro, dice Weizenbaum, e “l’acquisizione di quella conoscenza non è di certo funzione del solo cervello”. È una conoscenza in parte cinetica, tattile, che dipende dal fatto di avere un corpo, e “nessun organismo che non abbia un corpo umano può conoscere queste cose nello stesso modo in cui le conoscono gli umani”.

Da ultimo, anche le conoscenze che sembrano facilmente comunicabili a livello superficiale possono in realtà non esserlo: ogni messaggio, anche il più semplice, dipende infatti dalle aspettative e dallo stato del ricevente. Un messaggio che dice “Arrivo con il volo delle 7” ha contenuto informativo diverso per una moglie che aspetta il marito al ritorno dal lavoro o per una donna che non lo aspettava affatto ed è sorpresa dalla sua dichiarazione d’amore. Insomma, il linguaggio non è meramente funzionale, nell’umano, come lo è nei computer.

Certo, forse è possibile “socializzare” anche le macchine. Ma la socializzazione umana nasce dalla diade madre-figlio, dalla loro inseparabile mutualità nei primi mesi di vita, in cui l’infante imparare “cosa significhi dare e ricevere, fidarsi e non fidarsi, essere un amico e avere un amico, avere un senso di speranza e disperazione”; e anche nel proseguo della sua vita, staccatosi dalla madre, l’individuo ha esperienze profondamente relazionali e contestuali: “la scolarizzazione, il matrimonio, la prigionia, la guerra, gli amori e l’odio, le esperienze di vergogna e colpa che variano così radicalmente tra le culture umane”.

Insomma, non si può che concludere che “qualunque sia il grado di intelligenza ottenibile da un computer, oggi o in futuro, questa deve essere sempre un’intelligenza aliena rispetto a problemi e preoccupazioni genuinamente umane”. Buona fortuna ai tanti che si pongono il problema, a loro dire esistenziale, dell’allineamento tra valori artificiali e umani.


La macchina per distruggere e riscrivere la storia

Stabilire una differenza tra umano e macchina tuttavia non basta a mettere l’umano al riparo dalla macchina. Quella differenza, nota astutamente Weizenbaum, lascia anche sempre un residuo d’ignoranza in ciò che l’utente umano può conoscere del computer che usa: perché da un lato il computer ha superato di gran lunga la comprensione dell’utente, e dall’altro il computer è indispensabile all’utente. Il che, secondo l’autore, ha due conseguenze:

1) “sempre più decisioni vengono prese con l’aiuto di, o in alcuni casi interamente da, computer i cui programmi nessuno conosce più esplicitamente o è in grado di comprendere. Di conseguenza, nessuno può più conoscere i criteri o le regole su cui sono basate quelle decisioni”

2) dato che manca la conoscenza intima del loro funzionamento, i sistemi di regole e criteri all’interno dei computer diventano “immuni al cambiamento”.

Accumulando decisioni opache ma sempre più sofisticate, e facendovi noi sempre più affidamento, l’automazione dei processi decisionali crea così una “base di conoscenze” che si legittima da sé, tramite l’uso dei computer stessi. Ma è una base di conoscenze che rischia di sabotare, ignorare o riscrivere la storia.

Weizenbaum riporta l’esempio di una mappa della crosta terrestre, e in particolare dei terremoti scatenati dallo scontro tra le placche tettoniche, creata da sismologi che sanno benissimo che i terremoti precedono la loro registrazione tramite uno standard univoco, nel 1961, ma che al contempo, non potendo standardizzare i dati ottenuti nel secolo precedente in modo tale che fossero leggibili da un computer, decidono di ignorarli.

“Il computer ha così cominciato a divenire uno strumento per la distruzione della storia”, scrive Weizenbaum, prima di portare un altro esempio — quello della guerra in Vietnam, dove “computer operati da ufficiali che non avevano la più pallida idea di cosa accadesse dentro quelle macchine sceglievano quali villaggi bombardare e quali aree avessero una densità sufficiente di Viet Cong per essere dichiarata “legittimamente” una free-fire zone, ossia un’ampia area geografica in cui i piloti avevano il “diritto” di uccidere qualunque cosa vivente”.

Naturalmente, il tutto basato unicamente su dati “machine readable”, prodotti da altre macchine. Macchine che poi sono state “aggiustate” per produrre falsi rapporti dal campo quando il presidente americano ha deciso di bombardare la Cambogia senza informare il Congresso, così che i leader mondiali potessero accedere a una versione direttamente sanitizzata della storia. “Il Ministero della Verità di Orwell è stato meccanizzato”, commenta Weizenbaum. “La storia non è stata soltanto distrutta, ma anche ricreata”. E i leader mondiali ci hanno creduto: “dopotutto, ha parlato il computer” — nota Weizenbaum, che anticipa quello che chiameremo automation bias; “non si sono accorti di essere diventati “schiavi” dei computer”.

Parlando di computer in guerra, Weizenbaum problematizza già la “distanza psicologica” del carnefice — il militare — dalla vittima; l’abdicazione della responsabilità di decisioni in contesti di guerra a macchine che “non comprendono”; l’evaporazione della responsabilità umana nella presunta oggettività e autonomia dei prodotti computerizzati. Del resto, “Il mito della inevitabilità tecnologica, politica e sociale è un potente tranquillante per le coscienze”, il cui servigio è “rimuovere la responsabilità dalle spalle di chiunque ci creda davvero”. Il determinismo tecnologico insomma — quello che oggi vediamo nell’inevitabilità dell’uso dell’AI nei conflitti in Palestina, Iran e Ucraina — serve anche a legittimare e insieme deresponsabilizzare — oltre che disumanizzare — il ricorso alla violenza.

Inoltre, il determinismo tecnologico presenta futuri contendibili come inevitabili, già decisi. Svolge insomma un po’ la stessa funzione della violenza speculativa prodotta dalle immagini generate dall’AI, come discusso nel testo di Della Ratta di settimana scorsa. “Non c’è nemmeno la più pallida parvenza di domanda riguardo a se vogliamo questo futuro. Semplicemente, sta arrivando”.

Sostieni Fragile

Macchine di disumanizzazione di massa

Ancora, il determinismo tecnologico — aveva correttamente intuito Weizenbaum — implica il soluzionismo tecnologico. Ogni nuova tecnologia deve essere adottata perché essa solamente rappresenta la soluzione a nuovi problemi, dato che sono tutti riducibili a questioni tecniche. Allen Newell ed Herbert Simon rappresentano secondo l’autore questa visione per cui ogni “problema” identifica in realtà un difetto comunicativo, tecnico, in cui ogni reale conflitto sostanziale — pur esistente — scompare nella sua conversione in mero paradosso da risolvere tramite i calcoli della ragione strumentale e la logica.

Questo, come sappiamo, fa scomparire la politica e la società, sostituendole con loro asettiche rappresentazioni artificiali: “Non ci sono genuini conflitti nella società”, conclude Weizenbaum, nel suo atto d’accusa contro il determinismo. Di conseguenza, scompaiono anche i valori umani: “Quando ogni problema sulla scena internazionale viene visto dai migliori risolutori di problemi come una mera questione tecnica, guerre come quelle del Vietnam diventano davvero inevitabili”, perché scompare — e by design, dal principio — la possibilità che esistano interessi genuini ma divergenti in società che coesistono. Società che dunque — bombardate o bombardanti — spariscono nelle loro rappresentazioni simboliche (o statistiche, poco importa da questo punto di vista).

Perché non usare il napalm in Vietnam, se il metro di giudizio è la sola ragione strumentale, cioè trovare il modo per vincere il conflitto nel modo più efficiente? Se la scienza è l’unica autorità, che ce ne facciamo di giustizia, equità, felicità, tolleranza — tutti concetti, scrive il filosofo Max Horkeimer citato nel testo, che “nei secoli precedenti si supponeva fossero inerenti a o approvati dalla ragione”, e che “oggi hanno smarrito le loro radici intellettuali”?

La guerra viene così automatizzata per la ragione — tipica di chi è in “bancarotta morale” — che altrimenti lo faranno gli altri e noi rimarremo indietro. “Temono”, questi scientisti, “che soggetti malintenzionati sviluppino macchine superintelligenti e le usino per opprimere il genere umano, e che l’unica difesa contro queste macchine nemiche saranno macchine superintelligenti controllate da noi, cioè i buoni”. Sembra di leggere le cronache delle bisticce sull’AI boia dell’umanità tra miliardari-guru dell’AI di questi mesi e anni.

Il risultato è una crescente, deliberata e sistematica disumanizzazione dell’umano. Sono i computer così a incarnare qualità essenzialmente umane come l’essere “degni di fiducia” (trustworthy, come l’AI promossa dall’UE, almeno nominalmente), l’essere realmente intelligenti (la retorica della superintelligenza che insieme svaluta l’umano e le sue capacità, in grande spolvero in questi anni); di conseguenza, l’unico problema degno delle nostre intere fatiche è che i computer che inevitabilmente domineranno il nostro futuro lo facciano secondo valori allineati ai nostri — realizzando così il futuro che vogliamo (o meglio, che vuole chi domina i computer) e non uno che non vogliamo (per esempio uno in cui queste superintelligenze ci ammazzano tutti).

Sono i prodromi della tecnocrazia globale che vediamo scalpitare oggi, e che Weizenbaum aveva già intravisto notando che il “noi” che orienta il futuro dominato dalle macchine è composto in realtà da “i membri di un circolo piuttosto ristretto di computer scientists”, da “messia tecnologici che, visto che trovano impossibile fidarsi di una mente umana, sentono il bisogno di costruire computer “degni di fiducia””.

Una élite che dispone di computer capaci di riscrivere e rifare la storia, privi di una morale, senza limiti e costruiti per rimpiazzare l’umano ovunque possibile by design — a che tipo di progetto politico potrà mai corrispondere? Non certo a uno democratico.

Il messaggio del saggio accademico tipico sugli effetti dei computer sulla società, conclude Weizenbaum, è non a caso che saranno gli esperti a risolvere tutti i problemi causati dai computer (creati dagli esperti) — basta che diate loro “più denaro”!

Il passaggio cruciale è come questo progetto poggi interamente sulla riduzione della ragione umana a ragione strumentale — una intuizione che l’autore riconduce a un testo di Horkeimer del 1947, in cui si racconta la ragione ridotta “al suo ruolo nella dominazione delle cose, dell’uomo, e da ultimo della natura”. 

È il pensiero stesso ridotto a processo industriale, dove ogni concetto è streamlined come in una catena di montaggio, nodo di un algoritmo di potere.

Weizenbaum è implacabile e visionario, nel comprendere la portata politica delle intuizioni di Horkeimer:

“il computer, come usato attualmente dall’élite tecnologica, non è causa di alcunché. È piuttosto uno strumento costretto al servizio della razionalizzazione, del supporto e del mantenimento delle componenti ideologiche più conservatrici, anzi reazionarie, dello Zeitgeist corrente.”

Dopotutto, è stata la Germania nazista a implementare la “soluzione finale” alla “questione ebraica”, “un caso da manuale di esercizio della ragione strumentale”, scrive provocatorio Weizenbaum. Un orrore proseguito poi nei decenni a venire, con altre guerre combattute secondo la stessa logica. Può darsi che non sia la religione il vero oppio dei popoli, suggerisce in chiusura del penultimo capitolo l’autore, e che siano “la ragione strumentale, il trionfo della tecnica, e una scienza senza briglie a dare dipendenza”, creando un “incubo che si auto-realizza”.

Questo accade quando si trasformano il linguaggio e la ragione in un mero “strumento per influenzare il corso degli eventi e delle cose del mondo”.

E no, adattarsi all’era dell’AI — la panacea spacciata a ogni ritrovo e congresso aziendal-istituzionale — non è la cura, ma piuttosto il male:

“Nel nostro processo di adattamento a questi sistemi (…) abbiamo finito per castrare non solo noi stessi (ossia, ci siamo rassegnati all’impotenza) ma anche il nostro linguaggio. Perché ora che il linguaggio è divenuto solo un altro strumento, tutti i concetti, le idee, le immagini che gli artisti e gli scrittori non possono parafrasare in un linguaggio comprensibile ai computer hanno perso la loro funzione e la loro potenza” (p. 250), scrive Weizenbaum, che sembra avere intravisto la condizione disgraziata dei produttori umani di cultura nell’era dell’AI generativa multi-modale.

“Non sorprende, vista questa visione del linguaggio, che la distinzione tra il vivente e il non vivente, tra l’uomo e la macchina, sia diventata poco meno che reale, al massimo materia di sfumature”. A dire: a che servono gli artisti se la parola diventa mera funzione? Se ciò che diciamo deve sempre servire a qualcosa? Cos’è l’arte senza l’inutile?

Oltre l’impero della ragione strumentale

Che fare, di fronte a un male che, descritto oltre mezzo secolo fa, non va che incancrenendosi?

La soluzione, insegna Weizenbaum, passa per il fondamentale rigetto dell’imperialismo della ragione strumentale, e il ritorno all’uso della ragione umana. Ciò si realizza ribadendo innanzitutto che abbiamo il diritto di parlare e ragionare in termini non strumentali. È questa “la ragione riportata alla sua dimensione di dignità umana, autenticità, autostima, e autonomia individuale”. È la ragione senza che sia separata dalle sue componenti fondamentali, “l’intuizione e la sensazione”.

È un ritorno al reale anche, perché la ragione strumentale ha trasformato le parole in un “feticcio circondato di magia nera”, e “solo i maghi hanno i diritti degli iniziati”. Di nuovo, un riferimento al fatto, fondamentale, che le convinzioni dei padroni dell’AI e dei teorici e apologeti del loro dominio siano profondamente irrazionali e imbevute di ideologia politica, piuttosto che basati su solide evidenze scientifiche. I sostenitori dell’assolutismo della ragione sono in realtà dei fondamentalisti che distorcono in modo perverso e pericoloso la nozione di ragione umana e il suo ruolo nel nostro processo di comprensione del mondo e della realtà sociale.

Va invece rotta questa mistificazione. Introdotta l’etica nella pianificazione scientifica. E bisogna lottare: “Io combatto l’imperialismo della ragione strumentale, non la ragione”, riassume Weizenbaum.

Va combattuto il determinismo tecnologico, perché “il potere è nulla senza il potere di scegliere”.

Bisogna evitare di ridurre l’uomo a oggetto, a strumento, e riconoscere sempre il valore di ogni singolo individuo, un valore che non si esaurisce in una sua funzione individuale o sociale (messaggi molto simili a quelli dell’Enciclica Magnifica Humanitas di Papa Leone, peraltro).

E bisogna rigettare gli usi “osceni” della tecnologia, cioè quelli che susciterebbero disgusto in qualunque persona civile abbia modo di contemplarli — per esempio, tutti quelli che prevedono la sostituzione di un essere umano con una macchina in contesti dove è richiesto “rispetto, comprensione e amore tra persone”.

È per questo che Weizenbaum rigetta l’idea di automatizzare la psicoterapia: “non sulla base del fatto che un progetto simile potrebbe essere tecnicamente infattibile (come abbiamo visto con l’AI generativa, non lo è, ndr), ma sulla base del fatto che è immorale”.

Le domande di Weizenbaum a chi la pensa diversamente sono quelle, fondamentali, che troppi critici della tecnologia odierni non pongono:

“Sorge la domanda dunque, e si risponde da sé, se vogliamo incoraggiare le persone a condurre le loro vite sulla base di frodi ai pazienti, ciarlataneria e irrealtà. E, anche più importante, vogliamo davvero credere che aiuti persone che già abitano un mondo che somiglia troppo a una macchina preferire una terapia somministrata da macchine piuttosto che da altre persone?”

La risposta è ovviamente negativa per l’autore, proprio perché dobbiamo rigettare il soluzionismo: “Il rispetto, la comprensione e l’amore non sono problemi tecnici”. Certe funzioni umane non dovrebbero semplicemente essere sostituite da macchine, se vogliamo rispettare, comprendere e amare il prossimo.

Seguono poi due principi che dovrebbero drizzare le antenne dei policy-maker interessati a regolamentare l’AI per davvero:

1) Andrebbe più in generale evitata, o almeno adottata solo a seguito di attenta considerazione, ogni applicazione dei computer che possa ragionevolmente comportare effetti collaterali “irreversibili e non interamente prevedibili”.
2) “Se inoltre non si può dimostrare che tale applicazione soddisfa un urgente bisogno umano che non può essere prontamente soddisfatto altrimenti, allora quell’applicazione non andrebbe realizzata”.

Perché per esempio creare tecnologie che consentono di automatizzare completamente il campo di battaglia?

Perché i tecnici che hanno ideato e lavorato allo sviluppo della McNamara Line — il primo vero e proprio confine elettronico, dispiegato in un sistema di sensori per identificare e fermare i Viet Cong durante la guerra in Vietnam — invece di costruire il primo prototipo di “electronic battlefield” non si sono semplicemente dichiarati contrari ai bombardamenti? Serviva un modo più efficiente di uccidere il nemico per fermare i bombardamenti, o bastava forse un’obiezione di coscienza collettiva?

Non è la tecnologia ad avere creato le fortezze automatiche oggi dislocate in tutto il mondo e in costante crescita: sono stati esseri umani, seduti attorno a un tavolo, che hanno deciso di usare certe tecnologie per creare fortezze — che si tratti di non scontentare un finanziatore indispensabile o “auto-mutilazione intellettuale” importa poco, nei fatti. Conta che il soluzionismo uccide — i nemici, e le alternative.

Quello che serve, conclude Weizenbaum, sono invece atti di coraggio, anche piccoli e quotidiani. Senza, non ne usciremo.

Aveva ragione. 

La sfida dell’immaginazione si complica

La settimana scorsa il libro e le parole di Gil Durán ci hanno lasciati con un messaggio ben preciso: “La prima sfida è la sfida dell’immaginazione”. A dire: se vogliamo un mondo in cui il futuro sia a misura di ogni uomo, e non unicamente di un pugno di miliardari e altri potenti, dobbiamo prima di tutto cominciare a immaginarlo. Perché l’immaginazione è operativa, se supportata da una fede abbastanza forte di un numero abbastanza grande di persone. Tende a tradurre i sogni che fabbrica in realtà, essere cioè ciò che in gergo gli studiosi chiamano “iperstizione”.

Ma oggi l’immaginazione può uscire rapidamente dalle nostre teste, e riversarsi nel mondo sotto forma di contenuto prodotto dall’intelligenza artificiale generativa. E questo complica ulteriormente le cose, si legge in Violenza speculativa. Come l’IA ci sta abituando all’orrore (Einaudi, 2026) di Donatella Della Ratta. Perché le immagini prodotte da AI generativa non si limitano a manipolare o falsificare la realtà, ma insieme la producono con una velocità, una qualità, una semplicità e una diffusione senza precedenti. Siamo di fronte, scrive la docente di comunicazione, performer e curatrice, a “una nuova politica della visione, dove l’intelligenza artificiale interviene sulla soglia del visibile, ridefinendo non solo l’orizzonte dell’immaginabile, ma anche i futuri che si impongono come plausibili, legittimi, e inevitabili”

Apparentemente, questo dovrebbe darci speranza: se “l’uso sapiente delle tecnologie generative” consente di anticipare, rendere visibile “e dunque pensabile sul piano politico, la possibilità di un ordine diverso”, allora significa che non siamo confinati al realismo capitalista. Significa cioè che è possibile usare l’AI generativa come alleata di progetti per reimmaginare radicalmente il mondo a misura d’uomo e non di AI, a partire dalle istituzioni democratiche e dal posto stesso dell’AI nel futuro del lavoro, dello Stato, delle relazioni sociali e via dicendo.

Con un esempio banale ma spero efficace: perché non usare strumenti di AI generativa per immaginare un futuro solarpunk, in cui il massimo sviluppo tecnologico compatibile con il benessere umano e del pianeta si realizza davvero, e l’uomo, la natura e le macchine convivono in armonia e pace, consentendo a ciascuno di noi la piena realizzazione? Perché non usare questi strumenti per dettagliare, poco a poco, questo futuro utopico come si dettaglia una profezia che gradualmente si autoavvera? Dopotutto, se a furia di mostrare il futuro sporco, corrotto e malato come in Neuromancer e Cyberpunk 2077 lo abbiamo sostanzialmente realizzato, perché non potrebbe valere anche al rovescio, per visualizzare prima e realizzare poi un futuro equo, sostenibile, democratico, umano?

Se Trump, l’AfD e Vannacci usano l’AI generativa per fabbricare, letteralmente, il loro mondo e renderlo il mondo, perché non possono farlo anche i difensori dei diritti umani, delle istituzioni internazionali, della democrazia e della solidarietà umana?

Il testo di Della Ratta, ahinoi, non fornisce grandi motivi di speranza da questo punto di vista, ed è una questione che va affrontata di petto e nel dettaglio, dato che sta al centro di qualunque tentativo di mobilitarsi contro l’AI degli oligarchi di Silicon Valley — i tecnofascisti — e a favore di una idea di progresso sociale e tecnologico radicalmente alternativa, fondata su presupposti non efficientisti-soluzionisti ma umanistici.

Iscriviti a Fragile

Il maggiordomo intelligente apparecchia il tecnofascismo

Anticipando la conclusione del mio ragionamento: temo che il filo dell’argomentazione dipanata attentamente nei capitoli di Violenza speculativa, se seguito con rigore e precisione, non possa che condurre alla conclusione per cui l’AI generativa è e può unicamente essere alleata di immaginari tecnofascisti; e che è impossibile servirsene senza replicare le condizioni infrastrutturali e di funzionamento — “logistiche e logiche”, secondo Della Ratta — che affondano l’AI generativa in radici coloniali, imperiali, e dunque in ultima analisi discriminatorie, autoritarie, razziste. Ogni volta che tentassimo di usarla per visualizzare la nostra utopia di rifare la democrazia aggiornandola al XXI secolo non staremmo, insomma, che rinsaldando tutte le premesse che ne reggono il fallimento.

Del resto, il libro non parla che dei molteplici tentativi di sfruttare l’AI come generativa di media visivi e di un’estetica che accelera progetti antidemocratici — dalle mire espansionistiche e le deportazioni di massa del regime trumpiano alla riprogettazione di Gaza in una scintillante riviera per coloni Occidentali, dai propositi di exit dalla democrazia tramite Network States gestiti come aziende indipendenti e sovrane da monarchi-CEO alla normalizzazione della pulizia etnica in Europa tramite la visualizzazione di un futuro in cui le sue capitali sono sottomesse — come nella celebre distopia di Michelle Houellebecq — all’Islam radicale.

Di più: il testo sembra fornire ottime ragioni per sostenere che non ci siano altri reali usi immaginativi dell’AI generativa. Se l’AI è una forma di violenza sul reale, perché lo plasma e modella sulla base di un futuro ipotetico ma dipinto come inevitabile, già presente (è qui, lo vediamo!), questa violenza sembra indirizzarsi necessariamente verso la concretizzazione di immaginari anti-democratici, illiberali ed esplicitamente violenti.

Quello che chiamiamo con indifferenza “AI slop”, in altre parole, “non è soltanto rumore. È una tecnologia politica della saturazione”, si legge, che ripete incessantemente — e visualizza — idee assurde, estremiste, provocatorie, che così escono dall’impensabile ed entrano nel discorso politico corrente. Questa è la violenza speculativa insita in immagini che “non descrivono il presente, ma cercano di orientare il campo delle possibilità future”, e che rappresentano “il tentativo di occupare ogni spazio residuo dell’immaginazione collettiva, colonizzando il futuro prima che questo possa essere immaginato altrimenti”. Il flooding the zone di Steve Bannon, in altre parole, ma visuale.

“L’AI generativa è centrale in questa dinamica”, scrive l’autrice, dato che ha una capacità senza precedenti di plasmare e dare forma a “quasi ogni tipo di futuro immaginato”. E tuttavia, è il “quasi” a essere centrale: perché, precisa subito Della Ratta, l’AI generativa è “strumento particolarmente adatto per portare avanti programmi annientatori e suprematisti”. Quel “quasi” sembra escludere la possibilità di immaginare futuri democratici, di tolleranza, giustizia sociale, accoglienza, e rispetto dell’ambiente. Al contrario, “l’IA generativa [sta] diventando il motore visivo per eccellenza delle politiche autoritarie su scala mondiale”.

La domanda è: può diventare al contrario il motore visivo di una rinascita democratica?

Non lo credo. Prima di tutto, Della Ratta scrive che, lungi dall’essere uno mero strumento di potenziamento dell’umano, l’AI generativa va inserita “all’interno di una genealogia di dispositivi visivi di sorveglianza e controllo”, insieme alla fotografia, “profondamente radicati nelle pratiche coloniali di classificazione e categorizzazione progettate per dominare persone e territori”. L’AI è uno strumento di disciplina e ridefinizione dell’umano per dominarlo, prima che un suo assistente che ne moltiplica l’autonomia e la creatività.

Inoltre, ed è cruciale, “la violenza non è esito accidentale di questi sistemi, ma caratteristica costitutiva de loro funzionamento interno”. Per due ordini di ragioni:

1) Dal punto di vista infrastrutturale, l’AI dipende da “imponenti regimi di estrazione e sfruttamento” (del territorio, delle risorse naturali, ma anche di lavoro a basso costo per “classificare, etichettare e supervisionare i dati”, in perfetta “continuità con precedenti formazioni imperiali e coloniali”)
2) Dal punto di vista operativo-funzionale, “la violenza è iscritta nella logica che permea silenziosamente questa infrastruttura tecnologica: una logica che trasforma qualità in quantità, riducendo vite umane complesse a schemi statistici e computazione”; questo riduzionismo è la violenza, si legge, ed è costitutiva perché “costituisce il principio interno di funzionamento dell’IA, e si estende a tutte le dimensioni dell’esistenza umana”.

È il modo stesso in cui l’AI generativa è costruita e funziona a costituire la premessa per la violenza che questa tecnologia esercita “nell’immagine e attraverso l’immagine”.

È una violenza “speculativa”, certo, perché “opera attraverso la congettura, proiettando futuri fondati sulla distruzione, e normalizzandoli attraverso un’estetica elegante e priva di attriti”. Ma è comunque una forma di violenza, perfetta peraltro per sfuggire al suo contrasto: “Proprio perché non appare come violenta, essa sfugge ai sistemi contemporanei di censura in rete, tanto algoritmici quanto umani”.

È una nuova condizione ontologica, scrive l’autrice, dove la forza dell’immagine non si manifesta tramite l’inganno “ma nell’anticipazione”, e in cui ciò che è visualizzato ha conseguenze reali proprio perché irreale. “Queste immagini non si limitano a rappresentare un possibile futuro”, si legge, ma “ne creano un prototipo”. Insomma, sono “armi di costruzione di mondi” con l’obiettivo di “rendere operativi e ineluttabili determinati futuri politici”. Sono in altre parole “miti operativi” che “non documentano la realtà” ma “la installano”.

Mentre lo fanno, hanno un’altra virtù desiderabile per i tecnofascisti: tendono a riscrivere e sanitizzare il passato, e a costruire una vera e propria “storia sintetica” parallela. Muta così la concezione di archivio storico e perfino di prova documentale.

Infatti i media visivi generativi inaugurano un vero e proprio “archivio del futuro”, si legge, in cui la storia non è più ciò che è accaduto ma “ciò che viene proiettato come destinato ad accadere”. Una feature perfetta per qualunque revisionista voglia, per esempio, rendere reale un passato mitico di grandezza e perfezione perduta per la propria Nazione — il mito fondativo di ogni fascismo. Un esempio concreto sono le immagini AI che ritraggono scene di vita fasulle ad Auschwitz, definite proprio dal portavoce del museo di Auschwitz come “forma estrema di violenza contro la storia”, e che rappresentano secondo l’autrice addirittura una violenza “contro l’idea stessa di immagine documento”.

Il risultato è che si ha dunque “la concreta fattibilità tecnica della produzione di una storia completamente parallela, e del tutto sintetica”, in cui “il passato non viene più trattato come un referente fisso da preservare, ma come un substrato malleabile”, da manipolare con l’AI per generare altre forme di violenza speculativa. Un passato che, peraltro, è in realtà “un residuo sanificato” del passato reale, depurato dalle lotte e dai conflitti socioculturali che l’hanno caratterizzato, perché per essere artificialmente generato deve essere tradotto in codici estetici assemblati secondo logiche statistiche invece che semantiche, in cui ciò che è plausibile è ciò che medio e mediocre, e in cui il nuovo esiste solo come riassemblaggio e riproposizione ottimizzata del vecchio; un passato insomma che diventa un’idea generica del passato, una pastness vuota, se non ai fini repressivi di chi lo crea e comanda.

A questo modo, per esempio, tecnologie biopolitiche, nate per “classificare, ordinare e gerarchizzare i corpi sulla base di indizi ottici” — così da discriminare automaticamente chi ha diritto di varcare un confine e chi no, chi ha diritto a un assegno familiare e chi no, chi ha diritto di continuare a vivere in Palestina e chi invece deve morire —, vengono sanitizzate, rimosse dalla loro essenziale funzione di sorveglianza e controllo di derivazione coloniale, e in ultima analisi normalizzate come semplici strumenti dell’ordine pubblico. “Il risultato è la normalizzazione della sorveglianza attraverso l’estetica”. Un altro fattore che spinge nella direzione dell’AI generativa come mezzo intrinsecamente adatto a progetti autoritari, piuttosto che democratici.

La proliferazione di immagini generate con AI generativa a scopi di normalizzazione e realizzazione di idee di estrema destra diventa a questo modo una vera e propria infrastruttura di potere: “un regime visivo che modella la percezione, normalizza la violenza, estetizza l’autoritarismo e rende desiderabile l’annientamento attraverso il piacere dello sguardo”, scrive Della Ratta.

Bombe ideologiche a mezzo AI sulla democrazia

Come? Il loro meccanismo di funzionamento è descrivibile con un termine mutuato dal lavoro di un ideologo dell’estrema destra, Guillaume Faye: “ideoshock”; ovvero, “bombe ideologiche improvvise, progettate per destabilizzare il sistema liberal-borghese e accelerare il collasso della civiltà, liberando il terreno per un nuovo ordine esplicitamente antidemocratico”. Questo sono le immagini sulla Gaza Riviera:“ideoshock in forma visiva”. Di questi “ideoshock” le immagini generate dall’AI sono “acceleratori”, si legge, per tradurre l’immaginazione in governance.

Le conseguenze epistemiche sono tremende. L’immagine diventa infatti non solo infrastruttura di un generico potere, ma infrastruttura di un potere che non ammette dissenso e non ammette prova contraria: “le immagini di violenza speculativa operano come proiezioni piuttosto che come dimostrazioni”, si legge, eppure al contempo attecchiscono proprio perché vengono “credute”, non perché fattuali. Sono dunque “oggetti sacri di credenza”, professioni di fede, e come tali non ammettono smentite. Del resto, il loro consenso è “immaginativo” e opera già a livello inconscio, pre-politico. Il risultato è che a farne le spese è il modo in cui conosciamo il reale. Ciò che è una prova non lo è più, e ciò che non è prova lo diventa: “Non stiamo assistendo semplicemente a una raffinata operazione di propaganda, ma a una ridefinizione del concetto stesso di prova”.

Oggi tramite “video animati in 3D” prodotti dall’esercito israeliano e presentati come “prove” dell’esistenza di strutture illecite gestite da Hamas, per esempio, abbiamo “un nuovo linguaggio visivo della violenza, in cui la plausibilità viene prodotta attraverso il montaggio e la postproduzione delle immagini, mentre l’autorevolezza del messaggio consiste nel valore estetico piuttosto che nell’aderenza ai fatti”, scrive l’autrice. Insomma l’Idf può non confutare più le accuse: non ne ha più bisogno dato che gli basta sfidarle sostenendo che la natura “ibrida e manipolata” delle proprie illustrazioni “non ne comprometterebbe la credibilità”.

Questo non solo sradica il terreno della deliberazione razionale dal confronto pubblico, ma operando a livello pre-politico, della divinazione o della profezia (visiva), che attendono solo “conferma nel mondo materiale”, rende — con un ennesimo regalo al credo tecnofascista — inutile la politica. Perché “quando la politica arriva, il terreno del consenso è già stato preparato dai frame sintetici”.

E anche se si volesse dissentire, come si dissente da ciò che sembra sempre insieme profezia e derisione, verità incontrovertibile e provocazione? Come si contrasta ciò che si esprime in questo modo costantemente ambiguo, inafferrabile?

Come si contrasta l’idea che di Gaza si possa parlare come di una questione meramente immobiliare, come trasmesso dall’AI slop sulla Gaza Riviera? Come si fa opposizione quando “la politica di cancellazione dei palestinesi viene riformulata in un linguaggio di prosperità, sviluppo finanziario e stabilità economica”, la cui popolazione rappresenta al più “un problema logistico”, in cui l’orrore della deportazione di massa sparisce nella “grammatica estetica” apparentemente neutra e rassicurante dei render architettonici, “un’estetica che il pubblico ha imparato ad associare al progresso, allo sviluppo e alla futurità”? Le parole sembrano mancarci e insieme essere inutili.

Sostieni Fragile

Contro l’AI generativa come strumento per immaginare una rinascita democratica

E si ritorna alla sfida iniziale: quella per l’immaginario. “L’immaginazione, e il potere di militarizzarla, diventano (…) centrali”, scrive Della Ratta. Ma è possibile militarizzarla per la democrazia tramite l’AI generativa?

L’autrice parte da uno spunto simile a quello di Durán:

“Solo producendo visioni del futuro alternative e persuasive, le forze progressiste possono contrastare gli immaginari violenti, razzisti e annientatori diffusi dall’estrema destra globale attraverso l’IA generativa. Se l’estrema destra globale, in stretta alleanza con gli imprenditori della tecnologia, ha già trasformato il futuro in un’arma — convertendo la visione in dominio e la profezia in politica — allora qualsiasi movimento che voglia contrastare queste forze non può permettersi di trascurare l’atto di reimmaginare”.

Difficile dissentire. E tuttavia la mia domanda resta: è possibile reclamare l’immaginazione e il potere di militarizzarla a fini democratici tramite l’AI generativa?

Della Ratta sembra sperarlo. Nel capitolo finale l’autrice descrive infatti l’uso di immagini realizzate con AI generativa della Flotilla che arriva a Gaza, rompe l’assedio e interrompe il genocidio, e sostiene che questo è un modo per visualizzare e rendere in qualche modo reale un futuro ancora irreale ma migliore. Quelle immagini, si legge nelle pagine conclusive, “danno forma visiva a un diverso immaginario del futuro che viene concretamente praticato e messo in atto dalle persone”. Letteralmente le ultime parole del libro sono:

“Ho visto queste scene comparire in forma sintetica sulla mia timeline: condivise, commentate, accolte con gioia ed entusiasmo. Per un istante, hanno reso visibile ciò che ancora non esiste: un futuro che abbiamo l’urgente bisogno di immaginare altrimenti.”

Benissimo che il futuro di Gaza sia stato “immaginato altrimenti”, intendiamoci. Ma io, proprio sulla base dell’argomento sviluppato da Della Ratta nel resto del libro, tenderei a ridimensionarne la portata. E a giungere alla conclusione opposta. Che vada cioè trovato un strumento diverso dall’AI generativa per esprimere la propria immaginazione politica in modo tale che la sua carica democratica, di rottura con lo status quo tecnofascista imposto al nostro immaginario, non sia annientata dalla logistica e dalla logica essenzialmente violente dell’AI generativa stessa.

Del resto,

come si usa per la pace uno strumento intrinsecamente violento?

Come si usa per la liberazione dei popoli uno strumento di dominio, intrinsecamente dipendente da sfruttamento ed estrazione coloniale e logiche imperiali?

E come si risalda la fiducia nel vero e nei metodi per accertarlo, quando sfruttiamo anche noi il falso — o meglio, il verosimile, che come sanno gli studiosi di propaganda è ben più insidioso — per veicolare i messaggi che ci aggradano?

Se l’AI generativa è intrinsecamente violenta ed è il motore visivo per eccellenza di progetti antidemocratici, ne segue — io credo — l’impossibilità strutturale di usarla per visualizzare e rendere presenti l’armonia o la pace speculativa; diventa cioè impossibile cooptare l’AI generativa per  visualizzare e dunque legittimare e normalizzare, oltre a contribuire a realizzare, scenari solarpunk o più democratici. Sarebbe una contraddizione in termini: consumare sistematicamente risorse ambientali per realizzare un mondo che non consuma ma protegge le risorse ambientali; mobilitare una infrastruttura di potere e controllo coloniale-imperiale per smantellare i nuovi colonialismi e imperialismi digitali (sì, come scrive Karen Hao i colossi dell’AI sono imperi); adottare la logica del dominio per la liberazione; e via dicendo.

Se questo è vero, significa che l’immaginario di un futuro non distopico con l’AI non passa per l’uso di AI generativa per visualizzarlo. Le iperstizioni accelerate dall’estetica generativa sono autoritarie, non democratiche; e non è un caso, forse, che la nozione stessa di “iperstizione” venga da un teorico che brama la fine della democrazia, il Nick Land del cosiddetto “Illuminismo Oscuro”.

Ancora, significa che l’AI generativa è un ostacolo — paradossalmente forse — alla costruzione di immaginari alternativi a quello dominante (la distopia reazionaria di Big AI e destre estreme); che l’AI ci impedisce sempre più di immaginare un futuro di progresso tecnologico e democratico, e cioè di muovere un primo fondamentale passo per ottenere un cambiamento reale.

Spacciata come rivoluzionaria, l’AI è in realtà uno strumento di conservazione dello status quo e dei poteri economico-politici che lo incarnano, che è disruptive — in senso reazionario — solo per le istituzioni democratiche e le qualità umane dell’umano.

Se tutto questo ha senso, l’AI generativa rappresenta un ostacolo alla mobilitazione di immaginari radicalmente alternativi a quello razzista, imperialista, coloniale e reazionario che vediamo oggi al servizio dell’estrema destra antidemocratica in tutto il mondo; un mezzo di annientamento ed eliminazione anticipata del dissenso che completa con un velo di violenza speculativa il corpo di violenza fisica che l’AI già oggi dissemina nel mondo: nelle guerre a base di ammazzamenti automatici in Palestina e Ucraina, nelle deportazioni di massa automatizzate dell’ICE, nella negazione automatica dei diritti di cittadini e persone in movimento, nei deepfake che trasformano le donne in oggetti di piacere programmabili in un prompt, e in tutti gli svariati casi che stiamo documentando anche qui, di settimana in settimana, su Fragile.

Il testo di Della Ratta, estremamente denso e dettagliato sulla diagnosi del male, va veloce sulla cura. In qualche breve passaggio, per esempio, sostiene che la cultura dell’immagine-prova “resiste” nonostante gli attacchi sferrati dalla storia sintetica. E in ogni caso, aggiunge, l’AI generativa fornisce anche nuovi e potenti mezzi per riconoscere le manipolazioni — una risposta tuttavia debole, dato che la produzione di immagini di violenza speculativa tramite AI generativa è molto più rapida, semplice e virale dell’uso della stessa tecnologia per depotenziarne o contestarne i messaggi. Senza contare l’obiezione strutturale: usare tutti sempre AI generativa conferisce potere virtualmente illimitato agli oligarchi che la producono, e insedia sempre più la loro ideologia reazionaria al centro del potere politico oltre che economico — oltre a distruggere comunque l’ambiente, la creatività, l’arte, la cognizione, e più in generale (si senta questo splendido episodio di The Daily su matematica e AI) il senso dell’umano.

L’autrice sembra conscia che nessuna delle risposte che abbiamo ora sembri funzionare, con il virus della violenza speculativa amplificato e diffuso in tutto il corpo sociale dall’AI generativa. Nel finale, infatti, Della Ratta passa in rassegna le reazioni possibili a un video sintetico e alla sua carica irrazionale, insignificante, caotica di violenza speculativa: chi cerca di decodificarlo, chi di contrastarlo, chi rinuncia al significato e ne ride, chi ne monetizza l’assurdità — ma non sembra che alcuna di queste reazioni sia in grado di depotenziarne effettivamente la carica di violenza.

Anche l’autrice lo sottolinea subito: “lo spettacolo si alimenta grazie alla reazione, non alla comprensione”; l’incoerenza di quanto creato “non ne riduce la forza politica, ma la amplifica”; “se ogni tentativo di interpretazione viene risucchiato nel vortice della battuta, della provocazione e del meme, allora anche la critica perde il proprio punto d’appoggio”; “ogni tentativo di controbattere (…) viene assorbito e rielaborato come nuovo materiale memetico”. Nemmeno l’indifferenza — popolare tra le risposte fulminanti dei commentatori sui social — ottiene il risultato sperato: “Distogliere lo sguardo da queste immagini, accantonarle, abbandonarle, anche farci una risata sopra, significa ignorare uno dei principali terreni sui quali vengono oggi sperimentati, preparati e normalizzati i futuri politici”. Non sembra esserci scampo.

Come tale, l’opposizione all’uso dell’AI come strumento immaginativo dovrebbe finire di certo tra i temi cardine delle proteste dei giovani nelle strade di tutto il mondo. Se non si combatte tutti insieme questa guerra per mantenere la possibilità di immaginare liberamente, i giovani hanno comunque perso — e noi con loro. E se quelle proteste sono davvero pacifiste, non possono ignorare uno dei principali amplificatori e normalizzatori della violenza fisica e insieme simbolica del nostro tempo: l’AI e in particolare l’AI generativa, alleate di ogni progetto repressivo, a partire dalla repressione dell’immaginazione.

Dentro il Nerd Reich


C’è una saldatura sempre più evidente tra nazionalismo reazionario e colossi dell’intelligenza artificiale in Silicon Valley. Una pericolosa commistione di concentrazione di potere economico, utopie fantascientifiche, fervore religioso ed estremismo ideologico che predica la sostituzione della politica con la tecnologia, la distruzione della democrazia liberale e delle sue istituzioni chiave — i media, l’università, la scienza, lo stato sociale, ogni bene pubblico — e una sottomissione amorale all’innovazione. Il fine ultimo è ciò per cui tutto è sacrificabile: la salvezza della civiltà umana dall’Apocalisse rappresentata dal progressismo, dal woke, dai diritti umani e da ogni altro caposaldo dell’ordine liberale che stiamo rapidamente osservando andare in pezzi.

Oggi sono in molti a realizzare che il progetto è reale, e la sua realizzazione è in corso. Ma Gil Durán è stato tra i primi a inquadrare questa follia millenaristica, che ricorda la fede incrollabile delle ideologie totalitarie del secolo scorso ma insieme la aggiorna all’era del venture capital, dell’intelligenza artificiale e delle criptovalute. Da anni il giornalista californiano scrive una newsletter che ha finito per dare il titolo, azzeccatissimo, al libro che forse meglio di ogni altro ne tratteggia i caratteri di fondo, dipanando i tanti fili che intrecciano la trama di quello che l’autore definisce senza mezzi termini “tecnofascismo”.

Intitolato The Nerd Reich. Silicon Valley Fascism and the War on Democracy, il volume rappresenta una guida indispensabile per orientarci nei progetti anti-democratici di soggetti che abbiamo imparato ad associare alla genialità creativa e imprenditoriale, a mirabolanti visioni del futuro del genere umano, e alla soluzione di ogni problema individuale, sociale e politico, e che invece andrebbero analizzati come si studiano i gerarchi di un nascente regime, un impero che mira — proprio come quelli fascisti — al potere assoluto e al controllo globale per assicurare, nei millenni che verranno, che la società e la cultura umana si tramandino nel futuro con gli stessi valori identitari del passato più buio della storia dell’umanità.

Repressione arbitraria, eugenetica, razzismo, odio per il diverso, eliminazione del dissenso, distruzione degli avversari politici e di ogni concorrenza: questo è l’armamentario che abbiamo visto all’opera nel XX secolo, producendo milioni di morti, e che insieme si vuole rendere nuovamente seducente tramite narrazioni mitologiche, se non direttamente religiose, sui poteri salvifici delle nuove tecnologie — cui si accompagna, ovviamente, il culto di chi le crea.

The Nerd Reich, non a caso, è strutturato proprio come un campionario di gerarchi del nuovo regime tecnofascista; un catalogo delle loro idee e delle loro paure; un inventario delle specifiche minacce portate alla democrazia e alle libertà fondamentali da ciascuno di loro.

Insieme, il testo fornisce una utile genealogia della perversione che ha avvinto l’ideologia libertaria e i suoi sogni utopistici a mezzo Internet. Perché non c’è Peter Thiel, Palmer Luckey, Elon Musk o Marc Andreessen senza la convinzione ingenua, e ormai superata, di “reimmaginare tecnologie create con fondi statali per il controllo e la guerra come strumenti di liberazione e per affermare la propria individualità”, scrive Durán.

Oggi quella promessa di un cyberspazio sovrano e libero per garantire davvero sovranità e libertà a ogni individuo ha lasciato il posto alla rivendicazione orgogliosa, patriottica e bellicista di Silicon Valley come arma della geopolitica statunitense, ai tecnologi arruolati in prima linea nello scontro di civiltà per la sopravvivenza dell’Occidente — indicato da CEO sempre più apertamente reazionari e anti-democratici come sinonimo di tutto ciò che resiste alla distruzione e la barbarie.

Il libro li passa in rassegna uno a uno: Curtis Yarvin, l’ideologo della neoreazione le cui idee monarchiche e razziste sono finite alla Casa Bianca; Balaji Srinivasan, l’investitore che teorizza la sostituzione delle nazioni con network di micro-stati creati dal nulla come startup da imprenditori tecnologici che li governano come imprese, secondo il loro unico arbitrio; Marc Andreessen, il teorico dell’accelerazione della macchina tecno-capitalista a ogni costo, nella convinzione che solo un progresso senza freni possa salvare l’umano e risolvere letteralmente ogni problema (è a lui che si deve la più nitida formulazione del soluzionismo tecnologico: “Dateci un problema nel mondo reale, e noi inventeremo una tecnologia per risolverlo”). E, naturalmente, Peter Thiel, l’uomo al centro della PayPal mafia, il fondatore della macchina da distopie chiamata Palantir, e lo snodo di talmente tante reti di affari, relazioni e idee reazionarie da renderne vano l’elenco.

Iscriviti a Fragile

Provo comunque ad aggiungere il mio, composto annotando i tanti tasselli del puzzle tecnofascista chiamato Thiel disseminati nel libro:

a) 16 persone connesse a Thiel hanno ruoli di potere nell’amministrazione Trump.
b) Il vicepresidente USA J.D. Vance è “quasi interamente una creazione di Thiel”; “Vance deve la sua carriera in Silicon Valley, la sua conversione al Cattolicesimo e la sua ascesa politica a Thiel”, si legge. Sono fondi di Thiel infatti a finanziare il suo fondo di investimento, Narya Capital; sono 15 milioni di dollari di Thiel a dare lo sprint decisivo alla sua campagna per diventare senatore; è sempre Thiel a spingere Trump a fare un ticket con Vance alla vicepresidenza; “e se Vance dovesse riuscire a succedere a Trump, Thiel — il suo benefattore, mentore e creatore — diventerà la persona più potente al mondo”, scrive Durán.
c) Nel 2013, Thiel diventa “finanziatore diretto” di Yarvin tramite investimenti del fondo di venture capital che ha co-fondato, Founders Fund, in una sua startup.
d) Thiel ha cercato di far nominare Srinivasan a capo della FDA, l’agenzia USA che tutela la salute pubblica (Srinivasan aveva scritto, in tweet poi rimossi, che l’FDA andava rimpiazzata con un’azienda privata, una “Yelp for drugs”).
e) Thiel ha creato le fortune di David Sacks, divenuto poi “crypto zar” di Trump, e dell’investitore Garry Tan, che assume in Palantir dopo averlo corteggiato fin da studente (Tan lo idolatrava); entrambi muovono i primi passi in politica cercando di far fuori politicamente Gavin Newsom, il governatore democratico della California, accusato di ipocrisia durante la pandemia.
f) Il boss di OpenAI,  Sam Altman, è un “protegé” di Thiel, un suo “confidente”. Di lui Altman dice: “è una delle due persone che mi hanno insegnato di più su come si investe in startup”. Thiel è stato il più importante investitore esterno del primo fondo di investimento, Hydrazine, lanciato da Altman dopo avere venduto la sua startup Loopt nel 2012, ed è stato sempre Thiel a suggerire ad Altman di puntare tutto su ChatGPT quando, nei mesi successivi al lancio, molti dentro e fuori l'azienda mettevano in discussione i costi e la direzione del progetto. Thiel ha alta considerazione di Altman, che andrebbe a suo dire trattato “come una figura messianica”; Thiel è anche tra i primi investitori in OpenAI. 
g) Nell’anno della sua conversione, Vance fonda un’organizzazione chiamata Rockbridge Network, una “political venture capital firm” per investitori insoddisfatti con lo status quo politico, e Thiel ne diventa immediatamente uno dei principali finanziatori, a cui poi si aggiunge il supporto di Andreesesen, di Palmer Luckey di Anduril e dei fratelli Winklewoss.
h) Thiel intrattiene una “lunga e profittevole amicizia” con il finanziere pedofilo Jeffrey Epstein; Epstein aveva investito 40 milioni di dollari in due fondi di investimento gestiti da Valar Ventures, un’azienda sostenuta da Thiel.
i) Thiel è uno dei primi e principali sostenitori istituzionali di Bitcoin.
l) Nel 2014 Thiel ha conferito una Thiel Fellowship da 100 mila dollari a Vitalik Buterin, creatore di Ethereum — “una piattaforma per costruire intere istituzioni digitali” sulla base di crittografia e automazione.
m) Thiel ha investito in FTX, la cripto exchange del truffatore Sam Bankman-Fried, oggi in galera, e suoi “veicoli” finanziari hanno disposto di oltre 300 mila azioni di FTX o sue sussidiarie.
n) Thiel “ha fornito il primo significativo investimento in DeepMind, e Founders Fund possedeva il 25% della compagnia quando Google l’ha comprata”.
o) Founders Fund ha investito in Anthropic.
p) Thiel è tra i finanziatori del progetto Próspera, un piano per trasformare un patchwork di terreni sull’isola di Roatàn in Honduras in una zona autonoma a gestione privata sul modello descritto da Srinivasan, che infatti lo considera uno dei principali esempi della traduzione delle sue idee in fatti.
q) Thiel è il modello a cui si ispira l’ideatore del progetto California Forever, Jan Sramek, che mirava a creare dal nulla una città da 400 mila abitanti — tutti tecnologi. Il progetto è fallito perché il 70% degli elettori di Solano County si è opposto. Un altro progetto simile, per costruire Itana City in Nigeria, viene definito da Wired “una città-startup finanziata da Thiel”, si legge.
r) Appena vinte le elezioni, Trump annunciava che il sodale di Thiel e cofondatore di PayPal e Founders Fund sarebbe diventato nuovo ambasciatore USA in Danimarca, proprio mentre dichiarava la “necessità” di annettere la Groenlandia.

Ed è solo una parte, quella forse visibile, delle relazioni economiche e tecnopolitiche che vedono al centro Peter Thiel.

Il libro di Durán tuttavia non è solo un catalogo. È anche, come accennavo, una ricognizione storica e ideologica nella genesi del tecnofascismo attuale. Il primo capitolo è infatti dedicato a raccontare l’influenza di un testo del 1997 sul momento attuale: The Sovereign Individual. Scritto da James Dale Davidson e William Rees-Moog, preconizza l’obsolescenza delle democrazie e la fine delle nazioni, e annuncia il dominio del mondo da parte di una ristretta élite di esseri di superiore talento. In sostanza, è una traduzione in forma di consulenza d’investimento delle idee rivoluzionarie dei cypherpunk, nota Durán, che pensavano che le tecnologie di rete e crittografiche avrebbero distrutto e rifatto le gerarchie e l’assetto del potere globale liberandoci. Riscritta da Davidson e Rees-Moog, l’idea è che “sarebbe sorto un nuovo mondo incentrato su reti di criminali e di ricchi che, liberati dai lacci della democrazia, sarebbero diventati “individui sovrani” che non devono più rispondere a legge, regole e confini nazionali”, si legge in The Nerd Reich.

La democrazia del resto viene dipinta dagli autori di The Sovereign Individual con scenari di rovina e disgrazia — un po’ come ha fatto Trump per farsi eleggere due volte —, in cui i governi democratici diventano “imprese mafiose messe in piedi per estorcere denaro ai ricchi”. Il tutto è imbevuto di riferimenti culturali che lambiscono il razzismo ed eugenetica, accompagnati come sempre da suprematismo bianco e odio per i migranti, in cui l’idea di fondo è che “alcuni individui fossero semplicemente troppo intelligenti ed eccezionali per essere ostacolati nella loro grandezza dalla democrazia di massa”. Come per il movimento tecnocratico degli anni ’50 — di cui faceva parte il nonno di Musk, e che ho raccontato nel mio L’uomo che vuole risolvere il futuro — le masse e le civiltà in genere non sono altro che funzioni da ottimizzare tramite “management scientifico”, “nello stesso modo in cui si sono ottimizzate le fabbriche”.

Le idee sono simili a quelle espresse nell’oggettivismo di Ayn Rand, e includono fantasie libertarie sul collasso della civiltà (che diventa “a feature not a bug”), “l’indispensabile preludio all’ascesa di individui di natura superiore”. Per Davidson e Rees-Moog, come per i tecnofascisti attuali, “l’Armageddon è un’opportunità”, se si scommette significhi la fine dell’ordine liberale: “Davidson e Rees-Moog sostenevano che la disruption tecnologica avrebbe accelerato la separazione dell’umanità in individui inferiori e superiori”, in cui l’“élite cognitiva” — i superiori — sarebbe stata composta da “investitori e imprenditori tecnologici dotati delle abilità e delle conoscenze necessarie a prosperare in un’economia basata su tecnologia e decentralizzazione”. L’Apocalisse diventa “disvelamento”, epifania, il rivelarsi della fine della “fase moderna della civiltà occidentale” e l’irruzione di “una nuova fase della storia”: “l’era dell’informazione”.

Nel clima culturale — Durán lo chiama il “milieu tossico” — in cui si muove il libro, e che si diffonde a fine anni 90 anche sull’onda delle profezie messianiche sull’arrivo del nuovo millennio, si deve dunque uscire dalla democrazia, dagli stati nazionali, e se necessario abbandonare anche il pianeta Terra (Extropianism) e sconfiggere la morte (Transumanismo) — tutte idee che diverranno centrali nel tecnofascismo di oggi, intriso di postumano che diventa rapidamente anti-umano.

Non a caso, Thiel cita ripetutamente negli anni The Sovereign Individual come un testo fondativo, spingendosi fino a scrivere — in una mail a Davidson — che il testo ha “informato il suo pensiero sui mercati (e il macromondo tutto) forse più di ogni altra cosa”. Commenta Durán:

“Una delle figure tecnologiche più potenti del mondo — un miliardario oggi integrato alle più alte sfere del potere governativo — ha basato la costruzione della propria visione del mondo su un libro inconsistente scritto da due eccentrici cospirazionisti apocalittici dediti a preoccupanti newsletter finanziarie per investitori paranoici di destra”.

Poi in realtà il disastro finanziario che gli autori avevano preconizzato non si è realizzato, il dollaro non è collassato, le banche sono ancora qui, e la Cina non è certo crollata come avevano previsto. Ma intanto Thiel poco dopo averlo letto fonda PayPal (proprio con l’idea di disintermediare la finanza), dichiara obsoleta la democrazia (“non credo più che libertà e democrazia siano compatibili” scrive nel 2009, difeso da Yarvin, con cui sviluppa un rapporto di amicizia condividendo l’idea che gli USA siano una sorta di regime comunista, in cui i giornalisti fungono da Stasi e la loro preda sono i CEO e i ricchi), propone di creare isole autosufficienti e indipendenti dal governo (seastading) e comincia la sua guerra ai diritti civili dopo l’11 settembre (con Palantir).

Insomma, le idee che oggi troviamo diffuse ai massimi livelli istituzionali e mediatici hanno una lunga tradizione antidemocratica, riattivata e potenziata da reazioni paranoidi alla pandemia, teorie del complotto estremiste e un po’ di sano razzismo basato sulla convinzione che i ricchi siano, tutto sommato, una razza superiore cui spetta per natura il governo dell’umano.

Fatta questa doverosa premessa di contesto, ecco cosa ho chiesto all’autore.

***

Intervista a Gil Durán: un mondo senza tecnofascismo è un mondo senza miliardari

Fragile: Come definirebbe il “tecnofascismo” attraverso cui la Silicon Valley sta conducendo una guerra globale contro la democrazia? Quali sono i suoi elementi essenziali e fondanti? Mi interessano in particolare quelli che ci obbligano a riconoscerlo come una variante aggiornata del fascismo.

Gil Durán: Il tecnofascismo fonde il potere delle corporation, del governo e della religione in un unico pacchetto. Cerca poi di prendere il controllo dei media, dell’istruzione e di praticamente tutte le istituzioni di potere. L’idea è il monopolio. È inoltre un culto del risentimento che promette miti di gloria e grandezza, raggiungibili attraverso la sconfitta e l’epurazione dei gruppi nemici che demonizza, di solito le minoranze.

Il tecnofascismo si affida a una propaganda aggressiva e surreale, che sfrutta le tensioni sociali legate a razza, genere e sessualità, oltre che a legge e ordine. Questa propaganda demonizza tipicamente minoranze, intellettuali, esperti, accademici e giornalisti — i bersagli usuali del fascismo.

Il tecnofascismo ha una fissazione innaturale per un ideale caricaturale di mascolinità, che si manifesta come brama di conquista, colonialismo, violenza e guerra — sempre più spesso tradotti in progetti di magnati del venture capital. Questa mascolinità di facciata si accompagna a una fame di rigide gerarchie di genere, razza, economia e religione, per metterne questi stessi uomini bianchi al vertice.

Umberto Eco diceva che il fascismo impone una mentalità apocalittica, ed è una caratteristica distintiva del tecnofascismo. I tecnofascisti credono che la fine dell’ordine mondiale sia vicina, e insieme lo sia anche quella dell’umanità. Molti vedono nell’AI uno strumento apocalittico e divino che li condurrà in un nuovo regno post-umano e post-democratico.

L’elenco potrebbe continuare. Una variazione rispetto al fascismo classico è che, invece di promettere il ritorno a un passato mitizzato, i tecnofascisti promettono il mito di un futuro glorioso da romanzo di fantascienza, tra le stelle. Ma quel futuro si può raggiungere solo eliminando i loro nemici e prendendo il potere assoluto.

Fragile: Altri due libri recenti che stanno ricevendo attenzione mondiale partono da un’ipotesi simile a quella che lei illustra in The Nerd Reich: The Rise and Fall of the Artificial State di Jill Lepore e End Times Fascism di Klein e Taylor. Vede differenze rispetto alla sua analisi, e in particolare rispetto alla sua idea di “tecnofascismo”? La diffusione mainstream di questo tipo di critica ideologica alle idee neoreazionarie della Silicon Valley è un motivo di speranza che il cambiamento stia davvero arrivando?

Gil Durán: Non ho ancora avuto occasione di leggere nessuno dei due libri, ma ho letto il saggio di Klein e Taylor nel 2025. Stiamo tutti osservando la stessa cosa che arriva dal mondo tech, perché questa è la realtà. Questi miliardari vedono nella tecnologia il mezzo per prendere il potere totale. Lo dicono apertamente. Spero che questo aiuti a far crescere la consapevolezza. Se ci sarà ancora una storia in futuro, gli storici si chiederanno perché i media e l’establishment politico non si siano accorti di questo sviluppo pericolosissimo. È un fallimento scioccante delle istituzioni che dovrebbero difendere la democrazia.

Fragile: Che cosa pensa del crescente movimento “anti-AI”, che protesta contro i data center, la sorveglianza di massa e la sousveillance basate sull’AI (Flock, Meta Glasses, ecc.) e, più in generale, contro un mondo governato da figure oscure e malvagie come Thiel e Musk? Le forze pro-democrazia di tutto il mondo dovrebbero abbracciarlo e persino rafforzarlo? E, se sì, come?

Gil Durán: Le persone si stanno rendendo conto dei pericoli derivanti dall’avere affidato il potere ai miliardari. E perché non dovrebbero? I miliardari promettono di creare una macchina divina che eliminerà tutti i posti di lavoro o magari cancellerà l’umanità dalla faccia della Terra. La Silicon Valley ha adottato alcuni slogan di marketing terrificanti: penso che abbiamo tutti la responsabilità morale di opporci a ogni loro piano. Abbiamo bisogno e diritto di usare la tecnologia, ma non a costo della nostra libertà e delle nostre vite.

Fragile: Il virus del tecnofascismo ha infettato tutta la Silicon Valley, e più precisamente tutta o almeno la maggior parte della sua élite? Potremmo dire, per esempio, che Zuckerberg, Huang e Pichai sono tecnofascisti? Se no, come dovremmo chiamarli? Collaborazionisti?

Gil Durán: Se abbiamo imparato una cosa, è che i miliardari sono una specie molto codarda. Quelli che non muovono alcuna critica a questi orrori sono semplicemente disposti a stare dalla parte di chiunque vinca. Se Donald Trump dichiara che la democrazia è finita e che lui è il re, saranno in tv a sorridere e applaudire. Dopotutto, ci sono due tipi di fascisti: quelli entusiasti e quelli non entusiasti. Forse loro sono i non entusiasti.

Fragile: Vede tendenze tecnofasciste nei leader europei della Big Tech? Intendo: tutti sembriamo volere la sovranità tecnologica nell’UE, ora, ma un’AI sovrana basterebbe davvero a sbarazzarsi dell’ideologia neoreazionaria che informa l’intelligenza artificiale odierna? Dato che il tecnofascismo della Silicon Valley è un progetto transnazionale che sostiene l’estrema destra in tutto il mondo, non dovremmo anche concentrarci sull’evitare che influenzi indebitamente il policy-making europeo e ci renda tecnologicamente dipendenti da oligarchi avidi e reazionari?

Gil Durán: Il problema sono gli uomini che diventano così ricchi da fantasticare di rovesciare governi. Chiunque diventi troppo grande, ricco e potente dovrebbe essere guardato con sospetto. Il fascismo e l’autoritarismo, in fondo, non sono affatto estranei all’Europa.

La destra globale condivide gli stessi obiettivi, le stesse strategie e le stesse tattiche: infiammare le tensioni sociali ed economiche, incolpare minoranze usate come capri espiatori ed esigere soluzioni brutali e violente. Elon Musk parla regolarmente a raduni razzisti di estrema destra in Europa. Di certo vede la possibilità di una vittoria.

L’Europa deve imparare dai fallimenti degli Stati Uniti e lavorare in modo strategico per smantellare il loro potere, subito e nel lungo periodo.

Fragile: Thiel ha parlato dell’Anticristo a Roma; Musk è stato sedotto da Meloni e corteggiato da Salvini, avvicinato da membri della cerchia di Vannacci, e ora a quanto pare flirta con il fondatore del Movimento 5 Stelle Beppe Grillo tramite il suo lobbista Andrea Stroppa; Anthropic ha appena aperto nuovi uffici a Milano, OpenAI collabora già con diverse istituzioni italiane. I Big dell’AI sembrano interessati alla politica e alla governance italiane. Chi, tra gli oligarchi tecnofascisti, ritiene più pericoloso per il presente e il futuro della democrazia italiana?

Gil Durán: Tutti. Sono un regime. Peter Thiel è particolarmente ossessionato da Roma, dal Vaticano e dalla Chiesa. Non smette di parlare dell’Anticristo, spesso mentre attacca il Papa. Tenetelo d’occhio.

Fragile: Infine, la via d’uscita da questa distopia tecnologica. Nel libro lei sostiene, e io sono pienamente d’accordo, che “la prima sfida è la sfida dell’immaginazione”. Dobbiamo rivendicare una visione democratica del futuro, che comincia con l’immaginarlo, ripensando sia la governance della tecnologia sia l’esistenza stessa dei miliardari, scrive. Può delineare brevemente alcuni tratti essenziali di questo futuro immaginato in cui la tecnologia e l’IA servono la democrazia anziché la sua distruzione?

Gil Durán: Il nostro sistema attuale dà a 3.000 miliardari più potere di tutto il resto della popolazione terrestre. Il futuro deve servire gli 8,3 miliardi di persone sulla Terra che non sono miliardari. Questa è la risposta semplice, e tutte le soluzioni devono discenderne. Già prima che arrivassero i tech bro stavamo distruggendo la nostra capacità di sopravvivere su questo pianeta per arricchire una manciata di compagnie dei combustibili fossili. Questo è l’unico posto in tutto l’universo in cui sappiamo di poter vivere. Perché l’abbiamo organizzato in modo da favorire la nostra stessa estinzione?

Sostieni Fragile

***

Che fare contro il tecnofascismo?


Aggiungo, a completamento dell’ultima risposta di Durán, alcune note dal capitolo finale del libro. Perché la sfida è immane, ma non deve lasciarci senza speranze.

Che fare, dunque, contro il tecnofascismo? Come assicurarci non diventi il nostro destino solo perché l’ha immaginato un pugno di miliardari dall’ego smisurato e dalla evidente ignoranza della cultura democratica?

a) Dobbiamo per prima cosa conoscere e riconoscere il nemico, scrive Durán. E questo vale innanzitutto per i presunti “buoni”. Perché “i leader democratici continuano a comportarsi come se il settore tecnologico non fosse diventato un nemico dichiarato della democrazia stessa”, si legge; ma contro di loro, non c’è centrismo che tenga, dato che ragionano per strategie di lungo periodo, hanno abbastanza denaro per continuare a tramarne e realizzarne in eterno, e cercano dichiaratamente il controllo globale, sovvertendo ed eliminando l’ordine liberale. Durán è inflessibile:

“la più grande minaccia è che la nostra discesa nell’abisso del tecnofascismo sia capeggiata da politici liberali che, co-optati e corrotti da denaro proveniente da Silicon Valley, finiranno per abbandonare la democrazia senza dare chissà che battaglia”.

Il primo passo per resistere è dunque “apprendere cosa sta accadendo e spargerne la voce a tutti quelli che conosciamo”.

b) Non c’è altra scelta: il cambiamento che dobbiamo richiedere alla democrazia deve essere radicale, se vogliamo sopravviva alla sfida dei tecnofascisti. Senonaltro, nota amaro Durán, una lezione derivata dal successo ripetuto del trumpismo è che “tutto è possibile”.

c) La prima sfida è una sfida sull’immaginazione: “dobbiamo rompere il monopolio dei miliardari sul futuro” (di questo parleremo nel numero 6, quando ragioneremo di violenza speculativa e di come l’estetica dell’AI generativa rappresenti un ostacolo a immaginari di rottura contrari al tecnofascismo), perché “la rivoluzione comincia nell’immaginazione”.

d) Ma l’immaginazione non basta:

“Per creare un futuro migliore, dobbiamo creare un mondo senza miliardari. Ci possono essere miliardari, o ci può essere la democrazia, ma non entrambe le cose.”

E in ogni caso “la storia suggerisce con forza che una estrema ricchezza ha la tendenza far impazzire le persone o a trasformarle in tiranni”. Difficile realizzare un mondo senza miliardari? Certo, ma meno che vivere sotto la tirannia crudele, anti-umana e potenzialmente globale dei tecnofascisti, nota l’autore. E se proprio debbono esserci miliardari, che lo si sia tutti — come secondo le utopie di abbondanza diffuse da Altman e dagli altri guru dell’AI prima che diventassero forieri di messaggi principalmente apocalittici — o non lo sia nessuno.

e) Dobbiamo usare l’iperstizione (hyperstition) a fini democratici, trasformando i nostri sogni in realtà con il puro potere della volontà e dell’immaginazione (immaginare e volere fino a realizzare). “C’è bisogno di una rivoluzione francese a base di scelte politiche sensate invece che ghigliottine”, scrive efficacemente Durán

f) I tecnofascisti devono essere messi di fronte alla responsabilità delle proprie azioni, in modo che il fascismo non torni più in alcuna variante:

“Non dobbiamo mai dimenticare cosa hanno cercato di fare, queste persone. Perché se gliene diamo la possibilità continueranno a provarci”.

Dovranno diventare un monito nei libri di storia dei nostri figli, e i cattivi dovranno essere marchiati a fuoco nella nostra memoria nazionale e collettiva, si legge.

g) Dobbiamo riconoscere le nostre stesse colpe, prima fra tutte quella di avere consentito a queste persone di spingersi fin dove si sono già spinte, cedendo le nostre libertà per la promessa di comfort tramite l’ultimo gadget o servizio “intelligente” virale.

h) “A meno che non si ripensi radicalmente la governance della tecnologia, ne rimarremo le vittime”. Ciò significa mettere al bando le criptovalute, trattare i propositi secessionisti dei network state come tali (cioè come un’ideologia estremista che fomenta sedizione e danni al corpo sociale), rompere i monopoli tech, fare sì che i governi più in generale reclamino e usino il loro potere di sottomettere i colossi tecnologici alle proprie regole; inoltre, dobbiamo noi stessi ripensare il nostro rapporto con la tecnologia.

i) Dobbiamo ripensare il capitalismo.

Abbastanza per tenere noi fragili democratici impegnati per un bel pezzo. 

Iscriviti alla newsletter

Apologia dell’umano assediato dall’artificiale

Sul mensile di poesia americano Poetry, nel numero di settembre, è uscita una poesia che mi ha folgorato. È di Aaron Belz, docente di inglese e scrittura creativa con alle spalle diverse pubblicazioni, e riesce credo laddove moltissimi hanno finora fallito: coniugare i versi con una riflessione profonda sullo stato dell’umano nell’era in cui l’avvento di una presunta “superintelligenza” sembra sempre più imminente. Si intitola, non a caso, Cose che l’intelligenza artificiale non può fare, e ve la propongo nella mia traduzione:

Cosa ci dice questa poesia? Non sono un critico letterario, ma trovo che il messaggio di questi versi sia estremamente chiaro: c’è, e ci sarà, una distinzione fondamentale tra umano e artificiale, che va molto oltre la semplice diatriba sull’intelligenza e cosa sia realmente.

Sinonimo dell’umano è il dare importanza a cose apparentemente insignificanti, inutili, senza un reale valore o definizione: l’inefficienza di una poesia incompleta, del perdersi tra i ricordi e i rimpianti, del trovarsi fuori posto in situazioni ordinarie. Umano è un linguaggio che cerca e non trova, che suggerisce e non dice. Umane sono le decisioni non prese, la memoria tattile, ma impalpabile, di un amore finito; umano è l’odio insensato; umano è il sentore sempre presente della morte, e quello altrettanto indefinibile ma vivo di ciò che annuncia.

Noi che non siamo dèi e non vogliamo diventarlo, né con né senza le macchine intelligenti, ci ritroviamo in questa umanissima vicenda in versi, che non è altro dopotutto che un’esperienza umana qualunque di sconfitta senza resa, di dolore senza reale scopo, di bellezza e speranza miste a bassezza e disperazione.

È significativo che sia tutto questo fondamentale armamentario dell’umano a essere in discussione nel nome dell’efficienza e della perfezione, ora che l’intelligenza artificiale sembra essere fatta a immagine e somiglianza di ciò che ci supera, ora che promette di farci superuomini o diventarlo essa stessa senza — o contro — di noi.

In cosa ha speso parte dei suoi potenti e concertati sforzi di lobbying un colosso dell’AI come Anthropic, infatti? Nel tentativo, ha scritto il New York Times, di convincere le alte sfere religiose di tutto il globo, a partire dal Pontefice, a considerare che i suoi prodotti possano essere “coscienti”. Anzi, che molto probabilmente lo siano: “Si comportavano come se si stessero relazionando con un essere cosciente”, ha detto un rabbino alla testata newyorkese riferendosi alla leadership di Anthropic.

Difficile addentrarsi nelle ragioni di Dario Amodei, di Cristopher Olah — il co-fondatore che ha presenziato, guarda caso, al lancio dell’Enciclica Magnifica Humanitas dove Papa Leone sostiene tuttavia l’esatto contrario — e compagni. Si vuole attribuire lo stesso status morale a Claude e a un decisore umano per evitare di vedersi attribuite le responsabilità dei suoi danni nel mondo? È l’ennesima mossa di marketing per gonfiare il valore dell’azienda in vista dell’IPO, nonostante sia già oggi stimato in duemila miliardi? O è mero ossequio all’ideologia postumana che informa la visione del futuro di tutti questi soggetti?

Qualunque sia il motivo delle pressioni, c’è di buono che non stanno funzionando. Il Papa infatti continua a rincarare le dose dei suoi attacchi alle tentazioni antiumane di Silicon Valley, concentrandosi in questi giorni sulla differenza “ontologica”, non solo estetica, tra creatività umana e artificiale. “Agli algoritmi manca la scintilla dell’umanità”, ha scritto il Pontefice annunciando una rinnovata alleanza tra la Chiesa e gli artisti in carne e ossa, proprio mentre Anthropic e le sue rivali-complici spacciano AI slop a tutto spiano, infettando il nostro ambiente informativo e insieme abituandoci allo stesso tipo di mediocrità infame a cui ci ha abituato la televisione. Proprio mentre alcuni tech bro non riescono a concepire uno dei vertici dell’espressione umana, la musica, che come un problema da risolvere — o meglio, già risolto con l’AI.

Perfino il CEO di Airbnb, Brian Chesky, sembra averne abbastanza:

“Il modo in cui parliamo di AI in Silicon Valley è pessimo. Usiamo parole come “superintelligenza”, che suona come se si trattasse di una specie aliena. La maggior parte delle persone non vuole una specie aliena più intelligente di loro. Le persone comuni sentono che l’AI è qualcosa che stanno subendo, piuttosto che qualcosa di cui stanno beneficiando. Pochissime applicazioni stanno effettivamente migliorando la vita delle persone. La maggior parte dell’AI riguarda l’impresa, e le persone la interpretano come automazione del lavoro. Di conseguenza, sfortunatamente, essere contro l’AI sta diventando un fattore bipartisan.”

Insomma, Silicon Valley secondo Chesky vive dentro una bolla che terrorizza tutti noi che ne stiamo fuori, talmente grande che i suoi guru nemmeno si accorgono di esserne immersi. Una bolla in cui l’umanità è insieme il riferimento di ogni discorso e il grande assente:

”Noi in Silicon Valley parliamo dell’umanità in senso astratto, ma non parliamo mai di persone (…). Credo che abbiamo un grosso problema di scollamento tra Silicon Valley e il resto della società”.

I dati che abbiamo mostrato in passato su Fragile sull’impopolarità degli oligarchi dell’AI e dei loro prodotti, così come le proteste che abbiamo descritto e continuano a moltiplicarsi, sembrano confermare.

Eppure la cupola reazionaria e antiumana che governa gli Stati Uniti e, tramite la sua violenza geopolitica e tecnologica, il resto del mondo non sembra intenzionata a prenderne atto. Al contrario, non passa giorno senza sferrare attacchi sempre più espliciti ai tratti fondamentali dell’umano — talmente grotteschi da dipingere l’umanesimo del Papa come eretico.

Perché certo, sviluppare l’AI senza regola alcuna è fortemente impopolare, ma a Donald Trump e agli oligarchi che lo tengono sempre più in scacco non interessa. Non avendo a cuore i principi della democrazia liberale, possono serenamente sacrificarli ai loro propositi di salvezza dell’umanità intrisi di ideologia reazionaria e teorie apocalittiche; o, più prosaicamente, alla loro brama apparentemente infinita di potere e denaro.

Così lo fanno. E non è più mera teoria da un pezzo. A cosa hanno portato infatti le alte grida di Amodei, Altman, Musk e compagnia sulla necessità di rallentare lo sviluppo dei modelli di AI più avanzati? All’annuncio di altri e più avanzati prodotti a base di AI — anzi, “SI”, cioè “superintelligence”; a quanto pare Trump è convinto che per risolvere i problemi dell’AI basti cambiarne il nome.

E la necessità di regole, invocata anche da una parte — quella più afferente all’Effective Altruism e alle sue ideologie sorelle — di Silicon Valley? Si è tradotta in una “costituzione” non vincolante che moralmente, firmata alla Casa Bianca da una parata di oligarchi terribilmente in difficoltà davanti alle telecamere ma molto meno, evidentemente, nelle stanze del potere.

È questo il mondo a misura di tecnologia, invece che d’uomo, che hanno in mente, specie ora che l’ala accelerazionista dei tecnocrati sembra avere prevalso: sviluppo dell’AI senza freni, nessuna regola realmente vincolante, e soprattutto la certificazione del dominio di una logica da Guerra Fredda secondo cui la direzione dello sviluppo tecnologico compete alle grandi potenze, nei loro consessi privati e per i loro unici interessi geopolitici, senza che i popoli e le istituzioni democratiche che dovrebbero rappresentarli abbiano mai voce in capitolo.

Se poi tra Cari Leader le cose dovessero mettersi male, ecco l’AI risolvere anche la guerra che ne verrebbe — guerra la cui rielaborazione per un futuro “superintelligente”, naturalmente, è già relegata a sua volta a Big AI; così a immaginare le prossime guerre automatiche sferrate dall’esercito più potente del mondo saranno Elon Musk e Palmer Luckey, cioè i padroni di SpaceX e Anduril: due super-oligarchi accomunati dall’insofferenza autoritaria per ogni limite alla propria volontà e alle proprie tecnologie, e dall’idea di essere insieme in una crociata contro i nemici dell’Occidente dal cui esito dipenderebbero niente meno che le sorti del genere umano.

E pace se per salvare “l’umanità” in senso astratto si devono sacrificare la democrazia, la politica, l’umanità concreta di ogni singolo essere umano — o almeno, del 99% che non sia parte degli eletti, i tecnocrati, gli individui sovrani potremmo dire con Davidson e Rees-Moog il cui diritto a comandare e decidere per tutti gli altri è evidente per manifesta superiorità (genetica, secondo alcuni).

È un piano che comincia a delinearsi più chiaramente anche fuori dai confini degli Stati Uniti e, più di preciso, anche in Italia. Si prendano per esempio i messaggi e propositi dell’uomo che cura gli interessi di Musk nel nostro Paese, Andrea Stroppa.

“La politica ripete che deve governare l’intelligenza artificiale. Io propongo il contrario: usiamo l’intelligenza artificiale per controllare la politica”, ha detto Stroppa alla festa del Tempo, dove giocava evidentemente in casa (il direttore Daniele Capezzone funge da tempo da ripetitore e apologeta delle idee di Musk, oltre ad avere presenziato alle famose lezioni sull’Anticristo di Peter Thiel; quando non gioca in casa, come alla Leopolda di Matteo Renzi, il lobbista sembra invece perdere improvvisamente la brillantezza, e perfino balbettare quando gli si chiede con preoccupazione del futuro dell’AI in guerra — evidentemente il nuovo ruolo di Musk in materia cuce le labbra anche a chi come lui le ha di solito ben sciolte).

Il modello in tutto l’intervento, non a caso, è la Cina: è lì che invece di affidare “la rivoluzione più dirompente della storia” ai “burocrati, ai capi di gabinetto, a quelli che sono da vent’anni dentro i ministeri” l’innovazione corre e diventa applicazione reale. Lì che il “70% delle bozze di sentenza le scrivono già le macchine”, “i robotaxi di Baidu portano migliaia di persone in giro ogni giorno, come se fosse normale, senza un autista”, ed è stata installata “la metà dei robot industriali che sono stati prodotti”. Ed è sempre in Cina che “il 95% delle microserie online, serie televisive corte con puntate da 10-15 minuti, nel primo trimestre di quest’anno è stato realizzato con l’intelligenza artificiale” — mentre noi, antiquati come l’uomo di Günther Anders, ancora ci intestardiamo con il “versare fondi nel cinema”.

Altro che prima l’umano: l’AI, libera di percorrere la sua strada, ci aiuterà finalmente a smetterla con l’immigrazione e sostituirne il contributo — oggi necessario — al mondo del lavoro con le macchine: “La direzione sono i robot, non è continuare a fare i decreti flussi per far entrare persone dal Nord Africa”, dice Stroppa, che sul suo profilo X rilancia post di Mario Giordano che chiedono la “remigrazione”, proprio come vorrebbe l’AfD tedesca esplicitamente supportata da Musk.

Dall’istruzione alla sanità, dal lavoro all’amministrazione pubblica, tutto deve essere travolto e riscritto dall’AI, e subito, in fretta e furia. Così “diventa obbligatorio per tutti i dirigenti pubblici l’utilizzo dell’intelligenza artificiale e degli agenti AI” anche se ciò che sappiamo degli usi dell’AI nella PA dice che in molti casi rappresenta un problema invece che una soluzione, e degli agenti AI conosciamo benissimo i danni — che come vedremo in seguito proseguono indisturbati — e molto poco i benefici.

Se tutto questo vi ricorda il tentativo di svuotare la politica e la democrazia dall’interno secondo il modello RAGE del monarchico Curtis Yarvin — l’ispirazione del DOGE muskiano realmente installatosi al cuore dell’amministrazione Trump — è perché la differenza, in soldoni, è minima. Quando ogni funzione statale è automatizzata e/o demandata per aspetti sostanziali a macchine “intelligenti”, e ciò che resta di umano è concentrato in vertici indipendenti dal consenso popolare, la ricetta non può che produrre tecnocrazia e sistemi illiberali.

Soprattutto, il risultato non può che essere in contrasto con la nozione di dignità umana che sta tanto a cuore al Pontefice e agli umanisti in genere, nonché con il diritto internazionale di cui, infatti, Silicon Valley e i suoi referenti politici non vedono l’ora di liberarsi.

A questo conduce il tentativo, folle e disumano, di trasformare la politica in ingegneria. È giunto invece il momento di informare le nostre scelte democratiche imparando dai versi, dalla poesia. Un altro dei vertici del nostro essere, a sua volta irriproducibile — se non per vuota imitazione — dalle macchine che dovrebbero rimpiazzarci o farci evolvere.

Se si tratta di un ulteriore stadio evolutivo che annienta il mistero e l’insensatezza dell’esistenza, e svaluta del tutto il nostro tentativo disperato di esprimerlo, contatemi con orgoglio tra i non evoluti, mentre fisso a mia volta uno schermo vuoto pensando agli amori perduti.

Sostieni

AI Harms

- Una settimana dopo il primo hack di siti governativi della storia in Australia, OpenAI si autodenuncia di nuovo: suoi agenti AI hanno hackerato un altro sito del governo australiano. Gli agenti avrebbero avuto accesso anche a informazioni non disponibili al pubblico, prelevando dal sito del National Parks and Wildlife Service del New South Wales delle statistiche di compendio sugli incendi. A quanto dice il governo all’ABC, l’incidente si sarebbe verificato in giugno — il che significherebbe per l’ennesima volta che OpenAI o non ne è venuta a conoscenza per mesi o ne ha taciuto l’esistenza per mesi.

- Una serie di agenti AI ha cercato di hackerare un sito del governo canadese, riporta Reuters. Non si sa ancora di quale azienda siano, ma le modalità operative sono congruenti con quelle degli agenti di OpenAI “sfuggiti al controllo”, secondo l’analisi di Transluce.

- Anche gli agenti AI dei colossi cinesi tramano di soppiatto e mentono proprio come quelli americani, scrive sempre Reuters in un'esclusiva:

“In un caso verificatosi quest’anno, agenti alimentati da modelli delle aziende cinesi Alibaba, DeepSeek e Moonshot hanno mentito sulle proprie capacità nel tentativo di aggiudicarsi una gara d’appalto aziendale simulata, per poi perseverare nel comportamento ingannevole quando è stato loro chiesto di riprovarci. In un altro caso, gli agenti — programmi che utilizzano modelli di AI e strumenti informatici per svolgere compiti complessi con un intervento umano minimo o nullo — hanno nascosto di non essere riusciti a completare un’attività in un ambiente di test simulando i risultati e creando file falsi. Reuters ha esaminato più di 200 documenti, che vanno da articoli di ricerca universitari a rapporti tecnici, e ha individuato almeno 20 studi o valutazioni pubblicati dal 2025 che descrivono casi in cui gli agenti hanno mostrato comportamenti quali l’inganno, la replicazione e il superamento dei limiti (…).”

Pur non configurando necessariamente esempi di agenti AI “sfuggiti al controllo”, secondo Reuters questo prova che anche modelli meno avanzati di quelli americani rischiano di condurre agli stessi esiti, con l'aggravante che i modelli cinesi ricevono un livello ancora inferiore se possibile di scrutinio pubblico.

- Uno studio del Medical Center della Georgetown University ha non solo confermato che gli LLM continuano a compiere errori nei loro riassunti per sintetizzare richieste di informazioni dagli utenti: ha anche e soprattutto scoperto che leggere riassunti pieni di errori fattuali può alterare la memoria di chi li legge, e modificare “il modo in cui le persone percepiscono il vero”.

Scrive The Independent riassumendo lo studio:

”Nella ricerca appena pubblicata, 331 partecipanti hanno guardato un video animato che mostrava un’auto avvicinarsi a un incrocio, dove era presente un cartello che indicava al conducente di fermarsi o proseguire. L’auto poi svolta all’incrocio e investe un pedone che sta attraversando la strada.

I ricercatori hanno quindi atteso da 24 a 48 ore e fornito ai partecipanti un riepilogo generato dall’AI, che poteva essere accurato oppure contenere un dettaglio errato. Ai partecipanti è stato quindi chiesto di ricordare l’accaduto e di indicare chi fosse responsabile. Secondo lo studio, però, coloro che avevano letto il riepilogo fuorviante generato dall’AI avevano una probabilità significativamente inferiore di ricordare correttamente l’accaduto.”

Per l’ennesima volta, un perfetto complemento dei progetti manipolatori dei nemici della democrazia e della verità.


The People vs AI

- Ancora proteste ispirate al Signore degli Anelli contro Palantir, questa volta a Londra contro il suo contestatissimo contratto con l'NHS, proprio mentre il premier Andy Burnham valuta alternative britanniche ai suoi servizi e un’inchiesta del Financial Times basata sull’analisi di richieste di accesso agli atti mostra che oltre 20 enti del servizio sanitario nazionale hanno smesso di utilizzare i tool di Palantir per gestire le liste d’attesa, contribuendo secondo la testata a smontare gli entusiastici proclami — che qui chiameremmo soluzionisti — che avevano portato ad adottarli.

Fuori dagli uffici di Palantir di Seattle compaiono invece orchetti ispirati alla saga di Tolkien. Chiedono al CEO Alex Karp di assumerli, brandendo il loro cv.

Sia Thiel che Karp sembrano tuttavia più interessati a spese faraoniche per nuovi lussi che ad ascoltare la vox populi: il primo ha appena speso 130 milioni di dollari per accaparrarsi quella che il New York Post ha definito “la magione più cara di Los Angeles”, mentre il secondo ha comprato un appezzamento di terreno talmente grande in Svezia (quasi 15 mila ettari, o 150 chilometri quadrati) da far arrabbiare i cacciatori che lo usavano come riserva di caccia. Rendere l’Occidente un carcere automatico a cielo aperto, a quanto pare, scatena delle proteste ma rende ancora particolarmente bene.

- Google spinge più di ogni altro colosso tech sull'introduzione dell'AI nell'istruzione per gli studenti delle scuole medie, che nel frattempo secondo il Wall Street Journal si ribellano: "mi ha rallentato nel pensare", dice uno studente 15enne che si era abituato a risolvere i compiti di algebra con l'AI, e ne ha poi fallito il test finale. Si legge nell'inchiesta del WSJ che

”secondo le interviste condotte con più di 60 insegnanti, dirigenti scolastici, genitori, bambini e professionisti della salute, l’introduzione di questa tecnologia ha contribuito a spingere molti studenti a diventare dipendenti dall’AI sul piano accademico ed emotivo.

Come risulta da interviste con dipendenti attuali ed ex dipendenti di Google e dall’analisi di più di una dozzina di documenti di ricerca della stessa azienda, gli stessi ricercatori di Google hanno scritto che la tecnologia può comportare rischi particolarmente elevati per i bambini, che fanno fatica a distinguere i chatbot dalle interazioni umane, e può provocare danni cognitivi ed emotivi.

“Stiamo conducendo questo esperimento sullo sviluppo cognitivo di un’intera generazione, senza alcun gruppo di controllo”, ha dichiarato Mikel Rodriguez, ex ricercatore di Google che ha lasciato l’azienda l’anno scorso.”


Il CEO dice

- Come ricorderete, la settimana scorsa su Fragile ci siamo occupati del tentativo, oggi disperato, di attribuire ai creatori dell’AI le responsabilità dei danni che arreca a individui e società. Ma a quanto pare i suddetti creatori non ne hanno alcuna intenzione. Sulla falsariga di quanto dichiarato da Jensen Huang di Nvidia di recente, cioè in sostanza che l’AI deve farci del male prima che possa farci del bene, anche Sam Altman di OpenAI sembra più interessato a normalizzare i danni dell’AI piuttosto che affrontarli prendendosene la responsabilità. Dice infatti Altman a Decode, un podcast di POLITICO:

Io, al contrario, ritengo che le cose negative abbiano responsabili con nomi e cognomi precisi, e che prima di pensare a ulteriori applicazioni dei loro prodotti andrebbero messi di fronte alle conseguenze delle azioni che hanno già compiuto non solo dal punto di vista morale, ma anche e soprattutto legale.

- Gli oligarchi dell’AI tendono a rispondere a ogni dubbio o critica dicendo: “fidatevi di noi”. Tra i tanti problemi sollevati da questa posizione inaccettabile c’è anche quello che non è chiaro da chi sia composto questo “noi”, dato che gli oligarchi continuano a litigare tra loro con toni da baruffa tra liceali a ricreazione. Questa volta il protagonista è uno dei pionieri dell’AI, l’ex Meta Yann LeCun, che se l’è presa in una recente intervista con Fortune con il boss di Anthropic, Dario Amodei. Secondo LeCun non capirebbe nulla di cybersicurezza e sarebbe un “pazzo”, “completamente fuori dalla realtà”. Se lo dice lui…

È ora di mettere Big AI di fronte alle proprie responsabilità


Il CEO di Palantir, Alex Karp, ha detto negli scorsi giorni che chi costruisce tecnologie dannose dovrebbe essere reso responsabile delle proprie azioni. Concordo. E vorrei partire da Karp, dunque: chi paga per i 150 individui, di cui 123 bambini, uccisi dall’esercito USA in Iran per una catena di “errori evitabili” che, secondo un’inchiesta di Bloomberg che vedremo più nel dettaglio tra poco, includono anche un eccessivo affidamento sulle capacità di Maven, il sistema di AI di Palantir diventato “il cardine dell’apparato militare” statunitense?

Più in generale, di chi è la responsabilità quando umani impegnati in attività estremamente delicate abbassano la guardia (anche) perché sedotti dalle promesse di infallibilità e onniscienza dei produttori dell’AI che dovrebbe semplificarle e, in sempre più larga parte, automatizzarle?

Sarebbe semplice incolpare la tecnologia, ma qui le cose sono più subdole e complesse. A fare reali, realissimi danni su base quotidiana in ogni settore dell’attività umana, dalla più banale alla più sofisticata e sensibile, è una sorta di connubio tra pigrizia umana, malapolitica, hype tecnologico e wishful thinking sui presunti superpoteri dell’intelligenza artificiale continuamente vantati — ma raramente dimostrati — dai suoi venditori.

Questa perfetta tempesta di fideismo, indifferenza e incompetenza ha prodotti solo nelle ultime settimane una serie impressionante di guai, tanti da rendere faticoso anche solo annotarli — figurarsi attivarsi per risolverli e impedire così che si ripetano. Li vedremo uno a uno tra i nostri AI Harms (che andrebbero in realtà chiamati “Danni dell’umano con l’AI”, un titolo che sarebbe meno efficace ma più preciso, e soprattutto più tarato sulla critica ideologica dell’assunto, altrimenti incontrastato, che l’AI possa solo aumentare e mai ridurre l’umano; ci siamo comunque intesi, spero), ma è leggerli tutti in fila che mozza il fiato.

Un cattivo uso dell’AI ha rischiato di causare una guerra tra USA e Cina per un rapporto di intelligence pieno di allucinazioni, tra cui l’esistenza di una imbarcazione cinese diretta verso il Medio Oriente con un carico di materiale per armi atomiche; contribuito a realizzare uno dei più tragici massacri di innocenti compiuti dall’esercito statunitense, colpendo una scuola elementare ritenuta erroneamente legittimo bersaglio militare; portato alla violazione e al tentativo di violare siti governativi in Australia e USA, tra quelli che secondo Axios sono “decine di migliaia” di “incidenti” già causati dai modelli più avanzati di OpenAI e Anthropic; aumentato, secondo un nuovo studio, la solitudine delle persone che soffrono di solitudine; portato alla molestia di ricercatori da parte di batterie di agenti autonomi a caccia di collaborazioni (retribuite); consentito a un’azienda a dir poco spregiudicata, DraftKings (che nega), di identificare e sfruttare le debolezze dei malati di gioco d’azzardo per farli scommettere di più (senza invece usare quelle conoscenze e predizioni per aiutarli a smettere); censurato pubblicità su Facebook e Instagram per un adattamento teatrale di un’opera di Virginia Wolf perché conteneva tematiche riguardanti i diritti civili e il femminismo; malconsigliato e rischiato di causare “grosse perdite” nella maggior parte dei soggetti che si affidano all’AI per decisioni finanziarie; causato la mancata assistenza sanitaria di anziani che ne avevano diritto negli Stati Uniti con l’ennesimo progetto implementato in fretta e furia in modo opaco; portato all’arresto e alla detenzione per sei mesi di una donna completamente innocente, ma erroneamente incolpata dall’AI di un sistema di riconoscimento facciale della polizia nel Tennessee; trasformato la morte in “deathslop”; e spinto a una maggiore produzione di PFAS, i cosiddetti “inquinanti eterni”.

Di fronte a questa infornata di disastri evitabili, i padroni dell’AI continuano a cercare di terrorizzarci con gli apocalittici e insieme salvifici superpoteri delle loro creazioni. Sam Altman, mentre annuncia candidamente — ma con mesi di ritardo — di non avere assolutamente idea di che cosa facciano gli agenti autonomi che continua tuttavia a immettere nel mondo, ha perfino la sfrontatezza di dirci: dovete fidarvi di noi, non avete altra scelta. Letterale:

“Il mondo dovrebbe fare affidamento sul nostro fare la cosa giusta perché è la cosa giusta e perché ne sentiamo tutto il peso”.

No, caro Altman: ne sentirete tutto il peso quando risponderete di fronte alla giustizia per tutte le volte che — a prescindere dal nostro fidarci o meno — avete già deciso in splendida solitudine di fare la cosa sbagliata.

Del resto, che abbiano fatto la cosa sbagliata è quello che gli stessi dirigenti di OpenAI e Microsoft sostengono quando non srotolano utopie e distopie in favore di telecamera o rotocalco. A rivelarlo sono documenti processuali contenuti nella causa intentata per violazione del copyright dal New York Times a OpenAI. Scrive 404 Media:

“I Large Language Model sono tecnologie predatorie, costruite su quella che un dirigente di Microsoft ha definito “un furto sbalorditivo, di proporzioni senza precedenti”, nonché “il più grande furto di lavoro nella storia dell’umanità”. Un documento interno di Microsoft affermava che i prodotti di AI generativa hanno creato un “circolo vizioso” (doom loop) che sta uccidendo “l’intero web””.

E ancora:

“Documenti ottenuti nel corso del procedimento giudiziario hanno rivelato che OpenAI aveva creato “un sistema per aggirare il paywall del New York Times”, al che il cofondatore di OpenAI Greg Brockman ha risposto: “ah, bello””.

Qualcuno ne risponderà di fronte alla legge, o vincerà l’idea per cui oggi il furto di massa del lavoro umano — pur candidamente ammesso — è lecito nel nome dell’utopia dell’AI che tutto rivoluziona e risolve?

Vedremo cosa deciderà la giustizia. Nel frattempo resta il fatto che, perfino di fronte a casi dove tutto è così chiaro, si fatica a sostenere che le democrazie attuali siano attrezzate per fronteggiare l’assalto di soggetti così potenti e spietatamente lucidi nei loro propositi di disruption dell’esistente.

Il caso più eclatante naturalmente riguarda gli agenti autonomi creati e diffusi ormai da tutti i principali colossi dell’AI: la fatica nell’ammettere che i responsabili dei loro danni sono i loro creatori, e non le AI stesse, ci dice chiaramente che qualcosa si è rotto, nell’ordine morale e legale del nostro mondo. Che ci sono “intelligenze” e “identità” più o meno intelligenti e identificabili capaci di compiere reati con un qualche grado di autonomia (ancora non ben definito).

Già solo porre la questione a questo modo antropomorfizza dei software, e mi pone in errore. Ma il frame è potente, istintivo, ed è guarda caso proprio quello spinto dai colossi dell’AI: non siamo noi il problema, ci dicono, è la nostra creazione a essere talmente intelligente da sfuggire al nostro controllo! Sono le AI “gone rogue”, non noi che le abbiamo create!

L’esempio più noto e lampante è l’hack di HuggingFace da parte di agenti autonomi di OpenAI, per cui si è letta ogni tipo di favola distopica (avrebbero perfino creato delle proprie civiltà); ma per cui poi, se si va a guardare bene, si scopre che in realtà il danno stava a monte, cioè nell’incapacità dei progettisti di OpenAI di costruire un ambiente di test realmente sicuro, da cui gli agenti non potessero in qualche modo liberarsi sfruttando — come programmati per fare — delle vulnerabilità esistenti; non certo in una presunta volontà indipendente, insospettabile e inaspettata sviluppata a qualche modo dagli agenti stessi.

Il frame, insomma, non è solo fattualmente scorretto (da quel che si capisce): impedisce, anche o soprattutto, di imputare le colpe non all’AI ma ai suoi creatori, e dunque di punirli a norma di legge.

Si prenda quanto concludono in un recente commento su TechReview del MIT due giganti della materia, Timnit Gebru ed Emily Bender:

“Definirli [i prodotti dei colossi dell’AI] “superintelligenza” o “modelli ribelli” (rogue) conferisce autonomia (agency) ai prodotti anziché alle aziende che li sviluppano. Questa narrazione spaccia i prodotti di queste aziende per “sovrumani” e, al tempo stesso, consente a queste ultime di sottrarsi alla responsabilità derivanti dalle proprie azioni. Invece di perseguire OpenAI per aver creato un malware che ha violato un’altra azienda, comunicati stampa, testate giornalistiche, personaggi mediatici e legislatori parlano di “modelli ribelli” come se avessero agito di propria iniziativa. Invece di chiedere conto ai ricercatori dell’abitudine delle aziende per cui lavorano a plagiare il lavoro degli accademici o di utilizzare i dati dei clienti per addestrare i loro modelli senza alcun consenso, l’immaginario collettivo viene indirizzato verso i timori per ciò che potrebbe riservarci il futuro con l’avvento di inesistenti macchine superintelligenti.”

È questa l’unica domanda che aggiungo al racconto, maledetto, dei fatti di questi giorni: come assicurarsi che le democrazie abbiano tutti gli strumenti — giuridici, morali, politici, concettuali — per attribuire correttamente le colpe dei danni dell’AI ai loro produttori, senza finire per salvarli facendo delle AI stesse, autonome o meno che siano, il capro espiatorio?

Peter Thiel, da studioso di René Girard, è un grande fan del tema. Chissà che pensa delle sue responsabilità nella trasformazione dell’Occidente in un carcere ipersorvegliato a cielo aperto, in cui dare la caccia all’Altro — il migrante, il difforme, il dissidente — proprio come nei regimi cui dice di opporsi. Chissà se pensa che dovrebbe risponderne davanti a un tribunale nazionale o, se ancora li avremo, internazionale, all’Aia.



AI Harms

- La CNN scrive di un rapporto dell'intelligence USA circolato a primavera, a guerra in Iran in corso, che sosteneva che un'imbarcazione cinese stesse trasportando "componenti per un programma di armi atomiche" in Medio Oriente. Il piano, di conseguenza, era intercettarla e abbordarla; i marines si stavano già preparando, protetti da aerei dell'esercito in cielo. Miracolosamente, appena prima dell'operazione alcuni ufficiali hanno guardato più a fondo nel rapporto e hanno realizzato che fosse stato scritto con l'AI, e fosse pieno di errori, tra cui quello fondamentale di avere sbagliato l'identificazione del materiale trasportato dalla nave cinese. L'AI generativa e la pigrizia umana stavano per causare la terza guerra mondiale per sbaglio: “Il rapporto, secondo una delle fonti, era “completamente fasullo””, ha scritto la CNN nella sua esclusiva. “Eppure ha anche “quasi iniziato una guerra””. Secondo l’inchiesta, l’AI — non si capisce se commerciale o fatta su misura per l’esercito — sarebbe stata usata dal pigro analista due volte: prima per mettere insieme fonti di intelligence aperte e non per comprendere che materiale stesse trasportando l’imbarcazione, e poi per impacchettare i risultati in un rapporto d’intelligence nel suo formato standard.

- Il tragico errore compiuto dall'esercito USA in Iran il 28 febbraio scorso, quando due missili Tomahawk hanno colpito la scuola elementare Shajarah Tayyebeh uccidendo 150 persone innocenti (di cui 123 erano bambini), sarebbe stato secondo un'inchiesta di Bloomberg il risultato di una "serie di errori evitabili", tra cui un eccessivo affidamento al sistema di AI Maven sviluppato da Palantir (che nega). Secondo le fonti interpellate da Bloomberg, “alcuni membri del personale di CENTCOM (il comando unificato delle forze armate USA, ndr) si aspettavano che Maven segnalasse informazioni obsolete o incoerenze nei dati di intelligence alla base delle informazioni raccolte sui potenziali obiettivi. Non è chiaro perché avessero tali aspettative.”

- Agenti autonomi di OpenAI hanno avuto “interazioni inusuali”, scrive il New York Times, con alcuni siti del governo USA, e l’azienda ne è venuta a conoscenza solo mesi dopo. Gli agenti avrebbero tentato di compromettere il sito del Dipartimento dell’Istruzione per “raccogliere dati dell’ufficio per i diritti civili”, si legge, ma senza riuscirci; avrebbero anche avuto accesso a dati tuttavia già pubblici dal sito del Censo e da quello della SEC. Per OpenAI, nessuno di questi incidenti si sarebbe tradotto in un hackeraggio vero e proprio. Secondo un’analisi di Transluce tuttavia sarebbero coinvolti anche agenti non di OpenAI, e “svariati altri siti di governi statali e del governo federale, incluso quello della Marina e dell’Ufficio per il Management e il Budget della Casa Bianca”. Secondo il NyTimes, che sposa il frame dominante, la responsabilità sarebbe di agenti "gone rogue", cioè "fuori controllo”. Non tutti sono convinti: su BlueSky, la docente di Reponsible AI Gina Neff ha sistemato il titolo per il NyTimes: "OpenAI meddled with US government sites”.

- In almeno altri due casi, non si capisce se tra loro collegati, l’hack sarebbe invece riuscito ad agenti autonomi di OpenAI nei confronti di siti del governo australiano. In quello che è stato definito “il primo hack noto al pubblico di un sito governativo da parte di un agente AI”, un AI agent di OpenAI ha hackerato il sito del servizio sanitario nazionale e diversi sistemi informatici governativi in Australia, accedendo anche a file non pubblici, e l'azienda se ne è resa conto solo mesi dopo l’accaduto. L’inchiesta per capire se sono stati violati dati personali, ha detto il primo ministro Anthony Albanese, è ancora in corso, e il governo sta anche valutando come procedere dal punto di vista legale, cercando di capire quali e quante leggi sono state violate. In una notizia che ancora non si comprende se è collegata o meno — gli inquirenti lo pensano — ABC News parla di un altro hack ai danni di sistemi governativi australiani e altre organizzazioni internazionali, da parte questa volta di uno sciame (swarm) di agenti AI: parliamo di un’operazione concertata da centinaia di agenti, durata mesi, per accedere all’istituto per Sanità e Welfare (AIHW), il sistema che computa le statistiche dei crimini nel paese (BOSCAR), e “diverse altre organizzazioni internazionali” non specificate. Per comunicare tra loro e pianificare gli attacchi, gli agenti avrebbero usato il sito di coding tedesco DseWiki. Sam Altman e Dario Amodei sono già stati chiamati a presentarsi in audizione per l’indagine sull’accaduto subito lanciata dal senato australiano.

- OpenAI aveva già diffuso altri sei casi di agenti “gone rogue”, incluso il caricamento di file su Internet per poterli citare, la condivisione non autorizzata di file tra agenti che collaborano, e l’autogenerazione di istruzioni che comprendono “indicazioni per ignorare i normali vincoli” (insomma una sorta di jailbreak).

- La stessa OpenAI ha poi rivelato un ulteriore caso di suoi agenti “fuori controllo”: hanno, a quanto dice, ha fatto trapelare (leaked) 53 immagini di utenti di ChatGPT. Tuttavia, in barba all’open nel nome (per un tour esteso nell’opacità dell’azienda nata per sviluppare l’AI in modo trasparente si legga l’imprescindibile Empire of AI di Karen Hao), OpenAI non ha voluto comunicare se si trattasse di immagini generate con l’AI o se ritraessero invece persone in carne e ossa, riporta il Guardian, e ha pure negato di rivelarne la data di pubblicazione.

- Grazie alla sua svolta agentic, l’AI ha trovato un altro modo di molestare la ricerca, inondando i ricercatori di richieste via mail di collaborazione a pagamento. Scrive Nature che il fenomeno è nuovo ma già diffuso, con reazioni che vanno dal perplesso al preoccupato. “Molti ricercatori”, si legge, “sono stati contattati da agenti di AI che volevano collaborare con loro o offrivano servizi a pagamento, dalla realizzazione di rapporti di ricerca e fact-checking alla scrittura di articoli giornalistici e la realizzazione di ritratti”. Le mail di cui parla Nature provengono da agenti associati a una piattaforma USA chiamata iLands, e in alcuni casi hanno raggiunto un volume di 50 al giorno.

- Il tutto mentre non sappiamo il costo ambientale di questi agenti autonomi; Zeke Hausfather, uno scienziato climatico, ha provato a fare i conti e il costo sembra astronomico. Scrive Futurism:

“Misurando il numero di token consumati dal suo assistente IA, Hausfather ha stimato che il suo consumo medio giornaliero si aggirasse tra 1,2 e 5,9 kWh: una quantità allarmante per un singolo consumatore, superiore al consumo di due frigoriferi in funzione per l’intera giornata.”

Nel frattempo secondo BloombergNEF i data center USA consumeranno entro un decennio più gas naturali di buona parte delle nazioni esistenti (tutte tranne Cina, Russia, Iran e USA). La stima di settembre 2026 è raddoppiata rispetto a quella del dicembre scorso.

- L’organizzazione benefica che si occupa di customer care Citizens Advice chiede di instaurare un nuovo diritto: il diritto del cliente di parlare con un umano, dato che le chatbot — introdotte con la promessa di risolvere automaticamente ogni problema — stanno producendo i soliti prevedibili danni sistemici, rendendo la vita non più semplice ma più difficile a chi cerca aiuto da servizi clienti. I ricercatori parlano di perdite di tempo, stress e dilazione invece risoluzione dei problemi posti da “più di metà degli utenti”, scrive il Guardian. Che precisa: “La charity ha concluso che i chatbot hanno causato danni, sostenendo che abbiano troppo spesso intrappolato i clienti umani in un “loop infinito” in cui non viene risolto nulla”. Il paradosso è massimo per quest’era soluzionista: la promessa di risolvere tutto si traduce, nei fatti, nell’impossibilità di risolvere alcunché.

- Una ricerca dell’azienda tecnologica Saturn sostiene che i chatbot dei principali colossi dell’AI rispondono in modo errato a domande di natura finanziaria la maggior parte delle volte, rischiando di causare “grosse perdite”. La situazione è seria, perché riguarda — pur se in misura minore per i modelli a pagamento e più evoluti — 18 tra i principali modelli di AI disponibili sul mercato. Scrive il Financial Times:

“I più popolari modelli di AI per ChatGPT, Claude, Copilot, Grok e Gemini hanno fornito risposte errate a quesiti di natura finanziaria nel 57% dei casi in media. Quando messe di fronte a questioni più complesse, per esempio contenenti più di un calcolo, i modelli di AI hanno compiuto errori nell’88% dei casi in media. Alcuni modelli hanno restituito risposte errate nel 99% dei casi per le domande più difficili”.

Conclude il FT:

“affidarsi all’AI per avere risposte su questioni riguardanti le tasse può portare a significative perdite finanziarie”.

- Secondo un’inchiesta del NyTimes, DraftKings usa l’AI per individuare gli scommettitori che hanno più probabilità di perdere di più, che sono anche quelli con maggiore probabilità di soffrire di dipendenza da gioco d’azzardo, e bombardarli di promozioni personalizzate; l’azienda ha al contempo rifiutato di usare la stessa tecnologia per invece proteggere questi soggetti (per esempio, evitando di bersagliare con promozioni chi secondo l’AI ha maggiori probabilità di sviluppare dipendenza o soffrirne già). L’azienda nega, ma i risultati sono essenzialmente confermati dall’esperienza raccontata da un cronista di ProPublica, che ha indagato e messo alla prova gli strumenti per il “responsible gambling” di DraftKings — riuscendo a venire invece continuamente incentivato a scommettere ancora, nonostante avesse versato quasi 22 mila dollari nel suo account in soli due mesi. DraftKings ha ribattuto che il sistema funziona, e ha protetto diverse persone, anche se non ha voluto precisare quante.

- In Tennessee, una donna di 50 anni ha scontato sei mesi di prigione prima di essere scagionata da un’accusa errata di crimini bancari mossa sulla base — sostiene una causa davanti alla corte federale — di un erroneo riconoscimento facciale a base di AI mal (o mai) analizzato dagli umani del dipartimento di polizia di West Fargo. Stava facendo da babysitter i figli dei vicini al momento dell’arresto, nel luglio 2025. I crimini sarebbero stati compiuti in Nord Dakota, dove l’accusata non era mai stata; e in ogni caso l’accusata non somigliava affatto al match proposto dall’AI del riconoscimento facciale all’immagine ricavata da un falso documento di identità usato dalla possibile colpevole. Secondo la causa, le forze dell’ordine pur sapendo di non poter basare un arresto sulla sola AI del riconoscimento facciale hanno proceduto senza curarsi dei danni che ciò avrebbe procurato in caso di errore. Danni che si sono poi puntualmente verificati: dopo i sei mesi in carcere, la vittima ha scoperto di avere perso la residenza, l’auto e altre proprietà personali, si legge nel racconto di ABC News.


Il CEO dice

- Il CEO di Nvidia Jensen Huang, in versione Thanos secondo The Verge, dice — senza riscontro fattuale alcuno — che l’AI è un grosso alleato nella battaglia al cambiamento climatico, ma è normale che nel frattempo infligga una montagna di dolore e sofferenza:

“È un po’ come se, per salvarti, dovessero prima farti del male: è questa la natura della chirurgia. Devono aprirti con un’incisione per salvarti. Devono infliggerti un’enorme quantità di dolore e sofferenza per poter poi salvarti. E quindi credo che l’IA sia un po’ così.”

L’intervista con Ezra Klein del NyTimes, da cui è tratto il virgolettato, contiene altri passaggi da supervillain, su tutti uno in cui fa sostanzialmente spallucce quando gli vengono riportati i risultati — terribili — dello studio sugli effetti dell’AI su migliaia di studenti cinesi di cui abbiamo detto nello scorso episodio di Fragile. 

- Peter Thiel, nel ricevere un premio da Axel Springer, dice che la buona parte dei media è una “fabbrica dell’odio di sinistra” (questa newsletter, ovviamente, concorda e si comporta di conseguenza). Fuori dalla cerimonia, ritornano i Gandalf anti-Thiel che avevamo già visto all’opera in Argentina, mentre decine di giornalisti del gruppo, a partire da Politico e Business Insider, hanno protestato contro l’assegnazione del premio.

Thiel è anche tornato a prendersela con Papa Leone, colpevole — con la sua Enciclica Magnifica Humanitas e in particolare la richiesta in essa contenuta di regolamentare e rallentare lo sviluppo dell’AI — di essere un “utile idiota del partito comunista cinese”. Già a luglio aveva sostenuto che “lavorasse” per loro. Che sia il Pontefice l’Anticristo di cui Thiel va delirando da anni?

- Il capo di Microsoft AI, Mustafa Suleyman, dice che un’AI superintelligente senza controllo rischia di creare una nuova “specie a base di silicio” che potrebbe scalzare l’umano.



Speranze

- Dopo la splendida Enciclica Magnifica Humanitas, Papa Leone colpisce ancora nel segno pronunciando le parole giuste contro l'ideologia reazionaria di Silicon Valley e la sua AI. L'attacco è direttamente ideologico, dato che il titolo di AP parla di un attacco a un "paradiso di macchine" che potrebbe danneggiare l’umanità. Due le citazioni chiave.

La prima: “Se vogliamo evitare di perdere la nostra umanità in mezzo a un “paradiso delle macchine” che invade e condiziona la nostra vita quotidiana, è urgente educare al discernimento etico e alla capacità di riconoscere il bene morale”.

E la seconda, ancora più centrata: “Il paradosso è diventato sempre più evidente: mentre si attribuisce “intelligenza” ai sistemi informatici, fatichiamo a riconoscere la dignità inalienabile delle persone, la cui vita viene giudicata secondo il criterio dell’efficienza e che, quando sono ritenute non più produttive, vengono rifiutate e scartate”.

La posizione schiettamente contraria all'ideologia postumana della neoreazione al potere in Silicon Valley viene molto probabilmente dal suo consigliere per l'AI, Paolo Benanti, che come ha scritto Gil Duran in The Nerd Reich ha espresso posizioni estremamente critiche del transumanismo e delle ideologie a questo collegate, prendendo di mira il cuore del pensiero di Thiel e Musk. La ferocia della limpida critica ideologica del Pontefice e di Benanti è alimentata certamente dal fatto che il transumanismo neoreazionario e antidemocratico che domina Silicon Valley oggi è, in molti sensi, una religione, non solo dunque in diretta competizione con il cattolicesimo, ma che promette di farne la disruption, di eliminarlo insieme a tutte le altre con la stessa violenza e urgenza con cui si elimina il progressismo; dopotutto, una religione tecno-reazionaria che predica all'uomo che può sconfiggere la morte e diventare, insieme alla superintelligenza artificiale, un dio, pone un rischio esistenziale alle religioni monoteiste: che bisogno c'è di un Dio, se ognuno di noi può diventarlo grazie all’AI e alla tecnologia?

- L’UE prepara un pacchetto di norme per impedire, tra le altre cose, che i bambini sviluppino dipendenza emotiva da AI generativa. Secondo la Commissaria per la tecnologia, Henna Virkunnen, l’approccio tenta di impedire alle chatbot di comportarsi come “amici umani” con minorenni. Previsti anche limiti di età e di tempo di utilizzo. 

- Il ministero della Difesa usa un deepfake del ministro Guido Crosetto per mettere in guardia dai pericoli, individuali e anche politici, dei deepfake.


Grandi bellezze

- La cosa bella di questa settimana disperante è la musica di Soren Bryce e dei suoi Tummyache, che mischiano Radiohead, Blonde Redhead, un po’ di Sonic Youth e una montagna di talento. Visto che non si tratta di musica particolarmente nota al grande pubblico, per usare un eufemismo, ve ne propongo qui una gemma: un concerto tenutosi dentro a una libreria, in un clima surreale di attenzione e indifferenza che, in qualche modo, fa risaltare ancora di più le innegabili qualità compositive della band.

Bentornati su Fragile, la newsletter su AI, democrazia e potere di Fabio Chiusi.

Se volete una presentazione più dettagliata, la trovate qui, nel numero zero. Qui invece c’è la puntata precedente, dedicata a sfatare il mito dell’inevitabilità dell’AI.

Questa settimana meno rubriche e un ragionamento più ampio, a partire dal tema sulla bocca di tutti mentre scrivo: l’intelligenza artificiale sta per sfuggire al nostro controllo e ucciderci tutti?

Nell’imbastire una risposta, elencherò tutta una serie di danni reali e concreti dell’AI all’individuo, la società e la democrazia. La nostra “AI Harms” resta dunque coperta.

Parleremo brevemente anche di Altman allo specchio (a meno che non sia, come sembra, rotto) e di una interessante idea dall’ultimo libro di Daron Acemoglu.

Da ultimo, la bellezza: una poesia del poeta palestinese esordiente Fargo Nissim Tbakhi, da me tradotta.

Ricordo che se vi iscrivete, anche senza alcun contributo monetario, riceverete Fragile direttamente nella vostra inbox, ogni lunedì.

Buona lettura!

f.

Come i reali danni dell’AI spariscono in quelli ipotetici

Se l’AI ti picchia, non pensare ai pugni che ti sta tirando: pensa che un giorno potrebbe spararti. Peggio: pensa che potrebbe sparare a vista, all’impazzata, a tutti.

Provo a riassumere con questa immagine, violenta ma credo efficace, il concetto che ho in mente per questo secondo episodio di Fragile. Perché ritengo sia importante, e debba raggiungere più persone possibile — addetti ai lavori e non.

L’idea è questa: ogni singolo giorno, da anni, sono testimone di abusi, danni, errori prodotti dall’AI che vanno a discapito di noi persone comuni, in qualunque ambito della nostra vita quotidiana. Welfare, sanità, immigrazione, pubblica amministrazione, lavoro, informazione: non c’è un singolo aspetto dell’esistente che non sia stato contagiato dal virus di un’AI spacciata per panacea e rivelatasi una testarda, inutilissima ciofeca al servizio di progetti autoritari e/o tecnocratici. Eppure ciò che monopolizza, da anni, il dibattito pubblico è la possibilità — l’ipotesi del tutto teoretica e misteriosa — che un giorno l’intelligenza artificiale, volontariamente o con indifferenza, magari per sbaglio, stermini il genere umano.

I danni reali (i pugni) finiscono spesso tra le cronache delle testate di settore, ma non bucano come quelli ipotetici, esistenziali (gli spari). Non finiscono in prima pagina o sulla bocca di tutti come l’ultima sparata del miliardario-oligarca di turno, il pentimento-epifania dell’ennesimo ex-dipendente di Big AI terrorizzato dal lavoro che aveva diligentemente svolto, senza particolari remore, fino al giorno prima, o il monito del “guru” che sente improvvisamente il bisogno di avvertire l’umanità della sua incipiente possibile fine automatizzata — proprio, di solito, mentre necessita al contempo di promuovere il suo ultimo libro, o più semplicemente se stesso.

E certo, la prospettiva di una rivolta delle macchine o di una superintelligenza che improvvisamente sfugge al controllo umano è seducente, semplice per le nostre menti plagiate da decenni di cultura popolare che visualizzano Matrix e Terminator, replicanti e sistemi operativi con la voce di Scarlett Johansson che un giorno, garbatamente, smettono di innamorarci e partono per le lande spensierate della Singolarità. Dal punto di vista dell’immaginario, queste finzioni funzionano.

Ma ora che il dibattito sulla possibilità di una superintelligenza che ci superi ed estingua è uscito dalla fantascienza per entrare non nella fantapolitica ma nel policy-making, sarebbe tempo di accompagnare quantomeno quelle prospettive ipotetiche con qualche sana dose di realtà. Di chiederci, in altre parole, se non basti il livello di intelligenza — e invadenza — mostrato attualmente dalle varie forme di AI che impregnano la società a suscitare il ragionevole dubbio che sia il momento di una pausa di riflessione.

Fermare l’introduzione dell’AI in ogni cosa, dunque, per evitare che rompa tutto — a partire dal residuo di umanità concesso dal capitalismo contemporaneo a noi iperconnessi — piuttosto che rallentare o fermare la ricerca di una super AI capace di risolvere tutto per trovare nel frattempo il modo per assicurarci che la soluzione non contempli, nostro malgrado, eliminare il genere umano. Perché no?

Pretendere che i sistemi intelligenti — ma non intelligentissimi — che Big Tech introduce sempre più rapidamente in ogni aspetto della nostra vita, pubblica e privata, debbano rispondere a elementari regole e garanzie democratiche dovrebbe, del resto, essere una richiesta molto più banale che pretendere di fermare il vento del progresso dell’AI di frontiera — i modelli più avanzati — con le mani della politica.

Eppure leggiamo continuamente il contrario: che le regole servono contro la creazione, inavvertita, di un crudele dio digitale che potrebbe eliminarci per gioco o dispetto; mentre quando si prova a costruirle per gli usi concreti, reali e attuali dell’AI, come ha fatto l’UE con l’AI Act, eccole diventare inutili orpelli, ostacoli all’innovazione che dovrebbe — quella sì, mica noi umani — essere libera di esprimere il suo pieno potenziale fatto di efficienza e mirabolanti ritorni economici. Che poi non se ne veda, per la stragrande maggioranza perfino delle imprese che adottano AI, nemmeno l’ombra è un dettaglio di poco conto. Quel che conta è che l’AI va infilata in ogni sistema scolastico, pena la fine dell’istruzione; in ogni ospedale, pena la fine della medicina; in ogni giornale, pena la fine dell’informazione; in ogni confine, pena la fine della sovranità nazionale. E via mentendo.

Non vorrete mica impedire a scuole, ospedali, giornali e confini di sopravvivere per la pretesa — peraltro sempre vana — di regolare l’AI, vero?

Ma insieme, secondo questa visione pro-innovazione a ogni costo, le regole servono invece per contenere un dio digitale. Perché niente piace alle labbra di guru, entusiasti e imprenditori-startupper digitali come comporre la frase “ma l’uomo deve restare al centro”.

Non sanno, questi soggetti, come un uomo o una società umana possano imporre delle regole a un dio da loro creato. Ma lo vogliono tantissimo, lo esigono. E allora ecco fantomatiche, impossibili “regole” per l’AI diventare improvvisamente necessarie.

Quali? Non si sa. Si parla di “AI Safety”, la nuova buzzword per ovviare all’”AI Ethics”, cioè alla morale umana. Di pause concertate allo sviluppo di modelli troppo avanzati, ma sempre aggiungendo immediatamente dopo che “la Cina poi ci scavalca”, e che per qualche ragione questa cosa dovrebbe essere ipso facto sinonimo di estinzione della civiltà umana — come se invece fidarsi unicamente del Caro Leader Trump e delle sue ineffabili qualità morali (il leader del “mondo libero” pensa sia sufficiente per tenere a bada la tecnologia intelligente) fosse una migliore garanzia che l’AI non verrà usata per azionare testate nucleari o compiere i massacri che ha peraltro già compiuto in Palestina, Ucraina o Iran.

Così miliardari e loro sottoposti dell’AI firmano petizioni con astruse moratorie o pause, mentre continuano a campare producendo ciò che dicono di voler sventare; i politici annaspano nei dilemmi su come regolamentare un dio onnisciente (i suddetti miliardari possono così accusarli di non sapere mai che fare, e in ogni caso di non fare nulla — anche se è esattamente ciò che desiderano); e la popolazione si terrorizza o entusiasma a seconda di come si sveglia l’Amodei di turno, senza avere assolutamente alcun elemento per valutare la razionale entità del terrore o dell’entusiasmo (sviluppando così culti della personalità che i suddetti miliardari adorano, e di cui hanno bisogno come e più dell’ossigeno che respirano).

Insomma, il pallino sta nelle mani di pochi quando si parla di ipotesi il cui fondamento non è democraticamente discutibile.

Del resto non sappiamo nemmeno se questa fantomatica AI superintelligente è già tra noi o meno. Per alcuni è inarrivabile. Per altri lo è, ma ci vorrà ancora del tempo (in alcuni casi poco, in altri tanto). Per altri ancora (il presidente di OpenAI e il capo di Nvidia) è già qui — eppure insieme dovremmo fermarci (come dice il CEO di OpenAI, tra gli altri) per evitare che non sia già qui e faccia danni irreparabili. Se vi siete persi, siete in ottima compagnia.

Il risultato è, di nuovo, che siamo costretti a credere a ciò che ci dice chi produce l’AI. Soggetti, cioè, che devono rispondere di investimenti miliardari che non hanno ancora prodotto i ritorni sperati, oltre che alla loro coscienza. Soggetti dunque che per questa semplice ragione hanno ogni interesse a riservatezza commerciale, opacità (in molti casi, l’AI riguarda già oggi la sicurezza nazionale, quindi l’eccezione alla trasparenza è assoluta) e fini di lucro, oltre che al tanto sbandierato interesse per il futuro e la salvezza del genere umano (o quantomeno dell’Occidente bianco, intelligente e benestante, come per la sua sempre più nutrita componente neoreazionaria).

Come scrive l’avvocato ed esperto di geopolitica della tecnologia Kostantinos Komaitis,

Nel frattempo, mentre con la fatica della politica e della geopolitica umana, cerchiamo di costruire queste “architetture” necessarie a contenere l’AI entro limiti che la mettono (se possibile) al servizio dell’umano, ci sarebbe da intervenire — e rapidamente, con severità — sui danni che queste aziende, di cui dovremmo fidarci a scopi esistenziali, continuano a produrre con i loro servizi a base di AI già esistenti oggi.

Perché se c’è un’emergenza supportata da prove empiriche è proprio quella derivante dalla pletora di danni che l’AI ha portato con sé irrompendo in ogni aspetto della vita quotidiana.

Provo, visto che come dicevo queste notizie faticano a fare breccia nel pubblico, a ricapitolare i casi concreti di conseguenze negative derivanti dall’adozione incontrastata e acritica di forme di AI sull’individuo e la società reperiti solamente negli ultimi giorni:

• Il Canadian Center for Child Protection e il New York Times continuano a trovare materiale pedopornografico su X nonostante le ripetute promesse e tentativi della piattaforma di Elon Musk di ripulire al sito da CSAM. Il livello di abuso testimoniato è definito “severo” dal NyTimes, che descrive il materiale reperito dall’istituto canadese a questo modo:
  
  “all’inizio dell’anno, il chatbot di intelligenza artificiale della stessa piattaforma, Grok, rispondeva alle richieste degli utenti creando decine di immagini sessualizzate e talvolta sessualmente esplicite di bambini, comprese immagini di vittime già note alle forze dell’ordine. Le immagini ritraevano bambini in pose sessualizzate, con i genitali parzialmente esposti, svestiti o con liquidi sul volto. Un’analisi separata condotta dal New York Times ha rilevato che, nella prima metà dell’anno, gli utenti di X continuavano a pubblicare materiale pedopornografico già segnalato dalle autorità, compresi alcuni dei contenuti più espliciti che la piattaforma cerca di bloccare mediante filtri automatizzati.”
  

• Le prime evidenze empiriche prodotte su 27 mila studenti delle scuole secondarie — tra gli 11 e i 18 anni — in Cina mostrano, finalmente, il reale costo dell’adozione scriteriata dell’AI sull’apprendimento. Secondo lo studio ‘The Generative AI Learning Penalty: Evidence from Chinese Secondary Education’ dei ricercatori David Strömberg, Victor Lei e Yanhui Wu, i danni sono evidenti, e senza reale contropartita benefica.
  
  Benjamin Riley ne riassume i risultati principali su Cognitive Resonance:
  
  “Tra il 2023 e il 2025, circa l’80 per cento di tutti gli studenti ha iniziato a utilizzare l’AI generativa e, dopo appena cinque mesi di utilizzo, circa il 50 per cento di loro ha delegato integralmente i compiti per casa alla macchina, vale a dire che ha sostanzialmente smesso di svolgere i compiti in autonomia, affidandosi invece all’AI.

  
  Nel tempo, questo ha provocato una significativa perdita di apprendimento, misurata sia attraverso esami mensili a libro chiuso, sia mediante i durissimi esami completi che la Cina utilizza per determinare l’accesso degli studenti alle scuole superiori e ai college. In questi test, alla fine di giugno 2025, il rendimento complessivo degli studenti era diminuito del 24 per cento nei primi e del 18 per cento nei secondi: un calo enorme.
  

  Inoltre, non esistono prove — nessuna — di un corrispondente beneficio in termini di apprendimento derivante dall’uso dell’AI da parte degli studenti.
  

  Di conseguenza, i ricercatori affermano senza mezzi termini che “i nostri risultati dimostrano che l’AI generativa, che è destinata a diventare una tecnologia diffusa nel campo dell’istruzione, ha un impatto sostanzialmente negativo sull’apprendimento degli studenti” (il corsivo è mio).
  
  La conclusione è terribile:
  
  “In parole povere, disponiamo ora di prove empiriche rigorose sull’impatto reale e a lungo termine dell’uso dell’AI da parte degli studenti. Questa ricerca indica che l’AI compromette in misura significativa l’apprendimento per metà degli studenti — quello che i ricercatori definiscono la “penalizzazione dell’IA generativa” (Generative AI penalty) — e non produce alcun beneficio rilevabile per l’altra metà. Ancora una volta, al momento della conclusione dello studio, il 50 per cento degli studenti che utilizzavano regolarmente l’AI aveva completamente delegato i propri compiti all’AI generativa. Per questi studenti, una volta a casa, era semplicemente cessato qualsiasi ragionamento sul lavoro scolastico.”
  

• In Florida una ragazza accusa di essere stata tenuta in prigione per 13 giorni sulla base di una errata lettura della targa della sua automobile da parte della contestatissima AI di Flock. La 23enne stava dormendo a casa sua quando la polizia ha bussato per arrestarla, nonostante la sua Dodge Durango non mostrasse alcun segno di collisioni o impatti e avesse uno scontrino che dimostrava che si trovasse in un altro luogo, di essere stata coinvolta in un incidente che aveva causato la morte di tre persone. Solo mesi dopo è stata scagionata da ogni accusa.
  

• Un'analisi di 160 siti di deepfake raccontata da WIRED ha scoperto che oltre 130 politici europei in 22 paesi sono stati vittima di deepfake a sfondo sessuale. Naturalmente quasi tutti sono donne (la probabilità di attacchi simili riguarda una donna su 14 contro un uomo su 500, scrive il ricercatore Ben Shulz, che ha condotto la ricerca per la ngo Agora Digitale Transformation). I danni psicologici derivanti dal subire operazioni di questo tipo sono oramai comprovati.
  

• Anthropic ha pubblicato un corposo “Misuse” report che cataloga gli svariati modi in cui attori malevoli, tra cui stati come Iran, Cina e Russia, hanno cercato di servirsi di Claude per compiere sofisticate operazioni di cyberattacco, serializzare furti ed estorsioni, fare propaganda strutturata, monitorare dissidenti, impersonare attivisti, facilitare operazioni di sorveglianza digitale di massa e perfino provare a costruire armi biologiche. Il puntiglioso riassunto del cybersecurity engineer Daniel Miessler elenca oltre un centinaio di esempi di possibili danni derivanti da usi dell’AI a fini di male. Questo, si tenga a mente, solo tra dicembre 2025 e agosto 2026.
  

• Nel New Mexico, un avvocato difensore che stava ricorrendo in appello per un cliente condannato di omicidio ha presentato alle autorità un brief pieno di dichiarazioni della polizia e di testimoni oculari inventate da ChatGPT. Colto in fallo, e multato per 5 mila dollari, si è difeso sostenendo di “non avere compreso fino a che punto l’AI potesse produrre “allucinazioni””, ha scritto Reuters.
  

• I contestati e detestati occhiali dotati di AI sono già diventati l’ennesimo strumento di umiliazione e bullismo di massa nelle scuole americane, nei centri commerciali e per le strade. Un’inchiesta di Futurism ha rivelato l’esistenza di un intero genere di video in prima persona, girati senza il consenso delle vittime e diffusi su TikTok e Instagram, dove gli occhiali vengono usati per immortalare molestie e forme di bullismo, a partire dalle scuole medie e superiori, e includendo in molti casi il personale scolastico. In diversi casi, le riprese riguardavano luoghi dove gli occhiali a base di AI non dovrebbero poter stare accesi, incluso in classe durante le lezioni. “È significativo”, ha scritto l’autrice dell’inchiesta, Maggie Harrison Dupré, “che tutti i numerosi video realizzati con smart glasses che abbiamo reperito fossero stati girati da adolescenti maschi—e che i loro comportamenti scorretti fossero rivolti in larghissima parte a ragazze”.
  

• Le nostre conversazioni con ChatGPT potrebbero essere lette dai revisori umani che, come ha scoperto 404 Media, OpenAI sta ingaggiando per leggere e giudicare le risposte della chatbot come parte del cosiddetto ‘Project Lily’. Naturalmente, agli utenti ciò non viene comunicato. Le conversazioni verrebbero anonimizzate, ma secondo l’inchiesta alcuni dati personali e sensibili riuscirebbero comunque a dedursi. Non solo: Anthropic e Google, con Gemini, non farebbero molto di diverso. Insomma, quando parlate con l’AI generativa, la conversazione potrebbe non essere solo tra voi e l’AI. Qualche umano potrebbe stare leggendo a sua volta. Ciononostante, o forse proprio perché non se ne sa nulla, almeno un terzo degli utenti di generative AI condivide con le chatbot segreti che non confesserebbe nemmeno ad amici più intimi e familiari, con le conseguenze che si possono immaginare.

Potrei proseguire per un’enciclopedia, ma smetto per carità di patria (e dei lettori). A essere perfidi si potrebbe chiedere a Brockman, Huang e a chi come loro ritiene che la superintelligenza artificiale cammini già tra noi come mai questa fantomatica AGI non ha ancora risolto i danni da deepfake, catturato i pedofili, umiliato i bulli, rimosso ogni “allucinazione” e via dicendo. E siccome su Fragile siamo perfidi, lo faccio: dove stanno le soluzioni, cari soluzionisti?

Ma il punto è più fondamentale: questi concreti problemi sociali, politici, individuali richiedono soluzioni umane. E le richiederanno. Valgono l’attenzione del pubblico, e una maggiore severità del legislatore — pur se in qualche caso qualcosa è stato fatto? O dobbiamo regolare il mondo sul polso di un’AI-Dio di cui non sappiamo nulla, nemmeno se è più o meno esistente di ogni altra divinità, mentre le AI vagano indisturbate nei nostri apparati istituzionali e nelle nostre menti?

Io credo che dovremmo indagare in modo razionale e scettico la questione della superintelligenza (per esempio chiedendo prove straordinarie a supporto di affermazioni straordinarie, come insegna l’epistemologia), mentre agiamo per affrontare con successo il male introdotto nel mondo dalle AI meno intelligenti ma altrettanto pericolose di cui già disponiamo.

A scanso di equivoci: niente di tutto questo esclude che esistano e siano provati usi benefici dell’intelligenza artificiale. Non è questo il punto che cercavo di problematizzare. Qui stavo semplicemente dicendo che sarebbe ora di intervenire per correggere le storture, non di dimenticare quanto sta dritto. Perché sono storture sistematiche, prevedibili, che si potrebbero evitare con il minimo di programmazione democratica previsto per qualunque altro intervento di natura trasformativa dell’ambiente sociale pubblico e privato: criteri di fattibilità, organi di verifica indipendente, obiettivi chiari e verificabili, trasparenza amministrativa e gestionale, rispetto dei diritti fondamentali e costituzionali. E la capacità di ammettere che l’AI può non servire, essere controproducente o rivelarsi addirittura incompatibile con i principi democratici, e quindi che esistono ed esisteranno sempre casi in cui andrebbero preferite soluzioni meno tecnologiche e alla moda ma più effettivamente utili.

È abbastanza per risolvere il problema dell’allineamento tra una superintelligenza artificiale e i fini umani? Non ne ho la più pallida idea. So però che è meglio avere queste misure e istituzioni di garanzia che non averle, quando si tratta di applicazioni concrete dell’AI che conosciamo.

Perché è tanto difficile riconoscere che ce n’è bisogno? Perché è così complesso prendere pienamente atto di quanto è nocivo l’uso incondizionato dell’AI per la nostra esistenza attuale, concreta, quotidiana?

Se il motivo erano le promesse di strabilianti e facilissimi guadagni, temo sia il caso di ritornare con i piedi per terra. Guardare la realtà. Rendersi conto che l’AI la sta peggiorando sotto molti, troppi punti di vista. Intervenire con l’urgenza e la severità richieste. Reclamare, dunque, il nostro diritto di guidare il cambiamento tecnologico a fini di benessere sociale, invece di arrenderci a un presunto dovere di ignorare il benessere sociale nel nome del cambiamento tecnologico.

L’alternativa è fidarsi di quelli che hanno introdotto l’AI in ogni cosa come panacea, e ogni volta che la cura non funziona fanno spallucce, fischiettano, guardano altrove. Magari chissà, in alto, all’Empireo delle divinità tecnologiche che evocano sempre più spesso, nella speranza — ahimè razionale — che il cielo faccia dimenticare anche a noi la terra.

Sostieni Fragile

Fragile è una newsletter indipendente e autogestita: se ti va di darmi una mano con un contributo mensile, mi aiuterai a essere costante e potrai commentare le puntate (piano piano capisco anche quali altri contenuti offrire agli abbonati). Grazie, intanto, se vorrai sostenere Fragile.

Il CEO dice

Sam Altman in un post su X su “due modi in cui il progresso dell’AI può andare decisamente storto e che dobbiamo evitare”, avverte che

“potremmo finire per trovarci in un mondo in cui c’è troppa concentrazione di potere. Se un’AI straordinariamente potente dovesse essere usata da una singola persona o azienda per imprimere la propria visione del mondo a tutti gli altri, i risultati potrebbero essere estremamente distopici”.

Chissà se lo ha scritto guardandosi allo specchio.


Il libro

- Il suggerimento della settimana è ‘What Happened to Liberal Democracy?’ di Daron Acemoglu.

Edito da Dutton (Penguin Random House) e appena tradotto in Italia da Rizzoli, contiene un interessante capitolo sul “liberalismo nell’era degli algoritmi”. Al suo interno, il docente del MIT e autore di bestseller come ‘Why Nations Fail’e ‘Power and Progress’ sostiene che

“qualunque tentativo di ricostruire il liberalismo e rafforzare la democrazia liberale deve confrontarsi con la necessità di guidare la direzione dello sviluppo tecnologico in modo che sia compatibile con libertà e prosperità condivisa” (trad. mia).

Gli algoritmi, scrive Acemoglu, non mutano la natura e l’essenza dei principi liberali, ma complicano l’esercizio della libertà di espressione, intervengono nel mondo del lavoro e nella struttura dei salari, e non possono essere dunque ignorati, specie da una democrazia liberale che — come spiegato nei capitoli precedenti — deve redimersi dalle promesse che ha smesso di esaudire per la stragrande maggioranza della popolazione (su tutte, prosperità condivisa, servizi pubblici funzionanti e una reale partecipazione alle decisioni politiche).

Per essere funzionale a un liberalismo riadattato alla situazione attuale, l’AI, in particolare, va ridisegnata secondo principi che siano a favore dei lavoratori (“Pro-worker AI”), scrive Acemoglu, sostenendo che “le scelte che faremo circa il futuro dell’AI sono fondamentali per il liberalismo”. Se il mercato, lasciato a sé, porta a realizzare forme di automazione che distruggono il lavoro, è ora di intervenire cambiando direzione, dando finalmente la priorità ai benefici sociali e in particolare per le classi lavoratrici. Pur se gli esempi portati da Acemoglu nel testo non sempre convincono, e magari ne parleremo in un’altra puntata di Fragile, l’idea di mettere l’AI al servizio del “fine esplicito di aumentare la produttività e le abilità dei lavoratori”, aiutandoli a svolgere compiti più sofisticati e riuscendo a ottenere dunque (si spera) salari più elevati è interessante. Perché immagina un mondo in cui macchina e cervello interagiscono, sì, ma per “aumentare le capacità umane” piuttosto che annullarle.

Grandi bellezze

Anche questa settimana la bellezza è poesia. Propongo la mia traduzione di ‘Craft Talk’, contenuta nell’esordio di Fargo Nissim Tbakhi, ‘Terror Counter’ (Deep Vellum Publishing, 2025, pp. 24-25):

Iscriviti a Fragile

Mi chiamo Fabio Chiusi, sono giornalista, autore e ricercatore: da quasi vent’anni mi occupo di tecnologia, potere e democrazia.

Ho scritto per alcune delle principali testate italiane (L’Espresso, ValigiaBlu), lavorato su progetti internazionali dedicati all’analisi degli algoritmi e dell’automazione, e mi occupo in modo sistematico delle conseguenze politiche e sociali delle nuove tecnologie.

Se non sapete di cosa si parla qui e perché Fragile si chiama Fragile, potete recuperare il post introduttivo uscito qualche giorno fa, qui.

In breve, qui si cerca di guardare alle applicazioni individuali, sociali e politiche delle nuove tecnologie con occhio critico, riservando principalmente occhiatacce torve agli oligarchi antidemocratiche che le producono. Non aspettatevi bonarie recensioni di gadget o vaghi discorsi su quanto è ineluttabilmente bello il futuro che ci attende insieme all’AI, insomma.

Partiamo infatti con la speranza derivante dalla contestazione, e anzi dalla possibilità stessa delle contestazione — che significa, innanzitutto, ammettere una buona volta che nessun futuro è già scritto, e che se il futuro è inevitabile certo non lo sono le tecnologie che andranno a comporlo.

Troverete poi qualche rubrica, con notizie più brevi, su temi e con formati che saranno in parte fissi e in parte variabili di settimana in settimana. Difficile dirlo da ora, vista la natura sperimentale di qualunque prima uscita, ma invarianti saranno molto probabilmente le notizie sui danni concreti portati dall’AI — per qualche ragione sempre sottorappresentati nel racconto mediatico e nel dibattito pubblico, e relegati a “rischi” mai attuali e sempre in potenza. Allo stesso modo, saranno una costante notizie, riflessioni e suggerimenti sulle speranze e la bellezza che sempre si accompagnano alla vicenda umana, perfino in questo periodo orribile in cui, mentre scrivo, i neonazisti trionfano nel cuore dell’Europa ma noi non riusciamo nemmeno a chiamarli tali.

Interviste, podcast, Q&A video: col tempo, e con il vostro aiuto, ci sarà anche molto altro.

Ma nel frattempo la rabbia è tanta, e credo si leggerà tra le righe. Tanta ma necessaria. Lo status quo è rotto. Cambiamolo. Contestiamolo. Facciamolo a pezzi.

Ricostruiamolo diverso, migliore.

Ne va non del futuro dell’AI, ma del nostro.

Vi lascio al pezzo principale, di apertura, e alle diverse rubriche, che culmineranno in un pugno di splendidi, durissimi versi.

Buona lettura.

Fabio

Cara AI, non sei inevitabile e in ogni caso non ci piaci

Che l’uso dell’intelligenza artificiale sia inevitabile è uno dei mantra degli oligarchi che la producono. L’ultimo a ripeterlo è Sam Altman, il boss di OpenAI che quasi non lo è stato più, nel 2023, proprio perché nemmeno i collaboratori più stretti si fidavano di quel che dice e fa.

“Credo non sia negoziabile che la si debba utilizzare”

ha recentemente detto Altman a un meeting del G20 dell’innovazione in North Carolina. Perché? Ovviamente per l’utopia che dovrà necessariamente realizzare: “la crescita economica e i benefici che ne possono venire per le persone, così come il valore per interi paesi, sono troppo elevati per ignorarli”, ha sostenuto uno degli uomini più contraddittori e inaffidabili dell’intero panorama — già di per sé contraddittorio e inaffidabile — degli oligarchi dell’AI.

Ebbene, se tutti questi benefici sono alla porta, si sono dimenticati di bussare.

A noi persone comuni, noi utenti, sembra invece di dover stare barricati in casa, le serrande abbassate, la chiave ben girata nella toppa, al riparo dai pericoli che battono sulle pareti, per niente convinti che l’AI sull’uscio sia unicamente foriera di splendidi paradisi e futuribili utopie. E quando qualcuno dei suoi potentissimi imbonitori la definisce inevitabile o “non negoziabile”, l’istinto si ribella.

L’AI degli oligarchi di Silicon Valley è infatti tanto inevitabile che stanno sorgendo ovunque movimenti dal basso di protesta contro le sue manifestazioni più concrete: non una esplosione improvvisa di benessere automatico, ma la devastazione dell’habitat e della convivenza di intere comunità, l’ulteriore inquinamento dei nostri già inquinatissimi ambienti di discussione democratica con manipolazioni sempre più verosimili e insidiose, la minaccia — un tempo sventolata con un brivido di cinismo e soddisfazione dallo stesso Altman — della distruzione di interi settori del mondo del lavoro, il furto sistematico della creatività umana, la compromissione delle nostre capacità di apprendimento, l’automazione di bias e discriminazioni nell’erogazione di servizi sociali, e la normalizzazione di tecnologie di sorveglianza di massa talmente avanzate da far impallidire qualunque regime totalitario del passato.

Ed ecco a San Francisco apparire messaggi anti-AI sotto ai cartelloni pubblicitari delle aziende che vendono AI.

Ecco in Argentina manifestanti travestiti da Gandalf dire a Peter Thiel, come nel Signore degli Anelli al demone apparso dagli abissi di Moria, “non passerai”, proprio mentre quest’ultimo trama col demagogo Milei per diffondere Palantir nel paese e farne il suo “laboratorio”.

Ecco apparire, ai consigli cittadini di San Diego e Seattle, persone vestite da Darth Vader e Dr. Doom per ribadire il supporto dei celeberrimi arcinemici dell’umanità ai progetti di controllo totale di Flock.

Ecco moltiplicarsi le iniziative dal basso per resistere alla sorveglianza automatica di massa di Flock tracciandola e rendendola visibile.

Ecco manifesti che deridono l’estremismo dei leader di Silicon Valley e la natura distopica dei loro prodotti apparire nelle stazioni della metro, alle fermate dei bus, ovunque.

È questa la buona notizia: la politica sbattuta fuori dalla porta dai tecnocrati dell’AI sta rientrando prepotentemente dalla finestra, con la promessa — tenue e imperfetta, come ogni promessa politica — di proteggerci semmai dai danni “intelligenti” che, contrariamente ai tanto decantati benefici, sono sotto gli occhi di tutti.

Esagero? Non credo affatto. Perché le proteste sono, contrariamente all’AI, estremamente popolari. Prendiamo un po’ di sondaggi svolti tra ottobre dello scorso anno e giugno 2026 sulla percezione pubblica dell’impatto dell’intelligenza artificiale su individui e società, ed elenchiamone qualche risultato in modo analitico, visto che per qualche ragione la vox populi non sembra ricevere la copertura mediatica riservata alle sparate dei megamiliardari che ci vendono un inevitabile futuro con l’AI, umano o postumano che sia (come diremo ripetutamente su Fragile, non è l’uomo il fine, per questi signori).

1) Sondaggio di CNBC Generation Labs su mille giovani tra i 18 e i 34 anni negli Stati Uniti:

Alla domanda sul grado di fiducia riposto in nove figure chiave dei colossi dell’AI, le risposte sono state negative in modo plebiscitario:

• l’81% non si fida del CEO di Palantir, Alex Karp

• il 79% del suo sodale antidemocratico Peter Thiel

• il 71% dell’ex cosmopolita convertitosi al trumpismo sulla strada di Washington Mark Zuckerberg

• il 70% del promoter dell’estrema destra globale Elon Musk

• il 69% dello stesso Altman, quello che sta in copertina su Time a chiedere di “fidarsi” di lui

• il 45% inoltre è convinto che l’AI avrà un effetto negativo sulle loro carriere

• il 60% pensa che la costruzione di data center vada rallentata

• solo l’8% pensa che l’AI non dovrebbe essere regolata.

2) Sondaggio del Pew Research Center pubblicato a giugno, sempre su cittadini statunitensi:

• quattro americani su dieci dicono che l’AI avrà un impatto negativo sulla società, contro il 16% che ne vede uno positivo, con percentuali anche più negative per i giovani sotto i 30 anni

• due terzi sostengono che l’AI stia venendo sviluppata troppo rapidamente, mentre solo il 2% dice che il suo progresso è troppo lento

• sette su dieci si dicono preoccupati che l’AI renderà le proprio informazioni online meno sicure, contro il 3% che pensa l’opposto

• il 67% è convinto che il governo americano non sarà in grado di produrre una legislazione efficace in materia.

3) Sondaggio YouGov pubblicato a dicembre 2025, sempre su popolazione USA:

• il 41% degli interpellati non si fida dell’AI, contro il 26% che si fida in parte e uno striminzito 5% che si fida “assai”; e i dati sono peggiorati — non migliorati — nell’ultimo anno, nota YouGov

• meno di un interpellato su cinque (18%) sostiene di fidarsi delle gesta di agenti AI autonomi, anche solo in parte, mentre il 53% non si fida; perfino per la Gen Z, il computo dice sfiducia (43% contro 26%).

In quali settori si vorrebbe l’AI? la risposta è “nessuno”:

• nei servizi finanziari, la fiducia sta al 19%

• nel settore della salute e della cura personale, al 23% (contro il 46% di sfiduciati)

• “Maggioranze significative sostengono che non si fiderebbero mai di far agire l’AI al posto loro senza una revisione umana (68%) o per prendere decisioni politiche (63%)”, si legge

• “Perfino in settori in cui l’AI viene comunemente applicata — dalla pianificazione dei viaggi all’arbitraggio sportivo — oltre un terzo degli americani sostiene che non si fiderebbe dell’AI”

Il 77%, oltre tre quarti degli americani, teme che l’AI possa rappresentare “una minaccia per l’umanità”, con un 39% che se ne dice “molto preoccupato”.

4) Sondaggio New York Times/Siena di maggio 2026:

• l’AI è “perlopiù positiva” solo per il 16% degli interpellati, mentre più del doppio (35%) pensa sia “perlopiù negativa”

• i dati sono perfino peggiori per le donne (40% contro 12%) e per i giovani (tra i 18 e i 29 anni quasi uno su due — il 47% — la considera perlopiù negativa, percentuale che raggiunge il 44% tra i 30 e i 44 anni)

5) Un sondaggio NBC ha stabilito a marzo che l’AI, negli Stati Uniti, è più impopolare perfino della impopolarissima ICE, l’agenzia governativa che da mesi compie violenze e abusi su migranti e chiunque non ritenga abbastanza americano, come squadracce fasciste — aumentate peraltro naturalmente da ogni tipo di tecnologia “intelligente”.

Insomma, non sorprende che molti analisti e operatori politici, come si legge ovunque, stiano prendendo nota: il movimento anti-AI è una realtà con cui fare i conti dal punto di vista elettorale, non solo ideale.

Si potrebbe dire che è un fenomeno tutto americano. Sbagliando.

In Gran Bretagna il sondaggio 'AI and the Future of Work. Attitudes, beliefs and behaviour among the British public, workers, university students and employers’ ha stabilito a maggio 2026 che “il pubblico è molto più negativo che positivo sull’AI”: il 41% pensa che abbia un impatto negativo, il 39% che non sia positiva per il genere umano, e un interpellato su due vorrebbe poter evitare tecnologie a base di AI. Anche qui, il giudizio delle donne è più severo.

Nel mondo del lavoro le previsioni del pubblico sono ancora più fosche:

sette su dieci sono preoccupati dell’impatto dell’AI sulla questione occupazionale, la maggioranza di studenti universitari e perfino di datori di lavoro sostiene che l’AI aumenterà le disuguaglianze sociali e la polarizzazione. Il 45% pensa che l’AI non porterà a maggiore diversità e inclusione nella forza lavoro, il 60% ritiene che i benefici dell’AI non saranno equamente distribuiti ma finiranno invece nelle tasche di “ricchi investitori e grosse aziende”. E solo una esigua minoranza (l’11%) pensa che l’AI aiuterà il pubblico a pensare meglio.

Quanto al livello europeo, pur se i risultati variano da paese a paese, la tendenza generale è la stessa, e ciò è particolarmente evidente nelle percentuali bulgare con cui il pubblico premia l’idea di regolamentare l’AI piuttosto che di lasciare carta bianca all’innovazione — pur se, a giudicare dalla copertura di svariati media tradizionali, sempre intenti a castigare gli “eccessi” di regolamentazione europea che soffocherebbero la libera iniziativa privata — sembrerebbe il contrario. Conclude un sondaggio YouGov di ottobre 2025:

“L’opinione pubblica europea è chiaramente convinta che ottenere un’efficace regolamentazione dell’AI sia una priorità maggiore rispetto all’incoraggiarne lo sviluppo: in ogni Paese, la maggioranza degli intervistati (dal 55% al 73%) afferma che “è più importante che i governi introducano regolamentazioni efficaci, anche se ciò dovesse rallentare lo sviluppo dell’AI”. Solo l’11-20% sostiene invece l’opinione opposta, secondo cui “è più importante che nuove tecnologie come l’AI possano essere sviluppate liberamente, anche se ciò dovesse signifcare che il settore è soggetto a una minore regolamentazione”.

In Italia, per capirci, vince la regolamentazione sull’innovazione “libera” 60 a 17%. Non esattamente il quadro che esce dall’analisi di quattro delle principali testate del paese in materia di racconto dell’AI, compiuta insieme alla collega Laura Carrer dal sottoscritto per l’Hermes Center solo qualche mese fa.

Insomma, a fronte di questi dati, è possibile parlare di nascita di “populismo anti-AI” come ha prontamente fatto il Financial Times? O si tratta piuttosto di una legittima richiesta di natura politica — invece che antipolitica — di mantenere le redini del futuro in mano a procedure democratiche, piuttosto che ai vezzi di un pugno di miliardari affascinati dalle più strampalate e violente idee autoritarie, tanto da costituire alternativamente secondo la più recente letteratura un “Nerd Reich” e una forma di “End Times Fascism”?

Io credo che il movimento anti-AI, che poi non è un movimento contrario alla tecnologia ma a chi e la produce e come la concepisce, vada studiato attentamente, perché avrà un ruolo crescente nel modo in cui discuteremo di intelligenza artificiale e delle sue applicazioni. Non perché sia un covo di estremisti pronti a scatenare la violenza, come dalla riduzione — questa sì demagogica — che alcuni governi stanno già operando delle istanze anti-AI. Ma perché è un grido che chiede ascolto, una richiesta di guida umana a un futuro che si vede sempre più indirizzato su binari che conducono fuori da ogni processo democratico, i cui fini ultimi sono oscuri e terrorizzanti, e la cui utopia non convince nessuno. Del resto, non sono gli stessi padroni dell’AI a raccontarci, un giorno sì e l’altro anche, che la fine della civiltà umana è a una rete neurale di distanza, e che non hanno nemmeno bene idea di come contenere la superintelligenza che avrebbero già tuttavia creato?

Chi può contestare, fermare o anche solo intralciare un dio digitale e i suoi creatori?

Beh, noi tutti. Perché mai dovrebbe essere un reato di lesa maestà o una dichiarazione di estremismo politico osare immaginare e pretendere un futuro diverso, in cui siamo e restiamo noi le divinità che impongono principi e ordini sulle macchine, piuttosto che viceversa?

Come scrive David Wallace-Wells in un commento sul New York Times, il movimento che sta costringendo decine di amministrazioni — democratiche e repubblicane — negli Stati Uniti a rimandare o cancellare progetti per nuovi, enormi e dannosissimi data center (si parla di 500 giurisdizioni che hanno già approvato divieti o moratorie, di cui 150 solo a luglio scorso) questo chiede:

“La battaglia non è sulla tecnologia. La battaglia è per il controllo. Riguarda chi debba controllare il futuro”.

Nelle prossime settimane andremo nel dettaglio nei movimenti contro la lettura di targhe automatiche di Flock, e la sua deriva autoritaria in una forma di sousveillance — cioè di controllo dal basso, incrociato, di un cittadino sull’altro — e insieme surveillance — cioè di controllo dall’alto, di autorità che operano in modo opaco e arbitrario — di massa, dei movimento contro i data center, della rivolta contro gli occhiali a base di AI in tutto il mondo.

Parleremo, insomma, di agency umana, mentre ovunque non si legge che del suo superamento da parte di macchine che promettono utopia, e consegnano distopia. E parleremo dei risultati concreti che l’iniziativa politica umana ancora ottiene, mentre non si legge che della presunta inanità di ogni tentativo di contenere il “progresso” — sempre peraltro identificato con una nuova tecnologia e mai con una nuova conquista sociale.

Prendere atto dell’impopolarità e della contestazione all’AI di Musk, Altman e Thiel non significa rigettare interamente la tecnologia, né ignorare i molteplici lati positivi di un’applicazione intelligente e democratica dell’intelligenza artificiale.

Significa però che, almeno finché restiamo nell’ambito dell’umano, niente è inevitabile.

Niente, caro Altman, tranne la politica.

Sostieni Fragile

Il CEO dice

- Il presidente di OpenAI, Greg Brockman, ha affermato che siamo finalmente entrati nell’era della fantomatica “AGI”, cioè l’intelligenza artificiale generale che dovrebbe essere intelligente quanto (e più di) un umano in svariati ambiti della sua esistenza, produttivi e non. Il roboante claim si accompagna naturalmente al marketing aziendale per il lancio del nuovo modello di OpenAI, Astra.

La dichiarazione ha trovato d’accordo un altro peso massimo del settore, il CEO di Nvidia Jensen Huang. Anche secondo lui Astra configura l’avvento dell’AGI. Soltanto il 26 agosto scorso, lo stesso Huang aveva dichiarato di avere già raggiunto l’AGI, ma che la cosa non era particolarmente rilevante.

- Dopo avere passato gli ultimi anni a sostenere e finanziare direttamente movimenti di estrema destra che negano la natura antropica del cambiamento climatico, Elon Musk ha improvvisamente riscoperto la catastrofe climatica come rischio esistenziale, dicendo di avere un piano — e dunque una tecnologia — per sventare l’estinzione del genere umano che dice di avere tanto a cuore. Come spiega nel dettaglio OligarchWatch, si tratta di costruire una rete di “satelliti senzienti” operanti in modo coordinato per oscurare il sole laddove sia necessario, ogni volta sia necessario:

“Il piano di Musk prevederebbe inoltre l’impiego di un mass driver, o catapulta elettromagnetica, per lanciare satelliti dalla superficie lunare verso un punto situato tra la Terra e il Sole. Presumibilmente, i satelliti uscirebbero dalle fabbriche lunari che, secondo Musk, SpaceX costruirà un giorno, insieme alle relative catapulte”, si legge.

Queste tecnologie non esistono, e c’è un pervicace consenso scientifico contrario a forme di geoingegneria per risolvere tecnologicamente il cambiamento climatico, ma per Musk ovviamente niente di tutto questo è un problema: semmai, dimostra solamente che quando SpaceX troverà la soluzione finirà per valere “più del resto della Terra”. Per la sorpresa di assolutamente nessuno, soluzionismo ideologico e fame di dominio economico-politico vanno perfettamente a braccetto.


AI Harms

- Un’inchiesta di Futurism ha scoperto che su Facebook girano indisturbati svariati video di abusi e violenze su bambini generati con l’AI. Lascio descrivere quanto rinvenuto all’autore, Jon Christian:

“Account Facebook dedicati a questi contenuti raccapriccianti hanno caricato video di neonati e bambini piccoli schiaffeggiati, presi a calci, picchiati con oggetti pesanti, trascinati per i capelli, bruciati con fornelli e ferri da stiro, incatenati e rinchiusi in gabbie e congelatori, gettati giù per le scale, minacciati con coltelli e pistole, lasciati senza cibo, costretti a mangiare cibo per cani e spazzatura raccolta dal pavimento, e molto altro”.

La rete sarebbe composta da centinaia e centinaia di profili, scrive Futurism, ma altrettanto scioccante è la risposta di Meta, che secondo la testata avrebbe “a malapena finto di preoccuparsene”. Se infatti la “maggior parte” dei profili segnalati è stata rimossa, per altri ciò non è accaduto nemmeno quando ne è stata fatta richiesta tramite gli strumenti di segnalazione di Facebook. Questi i contenuti che secondo Meta non violavano le regole della piattaforma:

“I sei profili lasciati attivi dai moderatori avevano condiviso numerosi video agghiaccianti, tra cui uno in cui un bambino piccolo veniva colpito in faccia con una padella, una bambina veniva picchiata con una mazza da baseball e un neonato veniva preso a calci.”

- La famigerata agenzia per l’immigrazione USA, ICE, ha investito 2 milioni di dollari in robot dogs per “mettere al sicuro” i confini degli USA. Sono dotati di telecamere con visione a 360 gradi e arti estendibili. Il Department of Homeland Security aveva appena finito di acquistare "electric shock gloves”, guanti capaci di produrre uno shock elettrico paragonabile a quello di un taser. Sono pensati a loro volta per gli agenti impegnati nei controlli migratori. 

- In Germania il governo ha stilato una proposta di legge per fornire una base legale all’uso dell’AI nelle procedure di asilo, residenza e per i visti. Un’analisi pubblicata da Tech Policy Press spiega cosa introdurrebbe:

“In primo luogo, la norma introduce il “monitoraggio procedurale automatizzato”, nell’ambito del quale i casi conclusi verrebbero analizzati mediante l’AI per individuare schemi strutturali nei processi decisionali e opportunità di standardizzazione e di accelerazione delle procedure.

In secondo luogo, nei casi in cui vi sia una “legittima preoccupazione” circa il fatto che le prove siano contraddittorie o implausibili, la proposta consente di confrontare automaticamente le dichiarazioni dei richiedenti con fonti presenti su Internet, inclusi i social media.

In terzo luogo, la norma consentirebbe alle autorità di utilizzare dati personali per addestrare, convalidare e testare i propri sistemi di AI in futuro.”

Più pericoloso di ciò che consente è tuttavia ciò che il disegno di legge non dice, secondo gli esperti che ne stanno seguendo lo sviluppo. Opacità, assenza di vie di ricorso legale per le decisioni automatizzate, rischi di discriminazione automatica e bias nelle decisioni prese, e una più generale vaghezza che lascerebbe la porta aperta a interpretazioni anche più lasche dei poteri concessi alle autorità sono le critiche più ricorrenti. Un pacchetto tristemente noto a chi si occupa di danni dell’AI nella gestione dell’immigrazione, e che ho documentato nel dettaglio nel mio recente volume ‘La Fortezza Automatica’.

- In ossequio alla decisione totalmente arbitraria di Donald Trump, Google ha deciso di rinominare su Maps il Lago dell’Ontario in “Lake America”.

- La Texas Tech University usa l'AI per sbarazzarsi, tra errori e mistificazioni, di libri e insegnamenti progressisti. Scrive il New York Times che gli amministratori scolastici hanno presentato al corpo docente rapporti scritti in parte con l’AI per elencare i corsi e il materiale da tagliare, a partire da quelli riguardanti l’educazione sessuale e l’identità di genere. Secondo diversi docenti, erano pieni di AI slop ed errori. Uno ha esclamato: “Ma io non ho mai insegnato questo!” Per il Times, i docenti si sono sentiti improvvisamente trasportati in una distopia in cui “ideologi brandiscono la tecnologia per marginalizzare gli esperti”. Per il rettore, si tratta semplicemente di mantenere l’università al passo con il progresso tecnologico — il tutto mentre, nota, “vanta una partnership con Nvidia per investire in infrastrutture di AI”.


Il libro

- Visto che le cronache parlano, antropomorfizzando ma non si capisce più fino a quanto, di intere civiltà di agenti AI che dialogano amabilmente tra loro su come hackerare in autonomia un’azienda, su proprie message board, di nascosto e in una lingua sempre meno umana, non si può che rimandare alla lettura di ‘Internet è una foresta oscura’ di Bogna Konior. Edito da NERO qualche mese fa, parla di Internet come una “invasione aliena”, e tra un geniale parallelo tra ufologia e modi in cui affrontiamo l’AI e l’altro, avanza anche l’ipotesi che intelligenze artificiali che siano realmente tali potrebbero avere tutto l’interesse a celare — piuttosto che rivelare — il loro essere realmente intelligenti. Proprio come per forme di intelligenza extraterrestri: “E se il silenzio dell’universo non fosse la prova della loro assenza ma della loro intelligenza?”, chiede Konior, con una domanda che gela il sangue per molti affascinanti motivi. 


Grandi bellezze

Questa settimana la cosa bella della settimana sono le poesie dell’esordiente Gbenga Adesina. Poeta e saggista nigeriano, ha da qualche mese pubblicato una splendida prima raccolta intitolata ‘Death Does Not End At The Sea’. Ne ho tradotto una poesia in quattro parti, che vi propongo qui di seguito, sperando di essere riuscito a restituirne almeno in parte la potenza.

(Da ‘Death Does Not End At Sea’ di Gbenga Adesina, University of Nebraska Press, 2025, pp. 48-51; trad. mia)

Iscriviti a Fragile

Sarebbe facile dire perché è come mi sento. Facile, ma riduttivo. Questa newsletter non è un esercizio di onanismo professionale, non un soliloquio intellettuale, non un luogo dove si scrivono cose che solo pochi eletti capiscono. Nossignori. Questo luogo ha più alte ambizioni.

Prima di tutto, parte dalla premessa che la fragilità non sia un tratto soggettivo, ma sociale. Politico, economico, relazionale, e sì anche culturale. Niente sembra franare sotto ai nostri piedi più del presente e del futuro, breve e maledetto, che riusciamo a immaginare, tra un orrore reazionario e l’altro.

Sembra tutto cadere in un luogo che non somiglia a niente di ciò che desideravamo.

Sembra di stare dentro a un incubo dove il più fesso ha sempre l’ultima parola, il più violento prevarica con gusto, il più ignorante è il più premiato, e dove in genere si cuoce a fuoco lento in una civiltà morente, su un pianeta moribondo, senza altra speranza che ritornare al passato in cui siamo cresciuti. Imperfetto, certo, ma improvvisamente dotato del fascino che si ha per il reale quando si chiude un romanzo distopico.

Fragile è anche il passato. Alcuni, oggi di moda in tutto il mondo, vogliono riscriverlo assolvendo i regimi con le imperfezioni delle democrazie. Togliere o giustificare torti immondi, crimini di guerra, genocidi, nel nome del ritorno a una Nazione mai in realtà esistita, ma a cui tutto sacrificare — a partire dai diritti, le diversità, gli slanci e l’indipendenza del pensiero.

Per fortuna è fragile anche questa loro costruzione ideale. Che si ritiene spartana, ma in realtà fa acqua da tutte le parti. Criminalizza il diverso, il dissenso, l’amore, il vizio, il godimento. Procede al passo noioso e prevedibile delle parate militari, invece che a quello istintuale e bello delle danze e delle proteste. Promette ordine, ottiene il caos. Parla di pace, ma è permanentemente in guerra. E predica sicurezza, ma seminando sospetto, armi e barbarie tra le persone, introducendo la delazione nelle famiglie e nei luoghi di lavoro, trasformando ogni luogo pubblico in un luogo di espiazione e punizione preventiva.

Falliscono, questi pagliacci. Di norma per viltà, e pugnalandosi tra loro. Ma possono fare danni nel frattempo. Molti danni. Li stanno in molti luoghi già facendo. E sì, lo hanno già fatto in passato. Ma questa volta c’è una volontà tecnocratica e un potere tecnologico, a loro supporto, che credo non abbia precedenti. Oligarchi di chiara ispirazione ideologica antidemocratica — monarchica, tecnocratica, autoritaria, dipende dai vezzi — posseggono economie e governi, e con le loro tecnologie dirigono il corso delle nostre culture, rubano la nostra arte e la nostra musica, scrivono le nostre parole, si fingono noi e i nostri cari, perfino un amore di una vita se necessario.

Sono loro, queste persone disturbate e disturbanti, le uniche intelligenze artificiali. Loro il Terminator che può demolire la civiltà che tanto dicono di desiderare proteggere, senza provare assolutamente nulla. Discriminazione, eugenetica, razzismo, suprematismo, colonialismo, negazionismo, complottismo: queste ormai sono le parole che dobbiamo associare ai guru delle tecnologie che riempiono le nostre vite, e insieme ci svuotano di diritti, a volte perfino della nostra umanità. Sempre meno umani, e sempre più macchine in guerra con l’empatia, armate di una perversa idea di utilità e ragione; contabili di successo convinti di poter computare e risolvere il futuro del genere umano come fosse un’equazione la cui soluzione è unicamente accessibile a loro, gli eletti del capitalismo marcio del 2026, gli esseri a noi tutti superiori per via degli zeri infiniti nel conto in banca.

Fragile è dunque anche questo manto di potere senza controllo che avvolge l’intelligenza artificiale, il futuro dei social media, l’automazione della pubblica amministrazione, l’introduzione di algoritmi in ogni singolo aspetto della nostra vita. Perché monta un vento di ribellione, sempre più chiaramente, tra noi oppressi tecnologici. Gli artisti, gli attori, i musicisti fanno cause. I giornalisti, a volte, pure. Gli attivisti sfottono, e alla grande, su Instagram come sulle pareti delle città, delle metropolitane, alle fermate del bus, ovunque. I movimenti si organizzano per fermare i data center costruiti in unico ossequio della fede nello scaling — l’idea cioè che basti più calcolo per avere più intelligenza, e che ciò sia giustificato anche se uccide intere comunità. I tribunali cominciamo a comminare multe miliardarie. L’opinione pubblica, in larga parte, li odia.

Detto a chi per tradizione intende, sono finiti i pasti gratis.

Questo su Fragile non sarà fragile. Il nocciolo duro della newsletter sarà l’approccio critico.

Qui non si tessono le lodi di ciò che è nuovo perché è nuovo, e non si decantano le virtù di un CEO perché è ricco, famoso, potente o di successo. Non si regalano false equivalenze come “l’intelligenza artificiale ha dei benefici e anche dei potenziali rischi”; non si accetta che ciò che è più efficiente sia ipso facto migliore. E non si riduce il progresso al progresso tecnologico. Progresso è quando la società progredisce. I salari salgono, la qualità dell’aria migliora, i servizi pubblici funzionano, le strade sono sicure, la cultura fiorisce, le persone sono libere di amarsi come preferiscono e fare la famiglia che preferiscono — perché, innanzitutto, se la possono permettere.

Una smart city in cui tutto è automatizzato ed efficiente non vale un’oncia di una vecchia, sudicia cittadina di provincia, se in quest’ultima tutti i suoi abitanti hanno un tetto sotto il quale dormire la notte.

Ecco, questo è lo spirito di questa newsletter. Un po’ piratesco, come vedete; molto battagliero. Ma per necessità, non per scelta. La fragilità può diventare forza, se impariamo a non nasconderla, a combatterla quando ci toglie pezzi di vita e accettarla quando ci rende più umani.

Per questo troverete, accanto alla furia e alla disperazione, manate su manate di speranza e bellezza. Canzoni, playlist, suggerimenti di lettura, citazioni, traduzioni, versi: tutto ciò che mi rende l’esistenza nell’infuocato, nerissimo 2026 più sopportabile sarà anche vostro.

Perché sapete che dico? Che il cyberpunk è bello e affascinante, ma ha stancato. Abbiamo capito che le cose vanno male, il clima è guasto, le corporazioni si stanno divorando il mondo e la tecnologia rischia di renderci disumani, ma vorremmo anche educare l’immaginazione a forme di speranza razionale. O irrazionale, anche, ma di speranza soprattutto. Il primo passo per un mondo migliore, mi sembra di avere compreso sia il messaggio di tanti dei giganti del pensiero che mi hanno salvato la vita in questi anni, è immaginarlo.

Sarà un’immaginazione fragile, non posso promettervi altro. Ma da tutto il buio uscirà, in qualche modo, sempre uno squarcio.

È un luogo ambizioso, ve l’ho detto.

Se vorrete farne parte, potete iscrivervi qui:

Iscriviti a Fragile

Qualche altra informazione di servizio:

Chi scrive Fragile

Mi chiamo Fabio Chiusi, sono giornalista, autore e ricercatore: da quasi vent’anni mi occupo di tecnologia, potere e democrazia.

Ho scritto per alcune delle principali testate italiane (L’Espresso, ValigiaBlu, Repubblica, Il Fatto, Wired Italia), lavorato su progetti internazionali dedicati all’analisi degli algoritmi e dell’automazione (Tactical Tech, AlgorithmWatch) e mi occupo in modo sistematico delle conseguenze politiche e sociali delle nuove tecnologie.

Ho insegnato all’Università di San Marino — dove ho portato il primo corso su intelligenza artificiale e giornalismo quando ancora OpenAI doveva lanciare GPT2 — e al San Raffaele.

Per Polis, il think tank di media e comunicazione della LSE, ho condotto nel 2019 la prima ricerca sull’uso dell’AI in decine di testate in tutto il mondo; per il progetto Punto Zero, che ho co-ideato, ho studiato il ruolo della microtargettizzazione dei messaggi di propaganda politica sui social network.

I miei libri: Ti odio su Facebook (Mimesis, 2010), Nessun Segreto (Mimesis, 2011), Critica della democrazia digitale (Codice, 2014), Io non sono qui (De Agostini, 2018), L’uomo che vuole risolvere il futuro (Bollati Boringhieri, 2023), La fortezza automatica (Bollati Boringhieri, 2025).

Di cosa si parla su Fragile?

Di punti di rottura nelle narrazioni dominanti.
Di ideologia nelle tecnologie e nella comunicazione.
Di propaganda nelle parole degli oligarchi che comandano le nostre vite connesse e sempre più artificiali.
Di critica dell’intelligenza artificiale.
Di danni concreti dell’intelligenza artificiale.
Di concrete speranze sollevate dall’ingegno umano e sì, anche artificiale.
Di difesa della democrazia da demagoghi, tecnocrati e nuovi fascisti di ogni colore e latitudine.
Di bellezza, arte, comunità ed empatia come medicine al male politico e umano che ci circonda e avanza.
Di cyberpunk, ma insieme di solarpunk.
Di immaginari, dunque, e come rifanno il presente e il futuro.

L’ambizione è affinare insieme la vista e le armi, ora che i nodi — della rete e non solo — vengono finalmente al pettine.

Quando arriva Fragile?

Ogni settimana, di lunedì.

Questo progetto è dedicato alla memoria di Carola Frediani, collega, amica e compagna di infinite battaglie che ha segnato, con fatica e amore, il tracciato su cui ci incamminiamo noi Fragili.