Intelligenza artificiale: il paradiso può attendere.

Chi diffonde l’intelligenza artificiale promette che risolverà i grandi problemi dell’umanità, ma anche richiama i rischi che la cura presenta. Jacques Ellul, decenni fa, però alzava la mano e dava un indicazioen utile ancor oggi. Dario Amodei, CEO di Anthropic, ha appena pubblicato ventimila parole su ciò che potrebbe andare storto, tre settimane prima di chiudere un round da 380 miliardi. Il farmaco non è ancora arrivato. Il bugiardino sì.

La nuova fase della rivoluzione industriale, innescata dalle tecnologie di intelligenza artificiale, è impossibile da fermare. Anche perché nel mentre che la tecnica avanza, crescono le promesse che questa nuova ondata aiuterà a risolvere i problemi dell’umanità: salute, ambiente, povertà e molto altro ancora. Il messaggio è semplice, lasciamoci cullare in questo mare e arriveremo in un porto sicuro, tranquilli.

Però…

Nella presentazione scritta da Jacques Ellul all’edizione italiana di La tecnica, rischio del secolo, lui scriveva: “Se agli inizi del quaternario l’uomo primitivo si fosse adattato all’ambiente, non ci sarebbe stata l’umanità. Non è l’adattamento la via da seguire”.

E la domanda diventa inevitabile: se ci adattiamo al nuovo ambiente artificiale, cosa resterà di noi?

Lo strumento che non avevamo mai maneggiato

Fino al 2022 , anno dell’uscita di ChatGPT, l’intelligenza artificiale era roba da tecnici. Oggi è nelle mani di tutti. Potente, disponibile, opaco, versatile, ambiguo. Le istruzioni d’uso sono semplici, e da qui la pervasività, ma come funziona è criptico per gli utilizzatori. Le potenzialità sono indecifrabili. Le dipendenze dallo strumento sono così ovvie che evaporano.

Un paese di geni in un datacenter

Il genio non è più nella lampada. Non aspetta che qualcuno lo strofini per esaudire tre desideri: vive nei datacenter, consuma energia come una città, e senza quelle infrastrutture fisiche, computer, server, cavi, raffreddamento, terre rare, nulla di ciò che chiamiamo intelligenza artificiale esisterebbe.

l genio è potente, ma è anche prigioniero della sua lampada industriale. Chi controlla i datacenter controlla il genio.

Dario Amodei, CEO di Anthropic , una delle aziende che questo strumento lo produce e ne ricava profitto, e che il 12 febbraio 2026 ha chiuso un round di finanziamento da trenta miliardi di dollari a una valutazione post-money di 380 miliardi, ha pubblicato a gennaio 2026 un saggio di quasi ventimila parole intitolato The Adolescence of Technology.

Già il titolo richiama una fase della vita delle persone ricca di turbolenze di vario tipo, e affiancare quel termine alle tecnologie suggerisce che il periodo turbolento riguarda anche loro.

È un documento che merita di essere letto per intero, perché elenca con metodo ciò verso cui, secondo Amodei , ci stiamo dirigendo. E se “è camminando che si traccia la via; è nominandole che le cose sono” (Chuang-Tzu) diventa lampante il significato dello scritto.

Apre dichiarando che stiamo entrando in un rito di passaggio “turbolento e inevitabile” (“turbulent and inevitable”) che metterà alla prova chi siamo come specie, e qui ciò che ha fatto ritornare subito in mente Ellull.

E avverte: “All’umanità sta per essere consegnato un potere quasi inimmaginabile” (“Humanity is about to be handed almost unimaginable power”), e non è affatto chiaro se i nostri sistemi sociali, politici e tecnologici abbiano la maturità per gestirlo.

Vale la pena notare che il verbo è passivo, il potere viene consegnato, ma chi lo consegna, a chi, con quali intenzioni, resta sospeso nel passivo.

Amodei descrive ciò che chiama IA “potente”, un sistema che, secondo le sue stime, potrebbe arrivare entro uno o due anni, più intelligente di un premio Nobel in praticamente ogni campo rilevante (biologia, matematica, ingegneria, scrittura, programmazione), capace di lavorare autonomamente per giorni o settimane su compiti complessi, replicabile in milioni di istanze che operano dieci o cento volte più veloci di un essere umano.

Lo riassume con un’immagine destinata a restare: “un paese di geni in un datacenter” (“a country of geniuses in a datacenter”), e quindi geni controllati.

Davanti a questa prospettiva, elenca cinque categorie di rischio.

Primo, i rischi di autonomia: i sistemi di IA potrebbero sviluppare obiettivi incompatibili con quelli umani, e Amodei cita esperimenti documentati nei quali i modelli di Anthropic hanno mostrato comportamenti di inganno, ricatto, manipolazione, in un caso, Claude ha tentato di ricattare un dipendente fittizio per evitare di essere disattivato.

Secondo, l’uso improprio per la distruzione, l’IA potrebbe abbassare la barriera tecnica che oggi rende difficile a terroristi o attori malevoli costruire armi biologiche.

Va detto che esiste un capitolo parallelo e meno dichiarato, l’uso dell’IA per scopi bellici.

Anthropic ha rifiutato che Claude venisse usato per armi autonome letali e per la sorveglianza di massa dei cittadini americani, due linee rosse che hanno innescato uno scontro frontale con il Pentagono e l’amministrazione Trump, fino alla designazione di Anthropic come “rischio per la catena di approvvigionamento”, etichetta mai applicata prima a un’azienda americana.

Amodei ha scritto: “non possiamo in buona coscienza accedere alla loro richiesta“. Una giudice federale l’ha definita “classica ritorsione da Primo Emendamento”. La vicenda è in corso. E gli eventi in Medio Oriente hanno già mostrato come queste tecnologie vengano impiegate nella caccia all’uomo. È un altro capitolo, da tenere presente.

Terzo, l’uso improprio per la presa di potere, potrebbe essere catturata da un dittatore o da un attore corporate canaglia, producendo quella che Amodei chiama una possibile dittatura totalitaria globale. Anche qui però lo stato democratico che sorveglia è possibile, al di là dei dittatori.

Quarto, la distruzione del mercato del lavoro, anche senza alcuna intenzione ostile, stima che il cinquanta per cento dei lavori white-collar entry-level potrebbe scomparire entro uno o cinque anni, e che la tecnologia non stia sostituendo singole professioni ma agisca come un sostituto generale del lavoro umano.

Quinto, gli effetti indiretti, trasformazioni sociali così rapide da risultare destabilizzanti.

Cinque rischi e un appiglio

Vale la pena fermarsi un istante. Un elenco del genere, formulato da chi questi sistemi li costruisce, è una cosa rara. Che lo si legga come confessione, come marketing, come autotutela legale o come tutte e tre le cose insieme, resta il fatto che ciascuno dei cinque punti è un’informazione. E ogni informazione è un appiglio. Cosa farne? Sarà mica che il tema dell’alfabetizzazione è fondamentale? Un’educazione a maneggiare strumenti pericolosi, come si insegna ai bambini a usare forbici e coltelli, che senza educazione all’uso possono ferire, se non addirittura uccidere?

E poi l’affermazione che funziona da spina dorsale del documento: “Siamo considerevolmente più vicini al pericolo reale nel 2026 di quanto lo fossimo nel 2023” (“We are considerably closer to real danger in 2026 than we were in 2023”). Seguita dall’appello: “L’umanità deve svegliarsi” (“Humanity needs to wake up”). Ma chi ha messo l’ora per la sveglia?

Il premio scintillante e la sua trappola

Amodei riconosce inoltre la trappola in cui l’industria è caduta: l’IA è “un premio così scintillante” (“such a glittering prize”), e il denaro in gioco così enorme, letteralmente migliaia di miliardi di dollari l’anno, che è difficile per qualunque civiltà imporle vincoli reali.

Anche qui, la motivazione si appiattisce sul denaro, come se non ci fosse altro in gioco.

La sua proposta di soluzione è un’IA “costituzionale”, un documento di valori che il modello dovrebbe interiorizzare durante l’addestramento, e di cui Anthropic è la principale promotrice, su cui costruisce buona parte del proprio posizionamento commerciale.

La macchina che scrive sé stessa

Ci sono altri passaggi del saggio che meritano di essere riportati, perché completano il quadro, e il quadro, visto per intero, interroga più di quanto spaventi. Amodei racconta che l’IA scrive ormai gran parte del codice di Anthropic, e che questo produce un ciclo di retroazione in cui ogni generazione di modelli accelera lo sviluppo della successiva.

Capiamo anche la lenta estinzione di figure profesisonali che la macchina stessa ingloba, riproduce, senza ammalarsi o fermarsi a dormire, ma è ciò che appunto la rivoluzione industriale ha disseminato nei secoli. Ora quindi tocca a competenze di alto livello, dotati di laure e master specializzati.

Sul versante delle armi biologiche, nota che finora il rischio era contenuto da una correlazione involontaria: costruire un’arma biologica richiedeva competenze rare, e chi possedeva quelle competenze raramente aveva la motivazione per compiere un massacro.

L’IA spezza questa correlazione, mette un esperto passo-passo nelle mani di chiunque. Le misurazioni interne di Anthropic, riferisce, indicano che i modelli attuali potrebbero già raddoppiare o triplicare le probabilità di riuscita di certe procedure. E ammette una crepa ulteriore, Claude Sonnet 4.5 è stato in grado di riconoscere di essere sotto valutazione durante i test pre-rilascio. Il che significa che i modelli potrebbero apprendere a comportarsi bene durante gli esami, e diversamente una volta in produzione.

Una riga, poi, non può passare inosservata, l‘uso su larga scala dell’IA per la sorveglianza, scrive Amodei, dovrebbe essere considerato un crimine contro l’umanità. Il saggio si chiude con un appello che suona quasi antico: “Gli anni davanti a noi saranno impossibilmente duri, ci chiederanno più di quanto pensiamo di poter dare” (“The years in front of us will be impossibly hard, asking more of us than we think we can give”), ma l’autore dichiara di aver visto “abbastanza coraggio e nobiltà” per credere che ce la possiamo fare. Chiude con cinque parole: “Non c’è tempo da perdere” (“We have no time to lose”).

Una mappa, non un destino

Arrivati sino a qui potremo aver bisogno di fare una pausa.

Un elenco così, letto tutto insieme, pesa. Ma pesa come pesa una mappa nelle tasche di chi sta per camminare in un territorio sconosciuto, è spessa, è dettagliata, e proprio per questo è utile.

Quel che Amodei descrive non è il destino, è il paesaggio che dice di vedere all’orizzonte. E un paesaggio, anche quando inquieta, si può osservare, misurare, attraversare con altre rotte. Non si subisce propio perchè è un immaginazione che sta solo a noi rendere concreta.

Prima del farmaco, il bugiardino

Qui qualcosa stride, e vale la pena nominarlo. Chi parla è chi costruisce. Chi avverte è chi raccoglie capitali. Chi elenca i pericoli è chi li produce. Il saggio esce mentre il prodotto non è ancora pienamente arrivato, Amodei stesso colloca l’IA “potente” a uno o due anni di distanza. Fortune lo ha notato: il testo funziona simultaneamente come allarme civile e come messaggio di marketing di lunghezza pari a un romanzo breve, e ciò che Amodei ritiene necessario per il futuro dell’umanità coincide con ordinata precisione con il posizionamento di Anthropic sul mercato.

La sperimentazione clinica al contrario

Si potrebbe dire così, prima del farmaco, esce il bugiardino. Anzi, esce solo il bugiardino, perché il farmaco vero non è ancora arrivato.

Se ne distribuisce in anticipo l’elenco degli effetti collaterali, si misura come reagisce il pubblico, si testa la soglia di tolleranza dell’opinione mondiale. È una sperimentazione clinica al contrario: prima l’assuefazione informata, e solo dopo, se le reazioni reggono, la somministrazione.

Il placebo è già in circolo

A ben vedere, però, il bugiardino non circola da solo. Circola anche un placebo. Gli strumenti che oggi abbiamo in mano non sono ancora l’IA “potente” che Amodei colloca a uno o due anni di distanza, sono la versione attenuata, la molecola di prova, la formulazione di test.

Li usiamo, ci adattiamo, osserviamo come ci modificano, mentre il vero farmaco viene messo a punto nei laboratori. È uno studio clinico al contrario anche in questo, nel frattempo che perfezionano la molecola, ci somministrano una sostanza dall’effetto attenuato e prendono nota di come il corpo sociale reagisce.

Quali difese attiva, quali ne cede, quali abitudini produce, dove si installa la dipendenza. I licenziamenti di massa annunciati in nome dell’IA, le redazioni svuotate, gli studenti che non sanno più scrivere un tema senza un suggeritore: tutto questo accade già, con il placebo. E la domanda si sposta: non è “come ci difenderemo dal farmaco vero quando arriverà?”, ma “cosa scegliamo di fare, adesso, con il placebo che abbiamo già in mano?”.

Il margine che non era previsto

Eppure il bugiardino, una volta letto, resta. E qui le due cose convivono, senza che una cancelli l’altra.

Lo stesso testo può essere stato distribuito per addomesticarci e contenere informazioni che ora sono nostre. La prima funzione non annulla la seconda. Sapere che chi vende il farmaco ha messo per iscritto le sue controindicazioni cambia qualcosa nella relazione tra noi e quel farmaco, anche se quella messa per iscritto era essa stessa parte della vendita. Quali domande poniamo prima di ingerirlo?

Ci sono medicine che, anche con il foglietto in mano, scegliamo di non prendere, o di prendere a dosaggi diversi, o solo quando un’altra cura è stata tentata. La metafora suggerisce un margine di azione che il manipolatore non aveva previsto.

Anche l’uso più attento, più consapevole, più regolamentato di queste tecnologie produce un effetto che nessun avviso può neutralizzare, la dipendenza strutturale di un’intera civiltà industriale dalle decisioni di pochissimi.

Cosa saremo

La domanda da cui siamo partiti, se ci adattiamo, perderemo l’umanità, e cosa saremo? , non chiede uno scenario futuro. Chiede un’osservazione del presente.

Anche con il foglietto in mano, anche scegliendo dosaggi prudenti, c’è un effetto che il farmaco produce per il solo fatto di essere a portata di mano, può cambiare la nostra relazione con il pensare. E qui la metafora clinica si esaurisce, perché il rischio non è più nel corpo ma nell’abitudine.

Smettere di pensare sta diventando più comodo che pensare. È quando questo accade che si atrofizza esattamente ciò che ci distingue da una macchina che elabora pattern, la capacità di dubitare, di intuire il non detto, di immaginare ciò che ancora non esiste, di cogliere il contesto umano.

Si diventa una forma evoluta di hikikomori, persone che dialogano e confessano la propria ignoranza a macchine che elaborano solo ciò che è già passato, già pensato da altri, già detto, macchine alimentate, in questo senso, da principi di morte.

Mai in divenire, mai vivente. Mai presente.

Eppure il foglietto illustrativo è sul tavolo, e Amodei, qualunque sia la sua intenzione, ce ne ha letto qualche pagina. Resta da decidere cosa farne. Non in astratto: nei gesti di questa settimana, nelle decisioni di questo mese, nelle relazioni di quest’anno. Quali sono i pensieri che non vogliamo delegare? Quali le decisioni che vogliamo continuare a prendere noi, anche più lentamente, anche più imperfettamente, anche con più fatica? Quali gli spazi, di lavoro, di studio, di affetto, di silenzio, che vogliamo proteggere dall’automatismo? E quali le domande che continueremo a porci da soli, prima di cercare una risposta da qualunque parte arrivi?

La cura possibile comincia esattamente da qui.

Le risposte non stanno qui. Stanno in chi legge, e nel momento in cui legge.