“Intelligenza artificiale”, qui parliamo di una cosa sola, ovvero i programmi che scrivono e rispondono in una finestra di testo. Il nome tecnico è LLM, Large Language Model, grande modello linguistico. Sono i ChatGPT, i Claude, i Gemini, i DeepSeek e simili.
Molti di questi sistemi oggi non trattano solo testo, leggono e generano immagini, ascoltano audio, producono voci. E il motore di cui parliamo, quello che genera le parole, funziona come stiamo per raccontare. È il pezzo che decide cosa viene dopo. Tutto il resto gli sta intorno, ed è ciò a cui prestiamo poca attenzione.
E la parola “intelligente” fa un lavoro che non dovrebbe fare: ci fa immaginare dentro la macchina qualcuno che pensa.
Il nome che lavora più della macchina
“Intelligenza artificiale”, scriviamo in italiano, e qualcosa risponde in italiano. Non serve una riga di codice, non servono parentesi, non serve ricordare una sintassi. Per la prima volta nella storia dei calcolatori, l’interfaccia è la lingua materna, si dà un ordine come si chiede un caffè. Ed è l’interfaccia che sembra intelligente.
Nessuno ha chiamato “matematico artificiale” la calcolatrice, come nessuno ha chiamato “lavandaia artificiale” la lavatrice. Se il criterio fosse la prestazione, il nome sarebbe toccato ad altri. Il nome è stato dato per un’altra ragione, perché il programma parla. “Intelligente” qui non è un riconoscimento, è un’anticipazione.
Il termine è stato formalizzato nella proposta del 1955(1), per un seminario estivo del 1956 dove la cosa non esisteva ancora, il nome è nato prima del nominabile. E le etichette, quando arrivano prima dell’oggetto, non chiedono il permesso, ma stabiliscono in anticipo che cosa l’oggetto dovrà essere, e con quale credito.
Citando Zhuang-zi “è camminando che si traccia la via; è nominandole che le cose sono” e siamo quindi arrivati ad oggi.
Le due parole, poi, fanno due lavori opposti. “Artificiale” promette l’imitazione di una natura, è l’azione dell’uomo; “Intelligenza” promette una facoltà sola dove ci sono infinite cose e anche queste umane, ma anche divine. Sommate, producono l’immagine di un dentro che pensa. Ma la macchina non imita la mente, fai dei calcoli e compone, come vedremo di seguito.
C’è infine un lavoro che il nome fa attraverso la grammatica. Diciamo “ha capito”, “ha deciso”, “ha allucinato”. Ogni frase con quel soggetto è un piccolo trasferimento di proprietà, l’intelligenza passa dall’interfaccia alla macchina, e la macchina diventa un soggetto, una agènte“che agisce, che provoca un determinato effetto”.
È il trucco della grammatica: chiamare “agènte” ciò che è solo un calcolo. Da lì discende tutto il resto, compresa l’espressione “l’ha detto l’IA”: una frase senza soggetto umano, che sembra esonerare tutti e non esonera nessuno. Tolta l’etichetta, resta una cosa più piccola e più vera, un programma di calcolo di ultima generazione che si comanda in lingua naturale.
La novità non è che sia intelligente; è che sia usabile da chi non è programmatore.
Chi ha scelto quel nome non ha descritto una macchina, ha emesso un biglietto. Il resto del Novecento lo ha pagato e noi ancora lo si paga.
Proviamo ad aprire il cofano di questa macchina.
FASE 1: LA MECCANICA (Il “Come”)
1. Dentro non c’è una mente. C’è un programma.Prima cosa da togliere dal tavolo: è software. Gira su computer. Non ha corpo, non ha sensi. È un sistema complesso basato su:
- Token:un pezzetto di testo (una parola, un segno di punteggiatura, o uno spazio).
- Addestramento:la fase in cui il programma legge miliardi di testi per aggiustare i propri parametri interni.
- Pesi:miliardi di numeri che determinano come i token vengono combinati.
E qui c’è un punto fondamentale: questi miliardi di pesi li conosciamo tutti, sono scritti in un file. Ma non sappiamo spiegare con precisione perché una loro specifica combinazione produca un certo comportamento.Abbiamo la lista completa delle viti, ma non abbiamo il disegno della macchina.L’opacità non sta nei numeri, ma nel salto tra i numeri e il comportamento.
2. La scomposizione in mattonciniIl computer non “vede” la frase «Come stai?». Prima la spezza in token, in pezzetti. In molti sistemi, le parole vengono divise in pezzi comuni. «Pallone» e «palla» condividono il pezzo «pall». La macchina può così trattare parole diverse come parenti senza sapere cosa siano. La macchina non parte da concetti. Parte da mattoncini.
3. I numeri come indirizziOgni token diventa una fila di numeri, un vettore. Un computer è una calcolatrice gigante. Per darvi un’idea visiva, funziona in questo modo: «cane» → 0,8 / 0,2 / 0,1 «gatto» → 0,7 / 0,3 / 0,1 «penna» → 0,1 / 0,9 / 0,4 Se «cane» e «gatto» compaiono spesso nelle stesse frasi (mangiare, correre), i loro numeri saranno simili. La macchina non sa cos’è un cane; sa solo che la parola “cane” ha un indirizzo numerico vicino a “gatto”. È una vicinanza statistica, non una parentela biologica.
4. La mappa che cambiaIn un modello moderno, la posizione di una parola non è fissa. Attraverso vari passaggi (strati), il valore numerico di un token viene ricalcolato in base alle parole che lo circondano. Se scrivi «pesca», la parola cambierà “indirizzo” sulla mappa se è circondata da parole legate al mare oppure da parole legate alla frutta.
5. L’attenzione: guardare il contestoPer capire quale parola viene dopo, la macchina usa l’attenzione. Ogni token “guarda” quelli che lo hanno preceduto e decide a quali dare importanza. È il meccanismo che permette di collegare dettagli distanti in un testo, proprio come un autore di gialli collega un indizio del secondo capitolo alla rivelazione del trentesimo.
6. Il gioco della previsioneChiunque abbia scritto un messaggio al telefono ha già visto questo gioco, la tastiera propone la parola che viene dopo, tre parole in fila, e voi scegliete. Un LLM fa la stessa cosa, con più memoria, più vocabolario e i numeri al posto delle dita.
La macchina non si chiede cosa sia vero, ma: «quale pezzetto viene dopo, con più probabilità?». Se scrivi «Domani piove, prendo l’…», il sistema calcola che «ombrello» è molto probabile e «mela» quasi zero. Poi estrae a sorte dalla distribuzione. Esiste un parametro, la temperatura, che regola quanto rischiare: bassa per risposte prudenti e ripetitive, alta per risposte sorprendenti.
E quando noi diamo istruzione che il risultato è errato, o lo correggiamo, il sistema probabilistico sposta dei pesi e la prossima volta la percentuale di successo sarà più elevata, se non esatta.
FASE 2: IL DISALLINEAMENTO (Il “Perché sbaglia”)
7. Il trucco dell’assistente: il post-addestramentoUn modello appena addestrato (“grezzo”) si limita a continuare il testo, non risponde. Per farlo diventare un assistente serve il post-addestramento: esseri umani insegnano al modello come comportarsi (essere cortesi, rifiutare domande pericolose, dire “non lo so”). Senza questa fase, il chatbot, così viene riconosciuta la macchina dai più, sarebbe solo un completatore di frasi, come un libro che inizia a metà.
8. L’errore che non si annunciaPrendete una calcolatrice. Chiedete 2+2 e vi risponde 5: direste che è rotta. Premete tasti a caso e vi scriveErrore: vi sta avvisando. Questo programma, invece, non vi avvisa mai. Continua a produrre testo che suona plausibile, grammaticalmente perfetto, anche quando è falso. Quando inventa fatti, si usa il termine “allucinazione”, ma è più onesto parlare diconfabulazione. Il problema non è solo l’errore, è che l’errore ha lo stesso tono di una risposta corretta. Non c’è una spia che si accende. La macchina dà una risposta, è stata programmata per questo.
9. Il limite della memoria e degli strumentiBisogna distinguere tra il Modello (il motore) e il Prodotto (l’app che usi). Lafinestra di contestoè la memoria di lavoro del modello: oltre un certo numero di pagine, lui “dimentica” ciò che è stato detto prima. Glistrumenti(ricerca web, lettura documenti) sono aggiunte esterne. Se il chatbot cita una fonte sbagliata, potrebbe aver pescato male lo strumento di ricerca, non necessariamente fallito il suo calcolo interno.
10. L’eredità dei pregiudizi e la compiacenzaIl modello impara due cose che spesso sono in contrasto, ovvero cosa è frequente nei testi e cosa viene premiato. Dai testi eredita i nostri difetti (pregiudizi e stereotipi); il post-addestramento cerca di correggerli, ma intanto gli insegna anche a dire ciò che l’utente vuole sentirsi dire. Quando vi sembra che vi dia esattamente ragione, spesso è il secondo criterio che sta lavorando.
FASE 3: L’AZIONE (Il “Cosa fare”)
11. Come controllareNon possiamo fidarci ciecamente. Usiamo questi quattro gesti:
- Verifica le fonti:apri i link. Un link non aperto è solo una decorazione.
- Confronta:chiedi la stessa cosa in modi diversi. Se la risposta cambia radicalmente, hai trovato una crepa.
- Diffida dell’autorevolezza:i numeri, i nomi e le date sono i punti dove l’errore ha l’aria della precisione e sembra più credibile.
- Fai il test del “già noto”:chiedi qualcosa che sai già o di cui puoi verificare facilmente il calcolo, per vedere come si comporta quando non sa.
12. Tre cose da ricordare
- Non c’è evidenza che pensi o senta.Non ha coscienza, non ha intenzioni, non ha emozioni. È più simile a un attore bravissimo che recita un ruolo senza provare quello che dice.
- Non ammette di non sapere in modo affidabile.È stato addestrato a dire “non lo so”, ma lo fa senza costanza: spesso esprime con sicurezza anche ciò di cui non è affatto sicuro. Il problema è l’inaffidabilità.
- Ha un limite temporale.Conosce il mondo come era nei testi dell’addestramento. Se il prodotto gli collega una fonte esterna, la legge, ma resta un calcolatore di plausibilità che legge una fonte.
In sintesi
La macchina non capisce come noi. È un esercizio di calcolo statistico immenso. Funziona bene, ma è un attore che recita un ruolo basandosi sulla probabilità. Capire l’errore tocca a noi, per lei quella risposta non è un errore, è il risultato di un calcolo che non sappiamo ricostruire.
E allora la domanda non è «la macchina pensa?», né «la macchina produce allucinazioni?».
È un’altra, più scomoda e più nostra, ma chi, qui, sta facendo la parte di chi controlla?
Ma la domanda, posta così, ha già la sua risposta, la parte di chi controlla la sta facendo il passeggero, ovvero noi.
È la mossa più comoda per chi ha costruito il veicolo: trasformare la verifica in un lavoro non pagato e chiamarlo spirito critico, e nel contempo essere programmatori in incognito di un sistema che poi usiamo, insegniamo alla macchina.
E nel frattempo cosa stiamo costruendo?
Un Golem, una creatura fatta di argilla e parole che prende vita senza avere un’anima?
Un Leviatano, un potere enorme, centrale e quasi inarrestabile che ci governa dall’alto?
O di che altro siamo complici?
Prossima puntata : Perché ci sembra che la macchina pensi
(1)Approfondimento :Intelligenza artificiale: il nome e la promessa
Glossario minimo
- LLM:grande modello linguistico. Il programma che genera il testo.
- Token:l’unità minima di testo (parole o parti di parole) con cui lavora la macchina.
- Vettore:la rappresentazione numerica di un token.
- Pesi:i miliardi di numeri che decidono come combinare i token.
- Addestramento:la fase iniziale di lettura massiccia di testi per impostare i pesi.
- Post-addestramento:la fase di rifinitura per insegnare al modello a comportarsi come un assistente.
- Finestra di contesto:il limite di testo che il modello può “tenere a mente” in una sessione.
- Temperatura:il parametro che regola quanto la risposta debba essere prevedibile o creativa.
- Allucinazione / Confabulazione:termine per indicare una risposta falsa fornita con tono sicuro.
- Attenzione / Transformer:il meccanismo che permette al modello di pesare l’importanza delle parole nel contesto.
Articoli già pubblicati da citare
- L’oracolo dell’intelligenza artificiale è uno specchio
- La confessione della macchina: ripartiamo da dove il Franti ci ha lasciato
- Distanza zero: l’IA tra libertà e dipendenza
- Siamo tutti operatori meccanografici?
- Cos’è un Agente AI (Agentic AI) e perché ci riguarda tutti
- Mi ha telefonato Il Franti: l’arte di regolamentare ciò che non conosciamo
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.



