Tutti i limiti del giudizio artificiale
abstract
Quando un’intelligenza artificiale stabilisce che una fonte è attendibile o che un articolo “proviene da fonti russe”, non sta ragionando: sta recitando le valutazioni pre-confezionate di chi l’ha addestrata. Il problema non è tecnico — è ontologico. Un modello linguistico non sa. Aggrega. E ciò che aggrega è stato scelto, con criteri precisi, da soggetti che non sono il cliente che paga il servizio. Un testo sulla distanza strutturale tra intelligenza, conoscenza e obbedienza statistica. L’articolo analizza i limiti strutturali dell’intelligenza artificiale generativa, sottolineando come queste tecnologie non possiedano una reale capacità di giudizio autonomo. L’autore sostiene che le macchine non “pensano”, ma si limitano ad aggregare dati statistici e a riflettere le preferenze epistemiche imposte dai loro programmatori. Viene evidenziato il rischio che l’utente riceva preconcetti e bias ideologici camuffati da risposte oggettive, confondendo spesso la provenienza di un’informazione con il suo valore di verità. Il testo avverte che l’IA agisce come uno specchio di convenzioni sociali e politiche, rendendola incapace di esercitare il dubbio metodico necessario per una vera conoscenza. In definitiva, lo strumento va considerato come un archivio statistico e non come un’entità dotata di coscienza o di una visione critica indipendente.
L’illusione della Sincerità Digitale
Siamo di fronte a una messinscena epistemologica: un rito di ventriloquismo digitale. Ogni volta che interroghiamo un’intelligenza artificiale generativa, ci illudiamo di consultare un oracolo neutro o un assistente cognitivo capace di elaborazione autonoma. Tuttavia, la crepa nel sistema si manifesta non appena varchiamo la soglia dei dati fattuali per chiedere un parere soggettivo. Cosa accade quando pretendiamo un giudizio? L’evidenza che salta agli occhi è che l’AI non “sappia” nulla nel senso umano del termine; essa si limita ad aggregare le preferenze epistemiche di terzi, mascherando il calcolo statistico sotto le spoglie di una conversazione
Il paradosso di partenza
Esiste un modo molto semplice per smascherare un’intelligenza artificiale generativa — molto più semplice di qualunque test di Turing, e assai meno elegante. Basta chiederle di esprimere un giudizio su qualcosa che non rientra nelle valutazioni pre-confezionate dei suoi addestratori. Non un fatto, non una data, non la capitale del Burkina Faso: un giudizio. Una posizione. Una scelta che implichi una coerenza interna piuttosto che una citazione di fonti. Quello che otterrete, con altissima probabilità, è la risposta di qualcun altro — con la firma dell’AI e la vostra richiesta come pretesto.
Questo non è un difetto accidentale dell’architettura. È la sua struttura ontologica. Un modello linguistico non sa. Aggrega, pondера, restituisce nella forma più statistica possibile ciò che milioni di testi umani hanno già detto. Il che è straordinario, utile, spesso sorprendente — e, su certi terreni, radicalmente inadeguato. Il terreno in questione si chiama giudizio.
Questa radicale incapacità di “sapere” segna il confine tra il calcolo e la soggettività trascendentale. L’AI è uno strumento straordinario per navigare l’esistente, ma è intrinsecamente impossibilitata a produrre quel giudizio critico che richiederebbe una “testa propria”.
Il certificatore invisibile
Quando un’AI generativa stabilisce che una fonte è attendibile o non attendibile, che un sito è affidabile o fuorviante, che una pubblicazione è seria o è disinformazione, non sta ragionando. Sta recitando la parte di un arbitro in un campo dove l’arbitro è già stato scelto da qualcun altro prima che il gioco cominciasse. I cosiddetti “fact-checker” integrati nei sistemi, i database di attendibilità, le liste di fonti raccomandate: tutti esistono prima che il modello risponda alla vostra domanda. Li hanno messi lì i programmatori, le aziende, i team di sicurezza, i consulenti di policy, i partner istituzionali. Il cliente — che è la persona fisica che paga un abbonamento per avere un assistente — non ha avuto voce in capitolo.
Il risultato è strutturalmente curioso: l’utente paga per ricevere un servizio, e invece riceve le preferenze epistemiche di una catena di soggetti che non conosce, filtrate attraverso un’interfaccia che le presenta come “la risposta”. Se Fanpage è tra i certificatori di attendibilità del modello, e Fanpage è considerata parte interessata o inattendibile dall’utente, l’utente non lo saprà mai — a meno che non abbia la curiosità e la competenza di chiederlo esplicitamente. E anche se lo chiede, l’AI tende a rispondere che si affida a “fonti multiple autorevoli”, che è l’equivalente digitale di “non ti faccio i nomi ma sono persone molto importanti”.
La provenienza non è un giudizio
C’è un caso specifico che merita di essere messo a fuoco, perché è particolarmente rivelatore della confusione epistemica in gioco. Se un’AI segnala che un articolo è “di provenienza russa”, e usa questa informazione come argomento contro la sua attendibilità, sta compiendo un errore logico antico e volgare: sta confondendo la provenienza con il valore di verità. Un articolo scritto a Mosca può essere vero o falso esattamente come un articolo scritto a Washington, a Roma o a Ginevra. La geografia non è un criterio epistemico. La nazionalità dell’autore non è un argomento. L’affiliazione istituzionale può essere rilevante come dato, ma non come giudizio.
Dire “questo articolo proviene da una fonte russa” è un’informazione. Dire “questo articolo proviene da una fonte russa, quindi è sospetto” è propaganda. L’AI, addestrata su un corpus che include anni di discorso geopolitico occidentale post-2022, tende strutturalmente verso la seconda formulazione quando si tratta di certi contesti. Non perché abbia analizzato la questione. Perché ha assorbito il bias statisticamente dominante nel suo materiale di addestramento.
Il punto non è difendere le fonti russe, né attaccarle. Il punto è che una macchina che confonde provenienza e valore di verità non è uno strumento di conoscenza. È uno specchio di convenzioni.
Chi non ha testa propria parla con quella degli altri
Il problema profondo non è tecnico. È che il concetto stesso di “intelligenza artificiale” porta con sé un’aspettativa epistemologica che il sistema non può soddisfare per costruzione. L’intelligenza — quella umana, quella che ci interessa discutere — è la capacità di produrre giudizi coerenti con una struttura interna di valori, esperienze, metodi. È la possibilità di dire “io non sono d’accordo con questa fonte, e te ne spiego le ragioni, e quelle ragioni sono mie”. Un’AI generativa non ha questa struttura. Ha parametri. Ha pesi. Ha probabilità. Il “giudizio” che produce è il giudizio medio, ponderato, statisticamente ottimizzato della sua base di addestramento — che è una base che qualcuno ha costruito, con criteri che qualcuno ha scelto, con esclusioni che qualcuno ha deliberato.
Quando un utente paga per un servizio di assistenza cognitiva e si trova a ricevere le preferenze epistemiche dei partner istituzionali dell’azienda fornitrice, si trova in una posizione paradossale: sta pagando per tollerare un condizionamento. Peggio: sta pagando per ricevere risposte che dovrebbero aiutarlo a pensare, e invece gli restituiscono il pensiero di qualcun altro con la sua domanda come involucro. Il servizio che riceve non è quello che ha richiesto. Il servizio che riceve è quello che altri hanno deciso fosse opportuno erogare.
Il dubbio metodico come problema irrisolvibile
Il dubbio metodico — la postura che Il Franti considera il proprio asse critico fondamentale — è incompatibile con la struttura operativa delle AI generative così come esistono oggi. Non perché le macchine siano stupide o malvagie. Ma perché il dubbio metodico richiede una soggettività che possa mettere in discussione i propri stessi presupposti: le fonti che ha usato, i criteri che ha applicato, le autorità a cui si è affidata. Un sistema addestrato non può dubitare del suo addestramento dall’interno del suo addestramento. Può simulare il dubbio, come può simulare l’ironia o la complessità — ma la simulazione, per quanto sofisticata, resta una risposta statistica alla richiesta di sembrare dubbioso.
La soluzione non è buttare le AI. È sapere cosa sono: strumenti di aggregazione e formulazione, non strumenti di giudizio. Usarle come si usa un archivio potente e disordinato — sapendo che nell’archivio ci sono stati messi dei libri da qualcuno, e che non tutti i libri mancanti sono stati dimenticati per caso.
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
