Dove Il Franti smonta il mito dell’“intelligenza” e delle “allucinazioni” delle macchine
Sono passate un paio d’ore. Il ragazzo con la chioma rossa e riccia ha guidato un gruppo di autostoppisti nella rilettura degli appunti sulla terza via. Altri si sono sparsi per la piazzola, alcuni sono andati all’autogrill, altri semplicemente se ne stanno seduti a guardare il paesaggio, chi passa e il cielo, senza smartphone in mano.
Il Franti torna come promesso, e con un tono di voce armonioso del solito dice: «Ricordate la conversazione sulla forchetta? Usare gli strumenti quando servono, non tenerli sempre con noi?»
Annuiscono tutti.
Il Franti continua: «Bene. Ora dobbiamo fare un passo oltre. Perché c’è un tipo di strumento che è più insidioso degli altri. Uno strumento che non si limita a occupare il nostro tempo o le nostre tasche.»
Altra pausa. Gli sguardi sono tutti su di lui.
«È uno strumento che vuole occupare la nostra mente. E lo chiamano “Intelligenza Artificiale”.»
Si alza e inizia a camminare avanti e indietro, come quando sta per dire qualcosa di importante.
Il Franti alza la voce: «Ragazzi, chi sceglie le parole, orienta il pensiero. E qualcuno ha scelto parole molto furbe per venderci questi aggeggi.»
Si ferma, guarda il gruppo.
Intelligenza artificiale: l’origine di un nome
Il Franti riprende: «Sapete perché li chiamano “intelligenza artificiale”? Perché se li chiamassero “calcolatori statistici di probabilità linguistiche” nessuno li comprerebbe. E non è un caso: nel 1955 un certo John McCarthy doveva convincere la Rockefeller Foundation a finanziare un progetto di ricerca. Serviva un nome accattivante, che facesse colpo. E così, nella proposta di finanziamento, inventò l’espressione “artificial intelligence“.1»
Fa un sorriso ironico: «E sapete la cosa bella? Lo stesso McCarthy, anni dopo, disse che avrebbe preferito chiamarla “intelligenza computazionale”. Ma riconobbe anche che quel nome accattivante aveva attratto più gente al settore. Insomma, il marketing aveva funzionato fin troppo bene.»
Il marketing funziona così: cambi il nome, cambi la percezione. E noi, settant’anni dopo, abbiamo ancora abboccato.»
Il Franti: «”Intelligenza artificiale”. Raga, smettiamola di chiamare così questi strumenti! Stiamo creando una confusione enorme, di linguaggio e di significato.»
Fa una pausa, si alza e inizia a camminare avanti e indietro come quando sta per dire qualcosa di importante.
Il Franti riprende: «Pensateci bene. Questi aggeggi non hanno nulla di intelligente. Sono macchine. Computer programmati. Certamente sono “artificiali”, nel senso che sono prodotti dall’uomo, non esistono in natura. Ma “intelligenti”? Andiamo!»
Il ragazzo con la giacca blu interviene: «Ma tutti li chiamano così…»
Il Franti scuote la testa con energia: «E tutti sbagliano! O meglio: qualcuno ha scelto di chiamarli così per venderli meglio, e noi abbiamo abboccato. È marketing, non descrizione della realtà.»
Si ferma, lo sguardo si fa più intenso.
Il mito delle “allucinazioni”
Il Franti continua: «E c’è un’altra parola che mi fa impazzire: “allucinazioni”. Avete sentito, vero? “ChatGPT ha avuto un’allucinazione”. Ma che cavolo significa?»
La donna con i capelli grigi annuisce: «Sì, lo dicono quando dà risposte sbagliate…»
Il Franti batte la mano sul metallo del furgone: «Esatto! E sapete perché questa parola è pericolosissima? Perché le allucinazioni le hanno gli esseri umani. Quando diciamo che una macchina “ha le allucinazioni”, stiamo implicitamente dicendo che ha una mente, una coscienza, qualcosa che può “vedere cose che non esistono”. Ma è una macchina!»
Fa qualche passo verso il gruppo.
Il Franti spiega: «Guardate, la faccenda è semplice. Questi sono computer programmati per dare una risposta. Hanno “in pancia” una quantità enorme di informazioni, e il loro compito è generare una risposta. Sempre. Che sia giusta o sbagliata, devono rispondere. È il loro programma che viene eseguito.»
La ragazza con la giacca verde, quella che aveva capito subito la metafora della forchetta, interviene: «Quindi quando sbagliano non è un'”allucinazione”, è semplicemente… un errore di calcolo?»
Il Franti sorride soddisfatto: «Brava! È una risposta sbagliata generata da un programma. Punto. Niente di più misterioso o antropomorfico.»
Si siede di nuovo sul paraurti, il tono diventa più riflessivo.
Il Franti aggiunge: «Ma c’è un secondo punto, ancora più importante. Se chi usa lo strumento non ha il dominio del sapere su quello che sta chiedendo, prenderà per buone anche le risposte sbagliate. E il problema è suo, non della macchina.»
Un silenzio pensieroso cala sul gruppo.
Il Franti prosegue: «E se poi le chiama “allucinazioni”, ancora peggio! Il problema è suo, che è allucinato lui, credendo di “parlare” e “conversare” con qualcosa che ha intelligenza e creatività umane. È un computer programmato, ragazzi. Non un interlocutore.»
(Continua)
Note:
¹ Secondo il Professor Noel Sharkey dell’Università di Sheffield, McCarthy avrebbe preferito chiamare la disciplina “Computational Intelligence” piuttosto che AI. Fonte: BBC News, 2011 – https://www.bbc.co.uk/news/technology-15444222
³ Nel 1955 la Rockefeller Foundation finanziò con $7.500 il progetto di McCarthy al Dartmouth College, dove nacque il termine “artificial intelligence”. Fonte: https://www.rockefellerfoundation.org/perspective/seventy-years-after-the-birth-of-ai-the-work-begins/ I dettagli del progetto Dartmouth
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
