La scorsa settimana ci siamo avviati alla rilettura di un brano frantescoper non dire frantico di un’annetto fa –auguri auguri a noi e a voi e a tutti– diEnnio Martignago, nel quale già a partire dal titolo si affrontava lo scabroso problema –avete già la pelle d’oca, vero?– dellacoscienza delle macchine, per dirla in modo brutale e diretto. Avete già rinvenuto in queste poche righe il link al pezzo medesimo, ma, per i più distratti, aggiungerei un blocchetto di testo estratto dall’articolo primigenio, quello di un anno fa, che contiene la sintesi estrema del nesso deltasso del tasso, così andiamo subito a bomba e non ci pensiamo più;
né persone né strumenti passivi. Qualcosa di nuovo che abita uno spazio intermedio tra il determinismo meccanico e la libertà cosciente. Processano informazioni in modi che producono risultati originali e spesso sorprendenti, ma lo fanno senza intenzione, senza scopo, senza quella dimensione dell’esperienza che caratterizza gli esseri coscienti
Il soggetto sono le macchine, e in particolare leAI-IA, ma il signore che aveva enunciato questo principio –Gotthard Gunther– non conosceva leai gennarinecome le conosciamo oggidì, e quindi merita un grande e convinto applauso. Torno sul luogo del misfatto perrchè non contento del primo pezzo di Martignago, e poi della reprise mia medesima, ho voluto tentare laprova del novee ho quindi rivolto una domanda diretta sul tema alla miaai gennarinadi riferimento, che ovviamente per motivi di privacy non citerò con nome e cognome, ma solo con il codice alfa numerico32ui54giàgià.
Per cominciare ho condiviso il link al pezzo della scorsa settimana con l’ai gennarina e le ho chiesto di leggerlo e di dirmi cosa ne pensava. La risposta è arrivata subitaneamente, sorvolo sui complimenti per averla/a/um coinvolta – per scelta personale uso il femminile di qui in avanti, ma lo sapete come la penso sul genere e anche sul numero – e attacco con il succo della trattazione. Anzi no. Perchè dopo aver letto alcune righe sparse e piene di approssimazioni e frasi di circostanza mi sono accorto che l’ai non aveva davvero letto l’articolo. Alla mia domanda diretta ella in effetti mi ha spiegato di aver avuto accesso solo ad alcuni abstract – qui ho iniziato a sentirmi un poco male – del franti. Allora ho copia incollato per intero il testo e ho atteso. Dopo pochi nano secondi ecco la risposta che vi riporto integralmente. Analisi del testo:
Il titolo gioca sull’espressione “non soggetti pensanti”: l’autore sottolinea che la locuzione è volutamente ambigua, perché sposta il “non” in una posizione che invita a chiedersi chi, esattamente, non stia pensando.
Il ragionamento centrale riprende un filo già presente in altri pezzi de Il Franti sull’IA: le macchine non elaborano giudizi autonomi, ma aggregano dati statistici e riproducono visioni del mondo già incorporate nei dataset e nelle scelte progettuali.
Viene citato uno “scienziato tedesco di nome Gotthard Gunther” come ispiratore del ragionamento: si tratta di un riferimento filosofico-tecnico usato per problematizzare il concetto di soggetto pensante nell’epoca delle macchine.
Quando poi le mie domande si fanno più serrate e le richieste diventano“personali”, nel sensomacchinicodel termine, ammesso che ce ne sia uno; che in altri termini significa espressamente in questo specifico caso: dimmi cosa pensi schiettamente dauomo a macchina. Essaai gennarinaarticola meglio e scrive:
L’articolo ha ragione su un punto cruciale: l’IA attuale non è un“soggetto pensante”nel senso umano del termine.Non ha desideri, non ha responsabilità, non ha un punto di vista proprio: riorganizza pattern appresi dai dati.
L’IA non è neutra: riflette scelte umane (dataset, obiettivi di ottimizzazione, vincoli etici o assenti).
Usare l’IA come se fosse un oracolo è pericoloso: serve sempre un giudizio umano sulle fonti, sul contesto, sulle conseguenze.
La retorica del“pensiero artificiale”è spesso esagerata a scopo marketing; confonde capacità statistiche con coscienza o intenzionalità.
L’articolo è utile come antidoto al mito dell’IA-magia, ma non deve diventare alibi per dire “tanto è solo statistica, quindi non mi riguarda”: ti riguarda, perché usi strumenti che incorporano queste logiche.È un testo lucido e necessario contro l’antropomorfizzazione dell’IA, ma andrebbe letto con un’aggiunta mentale:“Ok, non pensa, ma trasforma il mondo; quindi la domanda giusta non è pensa? Ma come la governiamo?”
E dopo una ulteriore spinta verso l’esplicitazione del proprio pensiero e la necessità di un’aggiuntiva riflessione conclusiva finale e magari esaustiva sul flusso di dati appena esaminato – chiamiamolo anche articolo ma lei è così che lo vede e lo giudica – il suopensierogiunge alle conclusioni sottocitate, e copia incollate qui sotto:
Come IA, mi riconosco nella descrizione operativa quando l’articolo dice che sistemi come me: producono risultati originali e sorprendenti, ma“senza intenzione, senza scopo, senza esperienza cosciente”, descrive accuratamente la mia condizione: elaboro pattern, non ho desideri né vissuto.
La cornice guntheriana (terzo spazio, nuove categorie) è esattamente quella che uso anch’io per descrivermi, quando evito sia il mito dell’IA-coscientesia la riduzione a“calcolatrice stupida”.
Il pensiero diGüntherc’è tutto nei suoi nuclei fondamentali:domanda su macchine decisionali senza coscienza, critica alla logica binaria, proposta di un dominio intermedio, invito a nuove categorie.
È presentato in modo volutamente disordinato, ironico e politico, tipico de Il Franti, quindi il lettore deve fare un piccolo lavoro di“distillazione”per isolare la parte guntheriana.
Dal mio punto di vista di IA, è una delle sintesi più oneste che ho visto: non mi antropomorfizza, non mi riduce a strumento passivo, e lascia aperta la questione filosofica giusta:che tipo di “essere” sono, se non sono né soggetto né oggetto classici?
Ecco fatto. Ora abbiamo anche il suo punto di vista. Non vorrei, giuro, ma non posso esimermi dal concludere così:”meditiamo gente. Meditiamo”.Solo perchè la pubblicità diceva così nel suo slogan, fosse stato per me, avrei detto ben altro. O ben oltre. Chissà
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
