La Serie: Dalla Cibernetica all’Automazione Cognitiva
abstract
W. Ross Ashby formulò nel 1956 una legge di una semplicità quasi offensiva: per governare un sistema complesso, il sistema di controllo deve possedere almeno la stessa varietà del sistema che intende governare. Solo la varietà può distruggere la varietà. Sette parole, settant’anni d’attesa, e una pratica diffusa di non-applicazione che ha preso il nome generoso di “buon governo”. Ma la sfortuna del cibernetico britannico è anche, e soprattutto, la nostra: ignorare Ashby ha un costo, e il costo si paga in tempo reale. L’asimmetria contemporanea è istruttiva: l’unica entità che ha effettivamente sviluppato una varietà interna degna del nome ashbyano è l’intelligenza artificiale generativa, mentre i suoi interlocutori umani hanno visto la propria varietà cognitiva ridursi sistematicamente per effetto di una mossa a tenaglia tanto efficace quanto poco coordinata: da un lato la semplificazione algoritmica delle piattaforme, dall’altro l’inflazione informativa di Internet che produce non varietà ma stordimento. Risultato: una macchina ad alta complessità messa al servizio della riduzione della varietà cognitiva. Il sintomo più visibile è il successo dei brani composti al millimetro per orecchi disabituati alla sorpresa — cantanti che non esistono e ascoltatori che non se ne accorgono. Ma il dettaglio meno commentato è un altro: anche chi governa attraverso la riduzione si sta impoverendo, perché un sistema di controllo che ha semplificato il proprio governato perde la capacità di percepirne le crisi. Ashby non era un profeta. Era un medico che cercava principi generali e li trovava. La sua legge non è difficile da capire — è scomoda da applicare. Ed è esattamente la cosa che, nel presente, quasi nessuno ha voglia di fare.
Un cibernetico britannico nel 1956 spiega in due righe perché la complessità non si governa con la semplicità. Quasi settant’anni dopo, l’unica cosa che ha sviluppato abbastanza varietà per applicare la sua legge è una macchina che la usa al contrario.
Esiste una forma molto specifica di sfortuna intellettuale: quella di formulare una legge troppo precisa, troppo presto, e troppo poco rumorosa perché qualcuno abbia voglia di applicarla. W. Ross Ashby, medico e cibernetico britannico, appartiene a questa minoranza di sfortunati. Nel 1956, in An Introduction to Cybernetics, enuncia un principio di una semplicità quasi offensiva: per governare un sistema complesso, il sistema di controllo deve possedere almeno la stessa varietà — intesa come gamma di stati possibili, di risposte disponibili — del sistema che intende governare. Only variety can destroy variety. Sette parole, settant’anni di attesa, e una pratica diffusa di non-applicazione che, nei manuali, prende il nome solenne di “buon governo”.
A una prima lettura sembrerebbe la sfortuna di Ashby: scienziato citato a margine, archiviato dagli scienziati sociali, riesumato saltuariamente nei convegni aziendali giusto il tempo della slide di apertura, prima che qualcuno passi a illustrare i tagli al reparto ricerca e sviluppo. In realtà la sfortuna è soprattutto di chi non lo ha letto. Perché ignorare Ashby ha un costo, e il costo lo si paga in tempo reale, con interessi composti.
La legge in due righe, per chi era distratto
Se un sistema complesso — un ecosistema, un organismo, una società, un mercato — può assumere mille stati diversi, allora il sistema che pretende di governarlo deve essere in grado di assumere almeno mille risposte diverse. Meno di mille e qualcosa, prima o poi, sfugge: è un teorema, non un’opinione. È la ragione per cui il sistema immunitario funziona — produce un repertorio anticorpale così vasto da poter rispondere a patogeni che non ha mai incontrato — ed è la ragione per cui ogni task force unica messa di fronte a una crisi multidimensionale finisce, statisticamente, per fare disastri eleganti.
L’errore non è capire male la legge. L’errore è applicarla a metà: aumentare la varietà del messaggio (più canali, più piattaforme, più portavoce) mentre si riduce la varietà delle risposte (un’unica linea, un’unica metrica, un’unico indicatore). È la differenza tra un’orchestra e un altoparlante moltiplicato per dieci. Ashby aveva previsto anche questa scorciatoia, e l’aveva chiamata, con la sobrietà di chi sa di avere ragione, un fallimento.
L’asimmetria che nessuno commenta
Qui arriva la stranezza istruttiva del presente. Negli ultimi anni una sola entità ha effettivamente sviluppato una varietà interna degna del nome ashbyano: l’intelligenza artificiale generativa. In termini cibernetici, certi modelli linguistici hanno raggiunto una gamma di stati interni — di possibili risposte, di possibili angolazioni, di possibili ricombinazioni — paragonabile, in molti domini, alla varietà dei loro interlocutori umani. È un risultato tecnologico straordinario: per la prima volta nella storia, qualcosa di non biologico produce risposte differenziate su una scala che si avvicina, almeno in superficie, alla complessità della domanda.
Il problema è che questa esplosione di varietà sul lato macchina è arrivata a una popolazione di interlocutori la cui varietà interna, nel frattempo, era stata sistematicamente ridotta. È un’asimmetria che andrebbe registrata con la pazienza di un sismografo: il sistema di risposta è diventato ricchissimo, il sistema di domanda si è fatto molto più povero. E quando un sistema ad alta varietà incontra un sistema a bassa varietà, il primo si adatta al secondo. Non perché sia stato programmato così, ma perché la statistica dell’uso lo costringe: l’AI viene impiegata, in massa, per togliere attrito, per confermare aspettative, per accelerare la conclusione già prevista. Non per espandere la varietà di chi la interroga, ma per fornirgli la versione più liscia possibile di ciò che già pensava.
In altre parole: abbiamo costruito, con straordinaria competenza, lo strumento perfetto per applicare la legge di Ashby — e lo stiamo usando per consolidare l’eccezione contraria. Una macchina ad alta complessità messa al servizio della riduzione della varietà cognitiva. Ashby avrebbe trovato la cosa istruttiva. Forse anche divertente, in quel modo asciutto che hanno gli inglesi quando assistono a un disastro evitabile.
La tenaglia, e perché non serve scomodare le cospirazioni
Come ci siamo arrivati? Per una mossa a tenaglia, durata venticinque o trent’anni, e tanto efficace quanto poco coordinata. Da un lato, imprese, media e istituzioni hanno lavorato attivamente per ridurre la varietà esposta al pubblico: algoritmi che ottimizzano la conferma anziché l’attrito, palinsesti calibrati sull’engagement, sistemi educativi orientati alla risposta corretta più che alla domanda perturbante, marketing politico che premia il messaggio univoco. Dall’altro lato, Internet ha prodotto quella che, con un eufemismo, possiamo chiamare inflazione informativa: una quantità di segnali talmente vasta da risultare, paradossalmente, indistinguibile dal rumore. L’overloading non genera varietà — genera stordimento. E uno stordito non naviga la complessità: si aggrappa alla prima superficie solida che incontra.
Le due forze sembrano agire in direzioni opposte — restringere e dilatare — ma producono lo stesso effetto netto: la varietà esperita dall’utente medio si riduce. La prima forza la riduce a monte; la seconda la rende inaccessibile a valle. Risultato: un pubblico che percepisce di avere accesso a tutto e di fatto si muove in spazi sempre più ristretti, scegliendo per esaurimento le scorciatoie che il sistema ha cura di mettergli sotto il naso.
Non serve invocare cospirazioni per descrivere questo meccanismo, e qui sta la sua eleganza inquietante. È sufficiente una convergenza di interessi: per chi vende attenzione, per chi vende prodotti, per chi vende consenso politico, un pubblico con bassa varietà interna è infinitamente più redditizio di un pubblico esigente. Le convergenze di interessi, a differenza delle cospirazioni, non hanno bisogno di riunioni segrete e funzionano benissimo anche se gli attori coinvolti si detestano reciprocamente. È il motivo per cui restano largamente invisibili al dibattito pubblico — che, a sua volta, è ottimizzato per la varietà bassa.
Il sintomo che canta da solo
E poi ci sono i sintomi visibili, quelli che persino una varietà ridotta riconosce come segnali di qualcosa. In tempi recenti, brani musicali generati artificialmente o attribuiti ad artisti la cui identità è irrilevante — quando non del tutto fittizia — hanno scalato classifiche internazionali con una facilità che ha sorpreso persino chi quelle classifiche le confeziona. Il motivo non è misterioso: quei brani soddisfano con precisione millimetrica i gusti di un pubblico che, dopo anni di dieta algoritmica, ha sviluppato un’allergia fisiologica alla sorpresa. Nessuna dissonanza, nessuna rottura di pattern, nessun momento che costringa l’orecchio a ricalibrare. Il cantante non esiste; il pubblico non se ne accorge; e — questo è il punto preciso — non fa differenza.
Ashby direbbe che siamo davanti a un caso da manuale: un sistema-pubblico ha ridotto la propria varietà interna al punto da poter essere governato, e soddisfatto, da un sistema-prodotto di complessità minima. Non è una critica al gusto altrui — sarebbe troppo facile e troppo inutile, e in fondo anche moralistica, il che è uno dei pochi peccati editoriali che non ci concediamo. È la descrizione di un meccanismo: i sistemi che non tollerano la varietà non solo si impoveriscono, diventano fragili. Un ecosistema con poche specie è più produttivo nel breve termine e catastroficamente vulnerabile nel medio. Una cultura con poche dissonanze produce molto consenso e poca capacità di reagire all’imprevisto. La biologia lo dimostra ogni stagione; la storia, con un po’ più di lentezza, fa lo stesso.
La parte che non si vede: anche chi governa si sta indebolendo
Resta un dettaglio che sfugge volentieri sia ai critici di sinistra del capitalismo della sorveglianza sia ai critici di destra del governo tecnocratico: chi conduce questa riduzione di varietà sta riducendo, contemporaneamente, anche la propria. Un sistema di potere che ha ottenuto un pubblico semplificato si trova, di fronte alla prima crisi seria, con un sensore tarato male. Non sa più leggere le sfumature di un dissenso che ha addomesticato; non riconosce le forme imprevedibili di un evento che esce dal copione. La centralizzazione non è solo un gesto di accumulazione del controllo: è anche un atto di auto-ottundimento sistemico. Si vede meno bene da una stanza piccola, anche se è una stanza con tutti gli schermi accesi.
Ashby non lo formula in questi termini, ma la sua legge lo implica con la calma delle conseguenze logiche. Se per controllare un sistema complesso serve un sistema di controllo almeno altrettanto complesso, allora ogni semplificazione del controllato porta con sé un’erosione delle capacità del controllore. È il meccanismo per cui certe imprese — molto efficienti, molto centralizzate, “molto bravissime” — si trovano improvvisamente impreparate davanti a uno scossone di mercato che le aziende più “disordinate” assorbono senza accorgersene. È il meccanismo per cui certe democrazie ottimizzate per il sondaggio scoprono di non capire più il proprio elettorato. È il meccanismo per cui un’AI addestrata su una popolazione cognitivamente impoverita produce risposte cognitivamente impoverite, in un loop che non promette niente di buono a nessuno dei due lati dello schermo.
Sarà mai troppo tardi?
Ashby non era un profeta né un agitatore. Era un medico britannico che, lavorando con macchine e neuroni, cercava principi generali e li trovava con la precisione di chi non ha bisogno di urlare. Non si occupava di musica né di algoritmi né di intelligenza artificiale: questi erano fuori dal suo orizzonte temporale. Eppure la sua legge descrive con pazienza quasi imbarazzante il presente che lui non ha potuto vedere.
La legge non è difficile da capire. È scomoda da applicare, il che è una cosa molto diversa. Applicarla significherebbe accettare la varietà come risorsa irrinunciabile, il disaccordo come componente strutturale di qualsiasi sistema che voglia sopravvivere a sé stesso, l’attrito cognitivo come costo necessario dell’intelligenza collettiva. Significherebbe rinunciare al comfort della risposta unica e al sollievo dell’algoritmo che decide al nostro posto. Significherebbe, soprattutto, rinunciare al piacere recente di farsi cantare canzoni da qualcuno che non esiste, su parole che confermano quello che sapevamo già.
E questo — sia detto senza moralismo — non lo vuole quasi nessuno. Né chi governa i sistemi, né chi li subisce, né molti di quelli che si sono convinti di criticarli mentre seguono la stessa playlist. Il che, probabilmente, è il fatto più interessante dell’intera faccenda: la sfortuna di Ashby non è di essere stato ignorato. È di aver avuto ragione in un’epoca in cui aver ragione, da soli, su una questione strutturale, è la cosa meno interessante che possa capitare a un’idea.
Scopri di più da Franti Magazine
Abbonati per ricevere gli ultimi articoli inviati alla tua e-mail.
