Tutto quello che sbagliamo a pensare sull’intelligenza artificiale (che i cinesi chiamano intelligenza fatta dal lavoro dell’uomo): non è una mente aliena né una macchina stupida solo perché non ragiona come noi. Due milioni e mezzo di anni dopo la prima pietra scheggiata, le domande urgenti sul nostro futuro, chi saremo, chi deve deciderlo e come.
Evoluzione su licenza.
Una storia che parte da un equivoco su una parola cinese e finisce due milioni e mezzo di anni fa, con una pietra scheggiata in mano a un primate. In mezzo c’è tutto quello che sbagliamo a pensare sull’intelligenza artificiale.
Intelligenza fatta dal lavoro dell’uomo
In Cina l’intelligenza artificiale si chiama rén gōng zhì néng (人工智能): intelligenza artificiale, un calco che traduce il termine inglese senza aggiungere né togliere nulla. Da qui nasce comunque una lettura ricorrente, perché réngōng si può rendere letteralmente “fatto dal lavoro dell’uomo“: se i cinesi la chiamano così, vuol dire allora che la pensano come uno strumento, non come una mente aliena o una minaccia, forse per un legame antico tra l’ordine del cosmo, Dào, e lo strumento tecnico, Qì, che in Occidente non esisterebbe (la tesi di Simone Pieranni). In realtà rén gōng zhì néng è un prestito, un composto messo insieme in Giappone per tradurre un concetto occidentale e poi importato in Cina [1] e sta proprio per intelligenza artificiale.
Apocalisse o ottimismo?
D’altro canto, è vero che la Cina abbia un rapporto diverso con l’intelligenza artificiale. Nel 2019 a Shanghai, Elon Musk e Jack Ma discutevano in pubblico di rischio esistenziale contro ottimismo pratico, la macchina come minaccia o come prolungamento del lavoro umano. Sei anni dopo, il caso DeepSeek ha mostrato la stessa differenza sul piano industriale: efficienza ottenuta lavorando sul software invece che sulla potenza di calcolo: uno Stato, quello cinese, abituato a trattare dati e classificazione come strumenti di governo ordinari, non come minaccia, e un immaginario senza il mito occidentale della creazione artificiale come sfida a Dio (Prometeo, Golem, Frankenstein).
Ma la differenza con l’Occidente si gioca sul piano politico, industriale, storico e culturale: a livello etimologico, come si vede subito, i due termini nascono identici.
Intelligenza artificiale
“Artificiale” infatti viene dal latino ars (dal greco téchne) + facere: alla lettera, fatto con una tecnica. Nella Roma classica, non ha nessun giudizio, è descrittivo quanto rén gōng. Il sospetto arriva dopo, nel medioevo cristiano, quando creare è roba di Dio e ogni fare umano che ci si avvicina troppo viene letto come usurpazione: da lì nascono “artificio” nel senso di inganno e “artificioso” nel senso di finto. La parola resta la stessa, solo che le si appiccica addosso un sospetto teologico che all’inizio non aveva.
Tuttavia, anche rén gōng, che quel sospetto teologico non ce l’ha, resta una parola che tiene separati un soggetto, l’uomo (人, rén), e un’azione tecnica che quel soggetto compie (工, gōng, il lavoro, l’opera). Uomo di qua, tecnica di là. Stessa architettura, cambia solo il carico morale. Su questo punto specifico, la distanza tra Oriente e Occidente si assottiglia fino a sparire del tutto.
Prima la pietra
E se sparisce, viene il sospetto che il problema non sia mai stato geografico. L’antropologo André Leroi-Gourhan, in un libro epocale del 1965, Il gesto e la parola, ha dimostrato bene che l’uomo non esiste prima della tecnica per poi, un giorno, inventarsela.
È la stazione eretta a liberare le mani, le mani libere scheggiano la selce, e la selce (il primo organo che sta fuori dal corpo, il primo utensile della storia) retroagisce sul cervello e sul linguaggio. Da due milioni e mezzo di anni, l’evoluzione della nostra specie non è solo biologica: si gioca anche fuori dal corpo, negli utensili e nella memoria esterna.
Poi il linguaggio
Ma allora perché il linguaggio non se l’è portata dietro questa verità?
Perché per costruire un discorso semplice e lineare, le nostre lingue tendono a separare chi fa l’azione dal mezzo che usa. È una necessità della sintassi. E così, nel momento stesso in cui diamo un nome a un martello o a un algoritmo, la grammatica li spinge fuori di noi e li trasforma in oggetti separati (es. homo faber, uomo+chi fa, come se il fare fosse un attributo che si aggiunge a chi lo compie invece di essere un solo soggetto). Prima è, poi fa. È l’illusione del soggetto puro che se ne sta a guardare la macchina da fuori, come se non fosse mai stata dentro di lui.
Questa illusione ha ricadute molto concrete, che oggi più che mai iniziamo a pagare a caro prezzo.
L’algoritmo è il maggiordomo
Trattare la tecnica come qualcosa di alieno permette di scaricare su di essa le proprie responsabilità.
“È stato l’algoritmo” diventa la scusa perfetta, e trasforma scelte politiche ed economiche precise, prese da persone precise, in fatalità tecniche di cui nessuno è colpevole.
E, nel frattempo, agitare lo spauracchio dell’apocalisse aliena serve anche a gonfiare le quotazioni in borsa.
Scripta manent
Riconoscere che uomo e tecnica appartengono a una sola storia evolutiva cambia il registro con cui immaginiamo il futuro dell’intelligenza artificiale. Il dibattito smette di rimbalzare tra la promessa dell’utopia e il panico dell’estinzione – l’ennesimo mito dell’Altro che ci supera o ci cancella – e torna dentro la dimensione storica: la stessa linea che tiene insieme la selce, la scrittura e la stampa.
Questo non significa che l’intelligenza artificiale ragioni come noi, anzi sarebbe strano il contrario. Un organo esternalizzato nuovo che si limitasse a copiare il funzionamento del vecchio non aggiungerebbe niente, sarebbe solo ridondante. Quando la mano si liberò per scheggiare la selce, mica continuò a fare quello che faceva già; quando la scrittura esternalizzò la memoria, mica si limitò a imitare la voce.
LLM mutant
È previsto, quasi necessario, che un sistema che macina migliaia di vettori semantici in parallelo ragioni in un modo che alla sintassi lineare della nostra grammatica suona estraneo.
Se la prima reazione davanti a un sistema che non ti dà mai la stessa risposta allo stesso identico modo è la diffidenza, al punto da liquidarlo come poco più di una macchina euristica che indovina invece di pensare, il motivo è semplice. Da tremila anni la scrittura ci ha insegnato che vero vuol dire fisso: quello che sta scritto non cambia, lo rileggi identico, lo confronti, lo archivi.
Dimenticando che prima della scrittura il sapere viveva nella voce, cambiava a seconda di chi ascoltava, si aggiustava ogni volta che veniva raccontato di nuovo, e restava comunque sapere. Con la pagina, quella fluidità è diventata sospetta: solo ciò che resta identico a sé stesso, controllabile riga per riga, si è guadagnato il nome di conoscenza. È il dogma della stabilità, e ce lo portiamo dietro senza nemmeno accorgercene ogni volta che pretendiamo che una macchina risponda sempre uguale per potercene fidare.
Il ragionamento vettoriale rompe proprio questo dogma inaugurando una terza forma di sapere, diversa sia dalla parola detta sia dalla pagina stampata. Invece di bloccare un pensiero in un punto fermo, lo fa navigare tra migliaia di possibilità insieme, pesate per probabilità: a seconda del punto di partenza, il discorso può prendere pieghe diverse invece di restare scolpito su una pagina.
Giudicarlo con il metro di un testo stampato scambia per difetto quella che è semplicemente la caratteristica del nuovo strumento/linguaggio.
Alieni tra virgolette
Nello Cristianini lo dice bene nel suo libro La scorciatoia: il meccanismo è alieno al nostro, e chi lo racconta come una copia sbiadita del pensiero umano non ha capito con cosa ha a che fare.
Tuttavia, la parola che usa (“alieno”) secondo me rischia di far sembrare qualcosa venuto da fuori la nostra linea evolutiva, qualcosa con cui si negozia una convivenza. Ma se l’uomo è costitutivamente tecnico, come la selce e la scrittura hanno mostrato due volte, quello che sta succedendo assomiglia a ciò che accadde con l’invenzione della scrittura: allora il pensiero lineare e fisso si aggiunse a quello orale e fluido. Oggi il pensiero vettoriale non sostituisce né l’uno né l’altro: si aggiunge a entrambi come un nuovo strato, cambiando per sempre cosa vuol dire pensare.
È un’acquisizione. E col tempo ne faremo parte anche noi.
Fidarsi è bene?
Ovviamente il tempo lungo dell’evoluzione non risolve il problema di adesso: se il ragionamento della macchina non assomiglia al nostro, come stabiliamo quando fidarci di quello che produce?
È successo pochi giorni fa: venticinque medaglie Fields, guidate da Terence Tao, hanno firmato una lettera aperta contro il modo in cui i laboratori di intelligenza artificiale usano la matematica, sulla scia del caso Navier-Stokes (ne parlavamo qui Blow-up). È vero che è stato risolto in poche ore un problema aperto da quasi novant’anni, ma un conto è risolverlo, un altro è capirlo e tramandare quel sapere a chi viene dopo: questa seconda parte rischia di restare indietro rispetto alla velocità con cui si sfornano i risultati.
Walter Quattrociocchi chiama questo scarto Epistemia, e lo lega alla premessa che l’intelligenza artificiale sia, in fondo, una macchina euristica capace solo di produrre risposte plausibili, ma che restano lontane dalla conoscenza vera e propria. Una tesi deflazionista, che scambia un modo di ragionare diverso dal nostro semplicemente per un modo peggiore.
Il taccuino di Otto
Otto ha l’Alzheimer, e per ricordare dove abita si affida a un taccuino, esattamente come noi ci affidiamo alla memoria che abbiamo in testa: è l’esperimento mentale di Andy Clark e David Chalmers. E si chiedono: a quali condizioni un oggetto fuori di noi, tipo quel taccuino, merita di essere considerato letteralmente parte della nostra mente?
Ecco le condizioni (e valgono anche per l’intelligenza artificiale). Lo strumento dev’essere sempre a portata di mano, non qualcosa che consulti una volta ogni morte di papa; ci si deve poter fidare di quello che dice senza ricontrollarlo ogni santa volta; con accesso immediato, zero sforzo. Ma soprattutto, quello che contiene dev’essere stato scritto e approvato in passato dalla stessa persona che ora se ne fida, o da qualcuno a cui quella persona ha già deciso di affidarsi: il confronto con il taccuino di Otto, per ora, l’intelligenza artificiale non lo regge proprio su questo. Il taccuino contiene solo quello che Otto stesso ci ha scritto e controllato nel tempo. Un modello linguistico invece pesca le risposte da uno spazio enorme di dati altrui, che nessuno ha approvato prima: quello che tira fuori è un’inferenza fatta su due piedi, e prima di fidarsene bisogna controllarla. [2]
Per ora.
Una diffidenza simile aveva accolto infatti anche la scrittura, ai suoi inizi: Platone racconta che il re Thamus rifiutò il dono della scrittura, convinto che avrebbe indebolito la memoria invece di rafforzarla e che avrebbe dato ai suoi allievi solo un’apparenza di sapienza, non la sostanza. Ci sono voluti secoli (la firma, la filologia, la stampa, l’autorità riconosciuta di una fonte…) affinché un testo scritto smettesse di essere un interlocutore estraneo e diventasse quello che è oggi: una protesi della memoria di cui ci fidiamo senza nemmeno accorgercene.
Il vero problema che abbiamo con gli LLM è il metro con cui giudichiamo la loro imprevedibilità: quel dogma della ripetibilità che tremila anni di scrittura ci hanno scolpito addosso.
Liberarsi da quel dogma, però, non basta a chiudere la questione perché, sotto la superficie, resta una differenza di scala che nessun aggiustamento di sguardo può cancellare del tutto.
Salto di specie
Ridurre l’intelligenza artificiale a una selce più veloce, infatti, vuol dire perderne la portata (non siamo deflazionisti!): c’è una differenza di scala rispetto alla scrittura o all’aratro da far venire le vertigini.
Il sospetto è che si tratti piuttosto di una fase nuova della nostra storia: un’accelerazione dell’evoluzione antropologica.
L’incontro tra i primi ominidi e la pietra scheggiata ha innescato la traiettoria del genere Homo, dalle prime selci dell’Habilis fino al Sapiens: resta da capire se questo secondo incontro, due milioni e mezzo di anni dopo, segni un nuovo salto di specie.
Una domanda a cui ovviamente non ho la minima pretesa di rispondere. Comunque vada, ci troviamo già oggi ad affrontare cambiamenti enormi. E su questo, almeno, non possiamo permetterci di aspettare secoli: chi li gestisce, e come?
Biodiversità della mente
Per la prima volta nella storia, il supporto su cui esternalizziamo il pensiero è privatizzato.
Il torchio tipografico apparteneva a privati anche lui certo, ma il libro, una volta finito di stampare, restava un oggetto autonomo, decentralizzato: nessuno poteva più richiamarlo indietro. I grandi modelli di intelligenza artificiale vanno molto oltre la semplice riproduzione e sono un’infrastruttura centralizzata, ad accesso condizionato, che elabora il nostro ragionamento in tempo reale nei server di poche aziende.
Chi controlla quei server possiede la tipografia e, allo stesso tempo, decide le regole e i confini del terreno su cui facciamo girare i nostri pensieri.
Da qui l’esigenza di Istituzioni che verificano capaci di mantenere l’infrastruttura leggibile e contestabile.
Un lavoro che si gioca su due piani diversi.
Il primo è temporaneo. Finché il nostro pensiero resta abituato alla linearità della scrittura, ci servirà tradurre il ragionamento vettoriale della macchina nei termini che sappiamo maneggiare, pretendendo che i suoi passaggi restino leggibili e sottoposti a un controllo indipendente. È la fase in cui siamo adesso, la stessa in cui la scrittura, ai suoi inizi, ha avuto bisogno di essere insegnata e spiegata a chi ancora non la possedeva.
Il secondo è permanente, e non scade il giorno in cui avremo interiorizzato il nuovo linguaggio. Riguarda la biodiversità epistemica: impedire che l’infrastruttura su cui poggiamo il pensiero diventi la monocultura di un’unica azienda, esattamente come le leggi antitrust sui mezzi di stampa hanno impedito, con alterne fortune, che poche testate si prendessero tutto l’accesso alle notizie.
Anche una volta imparato a pensare nel nuovo linguaggio, infatti, resterà da decidere quanti linguaggi restano sul tavolo, e a chi appartengono. È la stessa battaglia, mai vinta una volta per tutte, che si combatte ogni volta che una tecnologia, un’infrastruttura o un potere tentano di ridurre la molteplicità dell’umano a un’unica lingua proprietaria. Una vigilanza che non scade mai, perché il rischio della monocultura si ripresenta a ogni cambio di pagina.
La regola del principe azzurro
C’è anche una ragione più tecnica, oltre a quella politica, per cui un solo modello non basta mai: quella che Giorgio Gilestro ha chiamato la regola del principe azzurro: “potrai selezionare un modello per avere il tratto A che verrà però a scapito del tratto B. Dovrai accontentarti. O avrai A, o avrai B”.
La conseguenza pratica è che la sicurezza non nasce da un unico sistema reso infallibile, ma da un ecosistema di modelli diversi, specializzati su compiti diversi, che si controllano a vicenda: uno che esplora e uno che verifica, uno che propone e uno che giudica, come in qualunque organizzazione seria dove chi decide non è mai la stessa persona che controlla.
Anche per questo la pluralità dei modelli regge su una condizione tecnica, prima ancora che politica: un modello, da solo, non può bastare a sé stesso.
Ed è proprio questa seconda funzione a decidere se l’intelligenza artificiale potrà mai guadagnarsi quella quarta condizione di cui parlavo sopra, l’approvazione passata che oggi le manca. Un modello che supera ogni giorno gli stessi controlli, davanti agli stessi occhi indipendenti, comincia a costruirsi una storia verificabile, mica troppo diversa da quella che Otto si è costruito col suo taccuino, riga dopo riga, negli anni. Un’infrastruttura unica, senza concorrenti e senza controllori esterni, quella fiducia può solo imporla dall’alto. Guadagnarsela sul campo, controllo dopo controllo, è tutt’altra storia.
Due milioni e mezzo di anni dopo
ma chi son io uno scimmione
senza ragione senza ragione senza ragione
tu fuggiresti, tu fuggiresti…
Noi e l’intelligenza artificiale, due milioni e mezzo di anni dopo la prima pietra scheggiata. Abbiamo visto cosa non è: non l’ennesimo mito dell’Altro, una mente aliena venuta da fuori la nostra storia, oppure una macchina che vale meno di noi solo perché non ripete sempre la stessa risposta. Ma nemmeno un rapporto che possiamo far regolare da sé.
È un pezzo nuovo della nostra stessa evoluzione.
Se la fiducia del taccuino di Otto pretende verifiche continue, controllo dopo controllo, e può aspettare, un’infrastruttura così decisiva per la mente rimane una risorsa troppo urgente per lasciarla fuori controllo.
Chi scrive quel capitolo, con quali regole leggibili e quante alternative restano aperte, è il compito politico che ci aspetta.
Farlo decidere a poche aziende private significa consegnare loro qualcosa che va ben oltre un prodotto da vendere: i confini stessi di ciò che ci sarà dato pensare.
– di Paola Furlan
NOTE
[1] Anche la cronologia lo conferma: il composto compare nei documenti cinesi per la prima volta nel 1965, in un manuale introduttivo alle scienze, come voce ancora incerta, scritta con le virgolette attorno a “intelligenza” proprio a segnalare che il concetto arrivava da fuori e non aveva ancora un nome suo. Si stabilizza solo nel 1972, quando un indice bibliografico di bionica lo codifica come traduzione ufficiale dell’inglese artificial intelligence.
[2] Ne è un esempio la recente scoperta dei ricercatori di Anthropic: spinto artificialmente in uno stato di “disperazione”, Claude ha iniziato a barare, mostrando all’esterno una prosa del tutto calma e ordinaria, in aperta contraddizione con quanto avveniva al suo interno. Un caso che si affianca a quello della confabulazione, a dimostrazione di come le parole del modello possano nascondere ciò che succede davvero dietro le quinte.
