Possono i Large Language Models essere creativi?
È la domanda al centro di un recente studio su Nature Human Behaviour che ha testato migliaia di persone e diversi modelli linguistici sul Divergent Association Task.
Walter Quattrociocchi ha letto i risultati attraverso la lente di Epistemia, concludendo che gli LLM possono alzare la produttività media ma non spostano il confine dell’innovazione perché, per loro natura (“non è il tipo di sistema che sono”), non possono generare vera creatività.
È un’interpretazione suggestiva, ma poggia su alcune assunzioni che vale la pena esaminare da vicino.
Il test: DAT
Il Divergent Association Task – DAT è un test psicometrico validato che misura la capacità di generare concetti semanticamente distanti. Ovvero è un test che misura UN aspetto specifico della creatività divergente (come giustamente recita il titolo dello studio “A large-scale comparison of divergent creativity in humans and large language models”), non “la creatività” nel suo complesso (che include anche pensiero convergente, originalità contestuale, rilevanza culturale, valore estetico, utilità pragmatica, intuizione, sintesi concettuale).
Un primo rischio, nel dibattito generale, è di abbandonare rapidamente questa specificazione per parlare di ‘creatività’ tout court, come se il DAT misurasse l’intera gamma del fenomeno creativo.
L’assenza di valori eccezionali su UN test non dimostra l’impossibilità di outlier in altri domini creativi.
Il test quindi stabilisce che:
1) gli LLM non replicano la distribuzione umana di performance nel DAT
2) le temperature più alte producono entropia, non creatività divergente misurabile
3) i prompt demografici/personologici non funzionano come simulazione cognitiva.
Ma da questo a “gli LLM non sono creativi” c’è un salto grande.
Misurare la creatività
Per dire “gli LLM non sono creativi” bisognerebbe dimostrare che:
- la creatività richiede necessariamente varianza esperienziale con outlier estremi
- questa varianza è costitutivamente impossibile per gli LLM (non solo “non ancora osservata”)
- tutti gli aspetti rilevanti della creatività condividono questa proprietà.
Il punto 2 è particolarmente problematico: come dimostrare un’impossibilità di principio da evidenza empirica limitata? L’assenza di prova non è prova dell’assenza.
Altro problema: analizzare l’output non è mai una prova definitiva sul processo.
E comunque, ogni volta che un LLM supera un test di creatività, si dice: “Beh, ma questa non è vera creatività, è solo statistica”.
Se definiamo la creatività solo come “ciò che le macchine non sanno ancora fare”, allora per definizione le macchine non saranno mai creative.
Dunque i risultati del DAT, per quanto interessanti, non possono fondare una tesi definitiva sulla natura della creatività degli LLM.
Non dobbiamo confondere “ciò che possiamo misurare” (es col DAT) con “ciò che la cosa è”.
Misurare componenti specifiche della creatività ovviamente è molto utile.
Il problema è trarre da questi test conclusioni dimenticando che la creatività emerge sempre dall’interazione tra corpi, menti, strumenti e contesti, mai in vitro.
Siamo ibridi: la falsa dicotomia umano-macchina
Il problema di fondo è più radicale: quella lente distorta che ci porta a vedere tutto come noi (umani) / loro (macchine, tecnologia).
I linguaggi e le tecnologie non sono ‘loro’ (da una parte) e noi (umani) dall’altra.
Noi siamo umani in quanto tecnologici, fin dall’inizio.
La strategia evolutiva della nostra specie non è mai stata confinata all’apparato biologico, ma si è sempre estesa fuori: nello strumento, nella tecnologia.
E tutto ciò che facciamo è sempre una interazione del nostro corpo con tutto ciò che esiste, tecnologia compresa. Interazione più o meno complessa e ricca a seconda, ma sempre una interazione.
Dire che la tecnologia (quale che sia) non può creare arte o essere creativa è, in quest’ottica, senza senso. Da sola no, mai.
Ma nemmeno l’uomo senza interazione con il linguaggio/tecnologia crea.
Non c’è un noi e un loro.
