VALENTINA CAGLIONI. L'ALGORITMO DI BABELE: STORIE E MITI DELL'INTELLIGENZA ARTIFICIALE, DI ANDREA COLAMEDICI E SIMONE ARCAGNI
Un filosofo - Andrea Colamedici - e un giornalista e professore esperto di tecnologie digitali - Simone Arcagni - si trovano a dialogare sull’intelligenza artificiale. Dalla reciproca perfusione dei loro saperi e delle loro curiosità nasce questo libro che ha come scopo dichiarato quello di scoprire la genealogia dell’intelligenza artificiale, rintracciandone miti fondativi, origini sociali, psichiche e culturali.
Partendo dal presupposto che dalla scoperta del fuoco in poi ogni prodotto umano (sia esso fisico o culturale) è espressione della società che lo ha prodotto, gli autori tracciano una storia dei bisogni, dei moti culturali e sociali che hanno portato all’attuale sviluppo dell’intelligenza artificiale, ricordandoci che essa non nasce oggi ma è - al contrario - il frutto di una ricerca umana, di una spinta verso quella che Calvino chiamava poeticamente “un altrove, altrimenti” che da sempre ontologicamente connota l’esperienza umana.
Tra gli antecedenti di questa necessità quasi biologica dell’uomo di attingere a una conoscenza sempre maggiore gli autori riconoscono nel Fedro di Platone lo stesso dilemma in cui ci troviamo oggi di fronte alla scoperta di qualcosa di nuovo che irrompe nella civiltà portando un cambiamento “cataclismatico” che, come tale, produce sia entusiasmo che paura. “Dove ci porterà tutto questo?” è la domanda che ci poniamo oggi di fronte all’IA, ed è la domanda che si pone Platone nel Fedro. In esso è contenuto il mito della scrittura in cui Thoth, dio egizio inventore delle arti, presenta al faraone Thamus la sua nuova scoperta rivoluzionaria: le lettere (le Grammatha). Thoth le presenta come un pharmakon per la sapienza e la memoria. Tramite le lettere, il linguaggio scritto, l’uomo potrà accumulare molto più sapere, molto più velocemente. Il faraone però gli risponde che una cosa è inventare una techne e un’altra è saperne giudicare danno e utilità (è la distinzione Aristotelica fra la virtù della Sofia - la conoscenza - e la Phronesis - la saggezza - che deriva dal saper applicare ogni conoscenza ai beni umani, riuscendo a giudicarne danno e utilità). Secondo Thamus le grammatha produrranno dimenticanza perché fidandosi della scrittura gli uomini ricorderanno le cose dall’esterno, “da segni alieni, e non dall’interno, da sé”. Ciò che offrono le lettere - dice il faraone - è un pharmakon per il ricordo e non per la memoria. Non offriranno verità agli allievi – dice - ma un’apparenza (doxa) di sapienza. “Saranno in opinione di sapienza invece che sapienti”.
La conoscenza utile all’uomo non sta nella somma delle informazioni ma nella rete di relazioni che si sviluppa fra le informazioni.
Lo stesso termine pharmakon utilizzato nel Fedro rivela come la Techne senza Phronesis possa essere intesa sia come farmaco che come veleno.
Difficile non trovare una spiazzante analogia fra questo mito riportato da Platone (che per inciso era contrario all’introduzione delle Grammatha pur avendole poi ampiamente utilizzate) e le odierne angosce e riflessioni rispetto all’IA. L’analogia ci ricorda che non siamo soli in questi pensieri, ci ricorda che in diversi momenti della storia delle civiltà l’umano si è trovato di fronte agli stessi interrogativi. Ciò che oggi consideriamo emblema di cultura e conoscenza, il linguaggio scritto, è stato per i nostri avi fonte di dibattiti, contrapposizioni e angosce. Il passaggio da oralità a scrittura costituì ai tempi di Platone un cambiamento catastrofico, un punto di non ritorno che cambiò non solo il concetto di cultura ma comportò “una modifica sostanziale della dimensione spazio temporale… una vera e propria rivoluzione nella quale il mezzo di comunicazione incide pesantemente sul contenuto e anche sulla struttura mentale necessaria a questo nuovo meccanismo” (W.J. Ong).
Attraverso una raccolta di racconti, miti, narrazioni, invenzioni rispetto ad automi, robot, cyborg, ibridi, gli autori ci ricordano che essi hanno permeato da sempre la cultura umana. Essi sembrano essere un naturale prolungamento del pensiero umano, un luogo rappresentazionale insito nell’umano. Un modo per rappresentare un altrove, altrimenti, un luogo “senza luogo” (u-topia) che è da sempre il regno dei miti, del divino, che l’uomo necessita di “abitare”. Ed è proprio paradossalmente questa connaturata tendenza a rappresentare e immaginare che rappresenta il tratto distintivo dell’intelligenza umana. Si tratta di un inconscio collettivo inteso come aspetti della psiche che costituiscono un deposito di esperienze, bisogni e motivazioni comuni agli uomini.
La prima vera e propria macchina calcolatrice risale a Leibniz nel 1694. Ai tempi, come è immaginabile, suscitò grandissime contrapposizioni e schieramenti che gli autori ci raccontano nei particolari.
Il problema che nasce con le macchine è che esse permettono ordine, informazione, precisione e questo ci serve per dare ordine, abbassare l’entropia, farci sentire al sicuro. In questo esse rispondono allo stesso bisogno che porta l’uomo a immaginare l’esistenza di un dio o un piano superiore dell’esistenza. Tuttavia, proprio nella vastità delle informazioni a cui ci permettono di accedere, esse trovano il proprio tallone d’Achille. Come scriveva Borges: “la realtà sarà ordinata ma secondo leggi divine che non finiamo mai di scoprire… incantata dal suo rigore l’umanità dimentica che si tratta di un rigore di scacchisti, non di angeli”. L’umanità disimpara cioè a distinguere la differenza fra lo sterminato e l’infinito, fra l’oracolo di Google e quello di Delfi – dicono gli autori. Entrambi vaticinano dopo aver avuto accesso a un sapere enorme e invisibile ma in un caso esso è assimilabile a ciò che Borges chiama “il rigore da scacchisti”, nell’altro esso ricorda l’ordine degli angeli. In qualche modo siamo di nuovo di fronte alla distinzione che Salvatore Natoli - riprendendo Aristotele - rintraccia nella distinzione fra Sofia e Phronesis. Anche Nietzsche invitava a non fidarsi di “quei pensieri che non sono una festa anche per i muscoli” intendendo con ciò che ogni conoscenza (i pensieri) deve fondarsi sull’esperienza umana, in qualche modo ricordando l’unità ancestrale fra parola e azione che nel passaggio fra comunicazione orale e scrittura andò via via perdendosi.
Lo stesso tema viene rintracciato dagli autori nel racconto delle sirene nell’Odissea intese come metafora della conoscenza potenzialmente infinita che ammalia e brucia (la voce delle sirene). Rispetto a esse Ulisse dovette trovare un modo per dosare curiosità e prudenza ( si legò all’albero maestro per poterne ascoltare le voci senza rimanerne travolto). Così noi oggi con l’IA che seduce con una promessa di conoscenza infinita dovremmo trovare un albero maestro al quale legarci per poter ascoltare la voce di tale conoscenza senza venirne travolti.
Un altro aspetto interessante del libro è la spiegazione ovviamente estremamente semplificata di come funzionano le IA generative (le IA al centro della discussione attuale). Chatgpt utilizza un processo di “tokenizzazione” per scomporre il testo in unità discrete di informazioni più piccole (token) che possono essere parti di parole, punteggiature ecc. I token sono poi analizzati e pesati e così facendo Chatgpt può scoprire pattern fra i token che l’uomo potrebbe non rilevare. È attraverso questo processo di scoperta di pattern che le IA possono scoprire qualcosa che pur derivando da noi, ci supera. Voglio ricordare che il meccanismo di tokenizzazione è del tutto simile, direi identico, a quello che recentemente è stato scoperto essere all’origine del riconoscimento dei pattern negli esseri umani. In particolare recenti studi di neurofisiologia (Vandervert et al., 2024) hanno mostrato come il cervelletto non sia deputato solo alle prassi motorie, ma proprio a partire da queste, esso sia la base neurologica dell’individuazione dei pattern che danno origine alla nostra stessa mente permettendoci di discriminare le forme. Grazie a questa funzione esso appare centrale per i processi di memoria implicita. Questo però ci indica una possibile linea di ricerca perché ci suggerisce, anzi ci dimostra una volta in più, che ciò che diamo per scontato, la capacità umana di individuare forme, pattern, gestalt, che è alla base del ragionamento pratico oltre che di quello astratto, si fonda sul nostro corpo, sui nostri schemi motori. “Il linguaggio deriva dall’azione” non è solo un motto, è una verità molto più profonda di quanto possiamo immaginare.
Il fatto che le IA generative individuino relazioni fra le parti che noi umani non rileviamo potrebbe per questo essere dovuto al “corpo” che le IA non hanno in comune con noi. Noi riconosciamo solo quei pattern che hanno una qualche relazione con il nostro corpo, con i limiti e le possibilità che sono indotti dal nostro corpo. Per rendere più chiaro il concetto farò un piccolo esempio. Nelle nostre reti neurali il network della salienza individua fra gli stimoli che colpiscono la nostra retina, quelli che sono assimilabili a forme conosciute. Se percepiamo un oggetto che assomiglia a una mano, nelle nostre reti neurali si attiveranno molto più spesso e con maggiore probabilità (quindi avranno un maggior peso) le associazioni con “braccia”, “piedi” o al più con “gambe” (o con oggetti con questa forma). Più difficilmente si attiveranno associazioni con “tastiere”, “forni” o altri oggetti che pure potrebbero altrettanto avere a che fare con le mani. Per il nostro cervello il nostro corpo è misura di tutte le cose. Per una IA invece la distribuzione dei “pesi” delle associazioni sarà diversa perché le parti del corpo non sono così vincolanti per lei, le reti associative non si formano su misura al proprio al corpo fisico. Tuttavia siccome le IA si costruiscono con apprendimento e siamo noi a fornirgli questi apprendimenti (tramite l’utilizzo di dati digitali), esse sono strettamente condizionate dall’uomo, sono “entangled” con l’umano (un po' come noi siamo entangled col nostro corpo, condizionati da esso). Uno dei grandi problemi delle IA oggi sono infatti i bias (culturali, razziali, politici, ecc) perché hanno imparato da noi ad associare ad esempio “pelle nera” a “reddito basso”, o “donna” a “vulnerabilità”, e così via.
Gli autori riflettono anche sul rapporto fra le IA e l’arte e la creatività. Iniziano dalla constatazione che le macchine da molti anni sono state utilizzate per produrre testi letterari e in effetti ci riescono ma producono letteratura mediocre perché ripetono ciò che conoscono, per lo più adattandosi a cosa piace, creando così un circuito autorinforzante fra ciò che piace perché già conosciuto e la produzione letteraria delle macchine di qualcosa di già conosciuto. Ancora una volta questo dimostra la relazione reciproca fra le produzioni di una società e la società stessa che le ha prodotte. Le produzioni (arte, cultura, scoperte, regimi sociali, ecc) sono lo specchio della società che le ha prodotte ma contemporaneamente la influenzano in una sorta di circuito ricorsivo. È bene tenerlo a mente sempre quando parliamo della società alla quale apparteniamo, anche quando non ce ne sentiamo rappresentati.
Gli autori proseguono riportando il pensiero di Paolo Zellini, matematico, che ci ricorda come nella società occidentale si sia creata una crasi fra materie umanistiche e scientifiche mentre la matematica per i pitagorici era una filosofia, una scienza per scoprire il funzionamento del mondo, interno ed esterno. Il ragionamento matematico era inteso non in senso puramente logico-deduttivo come lo si intende oggi ma esso comprendeva intuizioni mistiche, esperienze spirituali e una comprensione olistica del cosmo. Era una scienza monista. Ciò che noi oggi dividiamo fra razionale e mistico era per i pitagorici un continuum di conoscenza. Ogni teorema matematico ha alle spalle speculazioni filosofiche che ne hanno portato alla scoperta. “Pitagora… le sue teorie aiutavano a decifrare proprio quella sfera dell’anima che oggi siamo soliti contrapporre alla ragione scientifica. Ricondurre ogni cosa al numero aveva come presupposto la possibilità di estendere il campo di influenza degli enti matematici all’ambito interiore, con l’effetto di risolvere, nell’unita di interiore e esteriore, una delle più tormentose contrapposizioni nella storia del pensiero occidentale” (Zellini, 2023).
Se pensiamo ai numeri, alla matematica in generale in questi termini, allora anche la tecnologia dell’IA, che da essa deriva, assume un valore conoscitivo (filo-sofico: amico della conoscenza) che possiamo pensare come a uno strumento per comprenderci meglio, anziché come a un entità che necessariamente ci porterà a un nostro superamento. Essa, come la scrittura, è una nostra creazione, insita nella spinta umana alla conoscenza anche quando le sue conseguenze sopravanzeranno ciò che avevamo immaginato. Dovremmo soffermarci a pensare all’IA – dicono gli autori- non nei termini di risultati, efficienza, ma nei termini della strada che essa rappresenta, comprese le deviazioni, le soste che portano o hanno portato a un dato risultato.
Alla luce della genealogia tracciata, gli autori sostengono che l’IA, che sembra non avere un corpo, “al contrario, ci stiamo attraverso essa calando nelle profondità organiche grondanti sangue, protette da una patina sempre più sottile di design elegante e minimalista”.
“A essere magica non è l’IA ma la storia culturale dell’IA, l’insieme degli sforzi e dei sogni millenari. Non è lo strumento in sé ma il più ampio ecosistema cognitivo di cui facciamo parte che ci inventa mentre lo inventiamo… la macchina non è altro da noi ma un aspetto integrale della nostra evoluzione cognitiva e sociale”.
Il libro in definitiva è ricco di riferimenti culturali e filosofici, che indipendentemente da come la vediamo, ci forniscono suggestioni e stimoli che introducono una sosta di “pensamento” in questo mare vorticoso nel quale siamo immersi. Più di tutto oggi di fronte al frastuono del tempo presente abbiamo io credo bisogno di soste ragionate, ricche e stimolanti che sostengano la nostra permanenza in questo mare sempre più sconfinato.
Bibliografia
L’Algoritmo di Babele, A. Colamedici, S. Arcagni, 2024, Solferino
Oralità e scrittura, W.J. Ong, 2014, Il Mulino
Ti con zero, I. Calvino, 1995, Mondadori
Il teorema di Pitagora, P. Zellini, 2023