Un paio di mesi fa Barry Smith ha tenuto a Torino una conferenza per l'Istituto Bruno Leoni e la Fondazione CRT, basata sul suo libro Why Machines Will Never Rule the World.
Nel suo discorso, Smith ha serenamente osservato che la performance delle azioni di Nvidia è un segnale dell’entusiasmo (o dell’esuberanza irrazionale?) per l’IA, paragonandolo alla tristemente nota bolla speculativi dei tulipani nei Paesi Bassi del Seicento. Nel 2023, spiegava, l'industria dell'IA investirà in chip somme pari a 17 volte e passa dei ricavi. Questo accadeva di lunedì. Il giovedì successivo, e poi di nuovo il venerdì, le azioni di Nvidia sono scese notevolmente di prezzo. Da allora hanno recuperato molto ma ogni loro flessione (come quella verificatasi più di recente) lascia interdetti i giornali: convinti che l’intelligenza artificiale non abbia limiti.
Sarebbe azzardato affidarsi a un filosofo per dei consigli d’investimento e questo vale anche per Smith. Ma forse le oscillazioni di Nvidia hanno stupito di meno chi ha avuto la fortuna di ascoltarlo.
Il dibattito sull'intelligenza artificiale è un campo di battaglia tra coloro che si aspettano aumenti di produttività senza precedenti e coloro che la vedono come un presagio del mondo di Terminator (questi ultimi sono molti di più). In queste accese discussioni, Smith e il suo coautore, Jobst Landgrebe, sembrano essere gli unici a situarsi al centro.
Smith, autorità mondiale nel campo dell'ontologia, e Landgrebe, ingegno versatile ed ex imprenditore dell'IA, non negano i progressi della “narrow AI” (quella che usiamo già oggi, con Claude Sonnet o Deepl) né ne sminuiscono gli impatti potenziali. Ma si tengono alla larga sia dall’entusiasmo quasi fanatico (il mondo non sarà mai più come prima) sia dalle paure altrettanto fanatiche (è finito il tempo degli uomini) che hanno impregnato il dibattito sull'IA. Per Smith e Landgrebe, le macchine non penseranno, né mireranno a prendere il nostro posto, o a governare il mondo. Le trame dei romanzi di fantascienza non sono necessariamente una buona descrizione degli sviluppi tecnologici, tantomeno dovrebbero guidare le politiche pubbliche: come è successo nell'Unione Europea, o in California, dove le autorità si sono affrettate a regolamentare l'intelligenza artificiale indicandola come una minaccia esistenziale per l’umanità.
Per comprendere l'argomento di Smith e Landgrebe, è importante occuparsi di alcune delle categorie di cui fanno uso.
IA “narrow”, ristretta, è una locuzione che si riferisce a quei sistemi di intelligenza artificiale sono progettati per eseguire compiti specifici in quello che Smith e Landgrebe chiamano "sistema logico". Nella loro concezione, "sistema" è una parola che si applica sia alle realtà organiche che a quelle artificiali. In termini elementari, un sistema è "un insieme di elementi in interrelazione". Ma la dinamica di tali interrelazioni può variare notevolmente.
Un "sistema logico" è un sistema il cui comportamento può essere previsto utilizzando "proposizioni matematiche collegate tra loro da relazioni logiche”.
In particolare, un sistema logico soddisfa quattro condizioni, così articolate da Smith e Landgrebe:
"Il comportamento del sistema può essere spiegato facendo riferimento solo a una delle quattro interazioni fondamentali: gravità, forza elettromagnetica, forza nucleare debole e forte".
"Il comportamento del sistema di interesse è dominato da una singola forza omogenea e isotropa in modo tale che gli effetti delle altre interazioni sono così piccoli, nel contesto dell'aspetto modellato, da poter essere trascurati".
"In ogni sistema esistono gruppi costituiti da elementi dello stesso tipo" che interagiscono tra loro in modo identico. "Per esempio, nel sistema solare, il sole e i pianeti possono essere visti come un gruppo di elementi (del tipo: grumo di materia) che interagiscono tramite la gravitazione".
“È possibile basarsi sull’assunto che le condizioni al contorno del sistema siano fisse senza invalidare il modello".
Tutto ciò fa pensare che un sistema logico abbia un suo equilibrio e non sia evolutivo. Assomiglia a un ambiente chiuso, in cui si possono eseguire esperimenti con la certezza che ogni effetto osservato possa essere ricondotto a una causa chiara.
L'"applicazione del calcolo differenziale in fisica e ingegneria" ha avuto un tale successo da far dimenticare che "la classe di sistemi con tutte e quattro queste proprietà è piuttosto piccola". In effetti, "la stragrande maggioranza dei sistemi nell'universo, e anche dei sistemi che incontriamo nella nostra vita quotidiana, sono quelli che impareremo a indicare come sistemi complessi”.
Affinché esista la cosiddetta "IA generale” (non più “ristretta”), e quindi affinché i computer siano in grado di emulare e superare il tipo di intelligenza dimostrata dagli esseri umani, dovremmo essere in grado di modellare "sistemi complessi" – come, ad esempio, il cervello umano.
"Tutti i sistemi complessi sono tali da obbedire alle leggi della fisica", eppure "per ragioni matematiche non possiamo usare queste leggi per analizzare i comportamenti dei sistemi complessi, perché la complessità di tali sistemi va oltre le nostre capacità di modellizzazione matematica". Sistemi fisici come il meteo possono essere considerati complessi, così come sistemi organici come il nostro sistema digestivo o neurologico. Smith e Landgrebe considerano anche sistemi "ibridi" come la Borsa di New York o il traffico. Anch’essi sono in larga misura sistemi complessi, che è difficile modellare per ottenerne relazioni lineari, che consentano previsioni,
Un esempio è la tanto attesa rivoluzione delle auto a guida autonoma. "Nel 2010, in occasione dell'Expo di Shanghai, la General Motors aveva prodotto un video che mostrava un'auto senza conducente che trasportava una donna incinta all'ospedale a una velocità impressionante e – come diceva la voce a commento per rassicurare gli spettatori – in modo del tutto sicuro". Le previsioni che le auto senza conducente invadano il mercato e mettano fuori gioco tutti i conducenti di taxi e Uber si sono però rivelate finora troppo ottimistiche. Gli entusiasti delle auto a guida autonoma trascurano la differenza tra logica e sistemi complessi evidenziata da Smith e Landgrebe:
“Si consideri (...) il caso dei modelli per le auto a guida autonoma. Gli algoritmi utilizzati in questo caso sono adeguati quando il software è in grado di modellare l'input sensoriale derivante dagli eventi del traffico attraverso i sensori (telecamera, radar, lidar, sonar) in modo tale da reagire a questo input, data la destinazione, almeno come (o, realisticamente, meglio di) un essere umano medio; altrimenti le auto a guida autonoma causeranno più incidenti delle auto guidate da esseri umani, e questo sarà considerato inaccettabile.”
I sistemi complessi spesso corrispondono a una stratificazione di diversi insiemi di elementi interrelati, cioè a una stratificazione di sistemi. Il corpo umano può essere visto come una serie di sistemi correlati. I sistemi complessi sono quelli in cui non è così facile collegare un effetto a una causa specifica; sono teatro di eventi multi-causali. I tentativi di modellarli finiscono in genere per assomigliare a un sistema semplice e, se gli elementi da modellare sono identificati con cura e tenuti in debito conto, tali modelli possono essere utili per previsioni limitate e modeste. Ma non è facile farlo, quindi un modello di un sistema complesso finisce spesso per ingarbugliare anziché chiarire la nostra visione della realtà.
Le argomentazioni di Smith e Landgrebe suoneranno in qualche modo familiari ai lettori di Mises, Hayek e degli economisti della scuola austriaca. I due autori, peraltro, conoscono bene il dibattito sul cosiddetto calcolo economico e gli insegnamenti della scuola austriaca. L'economia è, a loro avviso, il sistema complesso per eccellenza.
Attingendo alla cassetta degli attrezzi della scienza economica si possono previsioni di tipo schematico, utili per i decisori, ma non per prevedere eventi precisi al massimo grado. Ad esempio, se fissiamo un tetto massimo al prezzo di un certo bene, ciò tende a ridurre l’offerta del medesimo bene. Tuttavia,
nessun economista è in grado di quantificare esattamente tali effetti in anticipo (ed è persino difficile farlo a posteriori, dati i numerosi effetti misti nell'economia reale). Questo perché nessun modello economico è in grado di prevedere con esattezza una singola quantità economica per un determinato momento o intervallo di tempo nel futuro, che si tratti del prezzo di un bene o dell'eccesso di capacità di un metodo di produzione.
Ciò non dipende dalla quantità di dati disponibili per abbozzare tale previsione, ma piuttosto dalla natura del sistema economico stesso, che è complesso e influenzato da una serie di attori che non possono, per citare Smith (Adam, non Barry), essere disposti con la stessa facilità con cui la mano dispone i diversi pezzi su una scacchiera.
Vi sono analogie tra il grande dibattito sul calcolo economico in un’economia pianificata, che vide opporsi Mises e Hayek a Oskar Lange e Abba Lerner, per citare solo i combattenti più rilevanti, negli anni Trenta, e la discussione sull’IA. Gli economisti austriaci sottolineavano i limiti cognitivi della mente umana: il mercato permette a tutti gli attori di trarre vantaggio da una conoscenza dispersa e di adattarsi al cambiamento, ma lo fa in modo frammentario, senza quasi nessuna promessa di "perfezione" nel suo funzionamento. Lo scienziato sociale è al massimo un osservatore delle interazioni umane, in grado di prenderne atto e di fare previsioni qualificate e precarie sulla base di alcune regolarità. Tuttavia, il comportamento e le preferenze degli esseri umani cambiano e si adattano in modi che non possono essere previsti con certezza.
I loro avversari socialisti riconoscevano alcune virtù del mercato, ma sostenevano che queste potevano essere replicate e migliorate attraverso commissioni centrali di pianificazione, le quali avrebbero potuto apprendere dall'esperienza, ma sulla base di obiettivi da loro espressamente e autonomamente definiti. I mercati potevano essere imitati senza che i mezzi di produzione fossero in mani private e, quindi, senza le disuguaglianze che il capitalismo portava con sé. Ciò ovviamente presuppone che i mercati reali possano essere descritti attraverso una serie di equazioni e che basterebbe replicare queste ultime per ottenere ciò che un'economia di mercato fa, evitandone i difetti. La famosa risposta di Hayek metteva in evidenza ciò che tendiamo a chiamare "dati", e ad assumere come tali, cose che non sono affatto "date". La concorrenza è una procedura di scoperta in cui emergono continuamente nuove conoscenze e i prezzi trasmettono pezzi di tali conoscenze agli attori economici, influenzando e venendo influenzati allo stesso tempo dalle loro azioni.
In seguito, Hayek stesso distinse tra "fenomeni semplici", da intendersi come quelli in cui è possibile prevedere i risultati generati dall'applicazione di uno stimolo a un sistema, e fenomeni complessi. Questi ultimi sono quelli in cui gli elementi che compongono il sistema non interagiscono in modo lineare e in cui gli elementi e i modi in cui interagiscono sono troppo vasti per essere compresi da osservatori scientifici. Nel migliore dei casi, nei fenomeni complessi, lo scienziato può comprendere qualche principio generale che regola l'interazione dei vari elementi, ma non può fare una previsione rigorosa. Questo è evidente nel caso, evocato da Smith e Landgrebe, dei calmieri.
Le domande del pubblico torinese a Smith non erano molto diverse da quelle che avrebbe ricevuto Mises, circa ottant'anni fa. Smith ha sottolineato che l'IA generale è impossibile, perché non possiamo modellare efficacemente l'intelligenza umana che essa dovrebbe imitare. Ha sottolineato che non si tratta solo di alimentare ChatGPT con più materiale – e che l'attuale pratica di alimentarlo con più materiale generato dall'IA stessa difficilmente migliora le sue risposte.
Ha fatto spesso ricorso all'esempio dei chatbot, un'esperienza di IA di solito infelice per la maggior parte di noi. Lui e Landgrebe scrivono infatti che "le macchine per la conversazione sono destinate a fallire" perché "il linguaggio produttivo è un atto creativo che non può essere emulato matematicamente perché i modelli matematici dei processi naturali rappresentano in ogni caso leggi stabili e ripetitive". Nel suo intervento, Smith ha sottolineato che il desiderio di qualcosa muove tutte le conversazioni umane (che si tratti dello studente che vuole ottenere informazioni dal docente o di due commercianti che desiderano scambiare qualcosa con qualcos'altro) e non c'è modo di insegnare a una macchina a volere qualcosa.
Eppure il pubblico ha ripetutamente cercato di fargli ammettere che, se solo avessimo più capacità di calcolo, o potessimo alimentare l'IA con una conoscenza maggiore o "migliore", si potrebbe ottenere un'IA generale. Allo stesso modo, a Mises sarebbe stato chiesto se il problema non fosse che ai pianificatori mancava semplicemente un computer abbastanza potente da collegare tutti i pezzi di conoscenza parziale che potevano essere raccolti attraverso l’economia.
Why Machines Will Never Rule the World è un libro complicato (anche se Smith è brillantissimo nelle sue conferenze). È stato pubblicato due anni fa e la sua accoglienza non è stata così entusiastica come avrebbe meritato, soprattutto perché è un testo che mira a deludere tutti i suoi lettori, sia gli entusiasti che gli allarmisti.
Il saggio sfida il pensiero ormai comune secondo cui nessun investimento nell'IA è abbastanza grande, poiché il potenziale di sviluppo è quasi infinito. Se il gioco non è sviluppare un'IA generale, ma migliorare un'IA ristretta, si ha il sospetto che tali investimenti segnalino un'esuberanza irrazionale più che un calcolo accurato. Potremmo trovarci nell'equivalente dell'IA dell'era delle Dot-Com: ne usciranno molte applicazioni utili, ma a un certo punto la bolla dovrà scoppiare.
Notizia spiacevole per gli entusiasti ma ancor più per gli allarmisti. L'Intelligenza Artificiale stretta migliorerà certamente la produttività in alcune aree e sposterà posti di lavoro, come fa di solito l'innovazione. Ma ChatGPT non sarà il nuovo Saul Bellow né Perplexity il nuovo Allan Bloom. Le macchine, domani come oggi, sono strumenti attivati e programmati dall'uomo, che possiede la parte creativa del processo. Certo, se l'unica cosa che gli sceneggiatori di Hollywood sanno fare è riciclare gli eroi dei fumetti degli anni Sessanta con una spruzzata di politicamente corretto, fanno bene a temere che l'intelligenza artificiale prenda il loro posto. Ma la creatività delle macchine non supererà mai quella dei programmatori.
Un libro così sobrio non poteva avere fortuna fra le intelligenze umane, che tendono a dividersi fra quelle che credono nei miracoli e quelle che adorano spaventarsi per ogni cosa.
Jobst Landgrebe e Barry Smith, Why Machines Will Never Rule the World: Artificial Intelligence without Fear, Londra, Routledge, 2022, pp. 354
https://techcrunch.com/2024/06/29/mit-robotics-pioneer-rodney-brooks-thinks-people-are-vastly-overestimating-generative-ai/?guccounter=1&guce_referrer=aHR0cHM6Ly93d3cubGlua2VkaW4uY29tLw&guce_referrer_sig=AQAAABVq9E6QPK_cAzDc_yZm0dfOWI9DEjk9wvywh6UCX4yxlCkItn66ZsHKTAfMkGzxgsMCc-kPOjdcq5masJ6fgXKEh9oD_PFGHsYLeuwNJ0jcy4Hqo7BTFHUsKCZvAAUkOjPruxb407mUvgamxAoapZCD84lat83c7FfVH1dz8O9p
Mingardi, Mingardi...come facciamo a lavorare se ci propone ogni sabato delle letture così avvincenti?😀
Un solo appunto: il titolo, già abbastanza lungo, andrebbe ulteriormente precisato: "Why Machines Will Never Rule the World: Artificial Intelligence without Fear? Because natural stupidity already rules...and between them...no match"