La nuova AI
che azzera
le “allucinazioni”

La nuova e sconvolgente realtà dei modelli operativi di Intelligenza Artificiale (AI) sta entrando sempre più diffusamente nel nostro modo di agire e di pensare. E i cambiamenti, e le loro conseguenze, riguarderanno direttamente tutte le singole persone e le comunità sociali e politiche in moltissimi aspetti concreti della loro vita, e con modalità ancora non sempre prevedibili.

AI, Rappresentazione di Cervello Artificiale

Rappresentazione di Cervello Artificiale

La visione dei possibili sviluppi e dei relativi vantaggi e rischi appare in questa fase ancora confusa e soggetta a valutazioni contrastanti. In parte per ragioni oggettive legate alla problematica affidabilità dei modelli AI attualmente disponibili e, in parte, anche per la manipolazione nella comunicazione pubblica che un cambiamento di tali dimensioni sociali, politiche e finanziarie può comportare.
L’iniziatore di questa avventura è stato Alan Turing che, nel 1950, con il suo scritto “Computing Machinery and Intelligence”, si era posto il problema di come distinguere con un “Test” le risposte di una macchina da quelle umane. Il nome “Intelligenza Artificiale” (AI), nasce poi per iniziativa dell’informatico John McCarthy durante il “Workshop” svoltosi nel 1956 nel Dartmouth College, New Hampshire, USA.
Il primo tentativo concreto, negli anni 1950, fu quello di realizzare una qualche forma di “Intelligenza” partendo dalle basi della logica e della matematica. Ma questo tentativo non portò a soluzioni apprezzabili e l’idea di una possibile AI sembrò tramontare, sino a quando una serie di circostanze convergenti ha riaperto il cammino fino a giungere ai risultati impressionanti che già oggi constatiamo.
La generazione di strumenti con potenza di calcolo enorme rispetto al passato, la disponibilità di grandissime quantità di dati generati da internet e dai “social media”, lo sviluppo di reti neurali artificiali sempre più grandi e complesse, le innovazioni della tecnologia informatica e degli strumenti algoritmici, sono stati i principali fattori che – con la loro convergenza e con il supporto di grandi investimenti finanziari – hanno determinato il decollo delle nuove forme di intelligenza artificiale.

AI, L'informatico John McCarthy

L’informatico John McCarthy

Ma questo percorso della AI che stiamo vivendo è in realtà solo l’inizio di un futuro ulteriore sviluppo e stiamo già incontrando, insieme a grandi risultati, grandi problemi. Quando parliamo oggi di AI dobbiamo anzitutto tenere presente che, per ora, il modello dominante è quello chiamato LLM (Large Language Model). È questo il modello sul quale si basano, ad esempio, gli operatori AI realizzati dalle società americane Open AI e Anthropic. Si tratta di modelli fondati sulle informazioni che derivano dalla assimilazione di tutti i dati disponibili e che producono i loro risultati utilizzando un metodo “stocastico”. La parola che segue ad un’altra nella risposta è decisa dai modelli AI sulla base di un calcolo di probabilità e, proprio per questo motivo, qualcuno li ha chiamati “pappagalli stocastici”. E la velocità con la quale eseguono questa procedura ed esprimono il loro risultato è sbalorditiva.
Ma questo metodo “stocastico”, certamente già in grado di risolvere problemi molto complessi, porta tuttavia con sé, proprio per la sua natura probabilistica, anche il problema strutturale di possibili errori e, inoltre, sempre a causa della sua configurazione stocastica, non siamo tecnicamente in grado, in caso di errore, di individuare con precisione dove tale errore è avvenuto né la sua causa specifica.
Stiamo parlando in particolare di modelli che sono stati addestrati utilizzando grandi quantità di dati testuali online. Questa ampia copertura consente una coerenza e una fluidità eccezionali ma aumenta anche il rischio di inesattezze o di “allucinazioni”. I modelli LLM possono infatti riflettere i pregiudizi presenti nei loro dati di addestramento, interpretare erroneamente richieste (i cosiddetti “prompt”) che a loro risultano poco chiare o modificare le informazioni per allinearle al raggiungimento dello scopo che il modello ha percepito nella richiesta. Ciò è particolarmente preoccupante quando vengono utilizzati per procedure molto sensibili, come, ad esempio, la sintesi di dati medici e biologici, l’uso per motivi di sicurezza, l’uso militare, i report di analisi finanziaria o la fornitura di dati legali nei procedimenti giudiziari.

AI, Samuel Altman amministratore delegato di OpenAI

Samuel Altman amministratore delegato di OpenAI

La situazione si è poi aggravata nel momento in cui i modelli LLM sono divenuti “agentici” e non si limitano quindi a fornire una risposta al quesito che viene loro sottoposto, ma sono in grado di agire autonomamente ed anche in modo coordinato tra loro, per raggiungere determinati obbiettivi e compiere azioni concrete, in linea di principio di qualunque tipo, per conto del richiedente.
Questi errori e travisamenti, chiamati comunemente “allucinazioni”, sono ormai ammessi e denunciati dalle stesse imprese realizzatrici dei modelli LLM come Open AI e Anthropic. E la possibilità di “allucinazioni” compromette ovviamente l’affidabilità dei modelli basati sull’apprendimento LLM, come sta già avvenendo anche nella pratica di tutti i giorni, generando ad esempio testi che si presentano come ragionevoli e coerenti ma che, in realtà, sono privi di fondamento.
Un caso qualunque tra i mille possibili: l’utilizzo dell’intelligenza artificiale da parte della società Deloitte in un rapporto di 526 pagine, del valore di 1,2 milioni di dollari, sul settore sanitario per il governo di Terranova e Labrador, in Canada, ha portato all’inserimento di citazioni totalmente false. E Deloitte ha dovuto ripubblicare il rapporto dopo aver corretto le false citazioni.
Il primo problema da affrontare è dunque la riduzione al minimo possibile di queste “allucinazioni” e la messa in atto di procedure di individuazione e controllo efficaci. Un passo avanti in questa direzione è stato realizzato integrando nei modelli LLM procedure denominate “Large Reasoning Models” (LRM). Si tratta di strutture algoritmiche e di ricerca che servono per dare regole logiche più rigorose alla elaborazione del modello, ma il motore sottostante resta stocastico e basato quindi su probabilità: ripetere due volte la stessa interrogazione può, ad esempio, portare a variazioni nel processo di elaborazione e quindi fornire due risposte diverse.

Dario Amodei amministratore delegato di Antropic

Un ulteriore tentativo per controllare il fenomeno delle “allucinazioni” si è registrato con la produzione di altri modelli denominati “Open Weights”, i quali sono generalmente disponibili per il “download” su computer e consentono all’utilizzatore, entro certi limiti, di intervenire sulle modalità d’uso del modello medesimo, adattandolo alle proprie esigenze, mentre nei principali modelli LLM ciò non è consentito dalla azienda proprietaria. Questi modelli possono, in molti casi, essere modelli destinabili anche ad usi specifici come, ad esempio, il potente modello cinese “Kimi K3”.
Accanto a questa via di possibili adattamenti dei modelli LLM stanno però sviluppandosi anche altre possibili forme di “Intelligenza Artificiale” completamente diverse nella loro impostazione sia sul piano scientifico che su quello tecnologico, soprattutto nel tentativo di eliminare i rischi di “allucinazioni” e anche di rendere i modelli meno costosi dal punto di vista energetico rispetto ai costosissimi LLM.
Yann LeCun, direttore della ricerca di Meta, che ha contribuito in maniera decisiva alla nascita dei modelli per il riconoscimento e la gestione delle immagini, ritiene ad esempio che i modelli linguistici attualmente sviluppati, per quanto potenti, siano però in un vicolo cieco verso il raggiungimento della cosiddetta “AGI” (Artificial General Intelligence) come viene chiamata una ipotetica AI con caratteristiche complessive paragonabili alla intelligenza umana.

Marchio OpenAI

Gli attuali modelli LLM, sostiene infatti LeCun, sono ottimi per la generazione di testo ma non sono in grado di capire le conseguenze delle azioni nel mondo fisico poiché non dispongono di un affidabile inquadramento del tempo, dello spazio e della causalità.
L’obiettivo dei nuovi modelli denominati da LeCun “World Models”, deve dunque essere quello di sviluppare sistemi che possano imparare dall’interazione diretta con l’ambiente fisico, costruendo una rappresentazione del mondo che permetta loro ragionamento e azione efficaci, utilizzando sia rappresentazioni neurali che componenti simboliche, superando le limitazioni e gli errori determinati dalle “allucinazioni” e dalla mancanza di “senso comune” che si registrano negli attuali modelli.
Nel caso dei “World Models” non si tratta quindi di un’ottimizzazione tecnica rispetto ai modelli LLM, ma di un vero e proprio cambio di filosofia sulla natura e le modalità della conoscenza e del ragionamento della macchina in un rapporto di più aderente corrispondenza con quelle umane.

Mark Zuckerberg amministratore delegato di Meta

L’obiettivo è di permettere al sistema di simulare scenari, prevedere conseguenze causali e agire in modo efficace in ambienti reali e, quindi, complessi. Inoltre, i “World Models” sono progettati per essere spiegabili. Se un agente AI agisse in un certo modo, dovrebbe essere possibile tracciare il ragionamento che lo ha portato a quella decisione, ad esempio: «Ho previsto che l’oggetto sarebbe caduto, quindi ho deviato».
Ma le attività di ricerca e di costruzione di nuovi modelli di AI fondati su princìpi causali, e non solo stocastici come gli LLM, non si limita ai “World Models” ma si sta sviluppando anche verso la costruzione di altri modelli di diversa concezione che dovrebbero essere in grado di tracciare la catena logica degli eventi, e renderebbero così l’intelligenza artificiale trasparente, prevedibile e più sicura.
Una linea di ricerca operativa in questa direzione riguarda la costruzione di una AI cosiddetta “Neuro-Simbolica” che dovrebbe unire il meglio dei due mondi storici dell’informatica fondendo le reti neurali artificiali con i sistemi simbolici basati sulla logica formale. Un modello di questa natura, in linea di principio, non si limita a “indovinare” la parola successiva per calcolo di probabilità, ma “dimostra” la risposta attraverso passaggi logici deduttivi e verificabili, azzerando le allucinazioni.

Jeff Bezos presidente di Amazon

E, infine, una terza direzione di ricerca operativa è quella denominata “Causal Machine Learning” (CML). Questi modelli CML integrano nella loro struttura diagrammi matematici di causa-effetto. A differenza dei sistemi LLM questi algoritmi formalizzano il calcolo dell’intervento sulla base della causalità, permettendo all’AI di comprendere non solo cosa sta accadendo, ma cosa succederebbe se si intervenisse anche con un ragionamento di verifica “contro-fattuale”, come il cervello umano sa fare.
Siamo dunque di fronte ad una fase ancora del tutto aperta dello sviluppo di queste nuove tecnologie per la realizzazione della AI del futuro. Un modello potrebbe imporsi sugli altri per efficienza, affidabilità e costi minori, oppure assisteremo alla costruzione di modelli compositi fondati sulla convergenza di tecnologie digitali e tecnologie analogiche, o altro ancora.
Anche il tempo necessario per la possibile realizzazione di efficienti nuovi modelli AI “causali” non è al momento prevedibile e potrebbe anche non essere breve. In questo caso ci dovremmo adattare ad un uso prolungato degli attuali modelli LLM e delle loro varianti comunque “stocastiche”, con le potenzialità ma anche con i rischi connessi.
In questa fase di transizione sarebbe quindi logico decidere di usare gli attuali modelli LLM con metodi concordati di coordinamento globale e prudenza normativa e non farci invece trascinare – come invece sta purtroppo accadendo sotto la spinta di finalità di predominio geopolitico e di accumulazione finanziaria – in una corsa tecnologica frenetica nella quale non siamo in grado di predisporre, in tempi altrettanto rapidi, rimedi efficaci ai rischi dei modelli attualmente disponibili, non solo per ridurre i loro errori, ma anche per impedire un loro uso scorretto o criminoso e le relative gravi conseguenze sulla nostra sicurezza.