L’Intelligenza Artificiale sa tutto.  Beh non esattamente. Conosce “solo” la knowledge base con cui viene allenata, la rielabora, dà risposte in modo convinto… che poi, in realtà, non ha nemmeno capito le informazioni e i dati che ha a disposizione. Si limita ad assemblarli secondo una certa logica. 

È un gioco di luci e di specchi. Non diversamente da un abilissimo prestigiatore, l’AI è capace di far emergere la silhouette di un mazzo di rose in mezzo a una cascata di coriandoli lanciati in aria. L’effetto è magico, ma di magia non c’è traccia. Così come nell’Intelligenza Artificiale non esiste alcuna forma di “intelligenza” (tranne quella dei programmatori a monte). 

Insomma, ci si può lasciar ingannare o utilizzare l’AI in modo critico… perché può capitare che ogni tanto dal cilindro non esca un coniglio. 

Fine delle metafore. Parliamo di allucinazioni.

Allucinazioni in che senso?

L’AI non è un essere senziente e, come abbiamo visto, la sua base di conoscenza è limitata, per quanto estesa. In mezzo a questo marasma di dati e di vettori da assemblare secondo intricati algoritmi, l’AI può smarrire la strada per fornire la risposta corretta. E cosa fa? Deve comunque fornire un output, è la sua raison d’être, non importa che sia giusto o sbagliato. 

Quelle risposte che contengono informazioni false, fuorvianti, inventate o riprese dalla richiesta iniziale sono chiamate allucinazioni. Sembrano realistiche a prima vista, ma non hanno alcun fondamento nei dati o nella realtà. Da qui il termine “allucinazione”, cioè errori di percezione e produzione nei modelli AI. 

Se hai utilizzato un modello di AI per trovare informazioni o generare testi è molto probabile che ti sia capitato di incappare in un’allucinazione. Facciamo comunque un esempio per chiarezza.

Il caso di Air Canada ha già fatto storia: il suo chatbot ha informato un viaggiatore che avrebbe potuto richiedere uno sconto per lutto sul biglietto aereo entro 90 giorni dall’acquisto. Informazione non vera, perché la policy aziendale era diversa. 

Questa allucinazione è costata a Air Canada il risarcimento del viaggiatore (più tutte le spese accessorie per il processo).  

Come nascono le allucinazioni nelle AI?

Le allucinazioni possono sorgere per svariate ragioni, indipendenti dall’input dato dall’utente. Questo significa che non puoi prevenirle, perché non dipendono dalla tua richiesta, ma dai limiti del modello stesso. Ecco alcune delle cause principali:

• complessità eccessiva del modello: le reti neurali profonde usate per addestrare l’AI imparano schemi complessi dai dati, ma a volte interpretano male quelle informazioni o estraggono correlazioni inesatte, producendo output sbagliati
• dati di addestramento incompleti o poco utili: se l’AI non ha avuto accesso a dati sufficientemente accurati e diversificati, può generare risposte senza un vero contesto di realtà o collegare informazioni non pertinenti
• limitazioni intrinseche del modello: alcuni modelli possono “inventare” risposte per fornire un output coerente al prompt ricevuto. Questo accade perché nella loro programmazione non è presente alcuna indicazione su cosa rispondere quando non è possibile reperire l’informazione desiderata
• ambiguità e complessità del mondo reale: la realtà è piena di dettagli e dinamiche complesse che possono sfuggire alla comprensione del modello, portando a semplificazioni e imprecisioni
  

Si possono evitare le allucinazioni?

Come abbiamo detto, la risposta è no. Allora perché farsi questa domanda? In realtà prevenire e limitare le allucinazioni è una delle sfide principali del momento. I grandi nomi dell’Intelligenza Artificiale (OpenAI, Microsoft, DeepSeek, Anthropic…) stanno cercando attivamente di arginare questa falla del sistema che causa perdita di credibilità e danno di immagine. 

Siamo ancora lontani da una soluzione accettabile, ma alcuni tentativi per prevenire il problema sono stati fatti. Eccone alcuni:

1. Retrieval Augmented Generation (RAG)

La RAG è una tecnica già abbastanza diffusa, che combina la generazione di testo da modelli linguistici con il recupero di informazioni da fonti esterne aggiornate e affidabili. 

Questo ancoraggio a fonti esterne riduce notevolmente le allucinazioni perché evita che il modello “speculi” senza basi.

2. Low-Rank Adaptation (LoRA)

LoRA è una tecnica per adattare modelli di machine learning di grandi dimensioni a compiti specifici senza doverli riaddestrare completamente ogni volta. Invece di modificare tutti i pesi del modello, LoRA congela il modello originale e aggiunge piccole matrici addestrabili a basso rango che agiscono come adattatori.

Durante l’addestramento, si aggiornano solo questi adattatori leggeri, che rappresentano le modifiche necessarie per il nuovo compito con molti meno parametri rispetto all’intero modello. 

Questo riduce drasticamente i costi computazionali e consente di personalizzare rapidamente modelli molto grandi, riducendo la frequenza delle allucinazioni.

3. Miglioramento della qualità dei dati di addestramento

Una base di dati di training accurata e aggiornata è fondamentale per ridurre le allucinazioni. Eliminare dati duplicati, errati o contraddittori durante la fase di addestramento aiuta il modello a imparare solo informazioni affidabili e coerenti, riducendo la probabilità di errori o invenzioni successive.

4. Supervisione umana e audit dell’IA

Il controllo umano regolare sui risultati generati dal modello può identificare e correggere le allucinazioni che il modello produce. Le revisioni da parte di esperti, cicli di feedback e verifiche periodiche consentono di correggere gli errori e migliorare continuamente l’affidabilità del sistema.

Fidarsi è bene, non fidarsi è meglio

L’AI è uno strumento di lavoro imperfetto. Utile, rivoluzionario, ma non ancora affidabile al 100%. Ecco perché non devi prendere i suoi output come verità assoluta. Verifica sempre le risposte che ricevi per fugare ogni dubbio sulla loro correttezza. 

Si perde un po’ di magia così: l’Intelligenza Artificiale perde il suo alone di onnipotenza e si svela per quello che è veramente. Un geniale aiutante da supervisionare. Un trucco di prestidigitazione che cattura il tuo occhio verso qualcosa di straordinario e ti distrae dagli intricati giochi di luci e specchi tutt’attorno. 

Niente paura, se l’AI continua a evolversi alla stessa velocità degli ultimi anni, non manca molto prima di assistere a una vera e propria magia. Intanto, sfrutta tutto l’enorme potenziale che ha già adesso… l’importante è farlo con spirito critico.