Allucinazione dell’AI è un concetto importante per capire come funzionano e come vengono utilizzati i sistemi di intelligenza artificiale. In questa scheda trovi una spiegazione concreta, il funzionamento tecnico essenziale, un esempio e i limiti da ricordare.
Indice
- Definizione semplice
- Come funziona
- Esempio pratico
- A cosa serve
- Limiti ed errori comuni
- Da non confondere con
- FAQ
Che cos’è Allucinazione dell’AI
Un’allucinazione è un output generato con sicurezza apparente ma non supportato da fatti, fonti o dati disponibili. Può riguardare nomi, numeri, citazioni, eventi, codice o relazioni causali.
È uno dei principali rischi dei sistemi generativi perché forma e tono possono rendere credibile un contenuto falso. La probabilità e la gravità dipendono dal compito e dai controlli.
Come funziona
- Il modello genera la continuazione linguisticamente probabile, non effettua automaticamente una verifica dei fatti.
- Domande ambigue, contesto insufficiente o richieste su informazioni rare aumentano l’incertezza.
- Anche una RAG può fornire fonti non pertinenti o essere interpretata male dal modello.
La realizzazione concreta varia tra modelli e prodotti. Per questo è importante verificare documentazione, versione, configurazione e condizioni del servizio utilizzato.
Esempio pratico
Se si chiede una sentenza inesistente, un modello potrebbe creare numero, data e motivazione plausibili. In un’attività legale, medica o finanziaria questo errore non può essere gestito con una semplice rilettura stilistica: serve verifica su fonti autorevoli.
A cosa serve
- comprendere il rischio degli output generativi
- progettare controlli e test
- definire attività che richiedono approvazione umana
Il valore non dipende soltanto dalla tecnologia: occorre definire il risultato atteso, preparare esempi realistici e stabilire come misurare qualità, tempi, costi e rischi.
Limiti ed errori comuni
- non esiste un metodo universale che le elimini
- l’autovalutazione del modello non è una prova
- citazioni formalmente corrette possono essere irrilevanti
- risposte brevi possono comunque contenere errori critici
In processi aziendali o ad alto impatto è opportuno conservare log, versioni e fonti, applicare il principio del minimo privilegio e prevedere un controllo umano proporzionato alle conseguenze.
Da non confondere con
Un errore di recupero avviene quando il sistema seleziona la fonte sbagliata; un’allucinazione avviene nella generazione. I due problemi possono combinarsi e devono essere misurati separatamente.
FAQ
Come si riducono?
Con fonti affidabili, RAG, output strutturati, strumenti di verifica, limiti sul compito e controllo umano.
Chiedere “sei sicuro?” è sufficiente?
No. Il modello può confermare un errore. È necessario confrontare l’affermazione con evidenze esterne.
Quali attività sono più rischiose?
Quelle con informazioni rare, aggiornate, numeriche o ad alto impatto, soprattutto senza fonti verificabili.
In sintesi
Allucinazione è utile quando viene inserito in un’architettura e in un processo coerenti. Conoscerne funzionamento e limiti aiuta a evitare aspettative errate e a scegliere strumenti adeguati.
Termini correlati
Iscriviti alla newsletter di BASI DI AI per ricevere guide e approfondimenti.
