Allucinazione
Hallucination
Un'allucinazione è quando un'AI produce una risposta plausibile ma falsa, inventando dati, fonti o dettagli che sembrano veri ma non lo sono.
Succede perché i modelli prevedono la risposta più probabile, non la verità. È il rischio numero uno nell'uso aziendale: per questo un assistente serio va collegato ai dati reali (RAG) e istruito a dire 'non lo so' invece di inventare.
In pratica
Un assistente non collegato ai dati potrebbe inventare un orario di apertura: per questo Amy risponde solo su informazioni verificate.
Termini collegati
Il RAG (Retrieval-Augmented Generation) è la tecnica che collega un'AI ai tuoi documenti reali, così risponde basandosi sui tuoi dati e non solo su ciò che ha imparato in generale.
GuardrailI guardrail sono le regole e i limiti che si impostano su un'AI per fare in modo che risponda solo su ciò che deve, con il tono giusto e senza dire cose sbagliate o rischiose.
Large Language ModelUn LLM (Large Language Model) è un modello di linguaggio di grandissime dimensioni, addestrato su miliardi di testi, capace di conversare, riassumere, tradurre e scrivere in modo simile a un umano.
Vuoi applicare l'AI alla tua attività?
Fai analizzare il tuo sito da Amy, gratis — o prenota 30 minuti con noi.