Cosa è importante sapere
L'allucinazione è una risposta convincente che non si basa sui fatti. Il modello prevede il testo probabile e non verifica la veridicità di se stesso, quindi può completare erroneamente le informazioni mancanti.
Utilizzazioni pratiche in azienda
Il rischio è particolarmente grave per quanto riguarda le informazioni sanitarie, i prezzi, l'accessibilità e le condizioni giuridiche. L'assistente deve sapere da quali fonti può scegliere e quando confessare di non sapere la risposta.
Controllo qualità e sicurezza
Utilizzare RAG, citazioni di fonti interne, limitazioni di tema e test di un set di domande reali. Le uscite critiche devono essere controllate da un uomo e il sistema deve registrare le correzioni.
Decisione di amministrazione
Non misurate solo la fluidità della risposta, ma seguite l'accuratezza, la completezza, l'attualità e il numero di casi che sono stati correttamente trasmessi al specialista.
