Che cosa significa in pratica
Un’allucinazione si verifica quando il modello genera informazioni plausibili senza un sostegno sufficiente nei dati o nelle fonti.
Quando la soluzione aiuta davvero
Limitare le allucinazioni è particolarmente importante quando la risposta riguarda fatti, documenti o dati la cui correttezza può essere confrontata con la fonte. L’impiego dovrebbe derivare da un problema concreto, non dalla sola disponibilità di una nuova funzionalità.
Come preparare l’implementazione
La sicurezza va testata con esempi difficili e appositamente preparati. Il modello non deve ampliare autonomamente le proprie autorizzazioni e i dati riservati devono essere separati dai contenuti esterni. In pratica è utile richiedere la citazione di un passaggio preciso, limitare la risposta ai dati disponibili e affidare i casi incerti a una persona.
Un limite da non trascurare
Un tono più sicuro non significa maggiore veridicità e il modello può combinare elementi veri in una conclusione falsa. Prima dell’avvio occorre quindi definire chi decide, le regole di escalation e il modo di fermare la soluzione in sicurezza.
Come verificare il risultato
In questo caso bisogna misurare la percentuale di affermazioni sostenute da fonti, gli errori critici, i rifiuti corretti e il tempo necessario per la verifica. Il risultato va confrontato con il precedente metodo di lavoro, separatamente per i casi ordinari e le eccezioni difficili.
