Co naprawdę oznacza to pojęcie
Nieprawdziwa lub niepotwierdzona informacja wygenerowana przez model w przekonującej formie.
Jak wygląda w praktyce
Halucynacją jest na przykład wymyślony numer zamówienia, nieistniejący cytat albo pewna odpowiedź o warunku, którego nie ma w źródle.
Najważniejsza decyzja przed wdrożeniem
Nie należy prosić modelu, by brzmiał mniej pewnie zamiast naprawić źródła i logikę; właściwą reakcją bywa odmowa odpowiedzi albo pytanie doprecyzowujące.
Jak sprawdzić, czy rozwiązanie działa
Mierz odsetek twierdzeń bez potwierdzenia, wagę błędu, wykrywalność przez użytkownika i skuteczność eskalacji w obszarach krytycznych. Wynik należy porównać z ustaloną wersją bazową i analizować osobno dla prostych spraw, trudnych wyjątków oraz przypadków wymagających człowieka. Praktyczny test Halucynacja AI powinien mieć właściciela, datę przeglądu i zapisany przykład wyniku, którego zespół nie zaakceptuje.
Podejście PAR HOUSE Agency
Pracę z Halucynacja AI zaczynamy od procesu, a nie od demonstracji narzędzia. Nie należy prosić modelu, by brzmiał mniej pewnie zamiast naprawić źródła i logikę; właściwą reakcją bywa odmowa odpowiedzi albo pytanie doprecyzowujące. Następnie budujemy mały, mierzalny zakres, zapisujemy założenia i dopiero po kontroli jakości rozszerzamy zastosowanie.
