Halucinace AI
Nepravdivá informace vygenerovaná AI, která na první pohled působí věrohodně
Co je halucinace AI
Halucinace AI je nepravdivá informace vygenerovaná umělou inteligencí, která přitom působí naprosto věrohodně. Proč k ní dochází a co se děje uvnitř modelu, rozebírám na stránce halucinace v AI. Tady jde o něco jiného: o postup, kterým halucinaci chytíte dřív, než skončí na webu klienta nebo v odeslané nabídce.
Pravidlo mám jediné a bez výjimek. Co napsal model, nejde ven bez kontroly člověkem.
Co si ověřuju, než text pustím dál
Ne každá věta nese stejné riziko. Formulace, pořadí odstavců nebo návrh nadpisu vás nepotopí. Potopí vás konkrétní tvrzení, kterému čtenář uvěří, protože vypadá jako fakt. Proto začínám u nejtvrdších údajů:
- čísla: ceny, procenta, podíly na trhu, lhůty, cokoliv s jednotkou
- jména lidí, firem a nástrojů
- citace a odkazy, které je nutné rozkliknout, ne jen pohledem odsouhlasit, že URL vypadá rozumně
- právní tvrzení, od povinností e-shopu po formulace kolem GDPR
- statistiky bez uvedeného zdroje, hlavně ty podezřele kulaté
U posledních dvou bodů bývá nejrychlejší požádat o primární zdroj a dohledat si ho ručně. Když se nedohledá, údaj z textu letí. Radši věta bez čísla než číslo, které pak neobhájíte před klientem.
Věrohodnost je ta past
Kdyby AI psala nesmysly rozpoznatelné na první pohled, nikoho by to netrápilo. Text, který je celý špatně, se pozná snadno. Nebezpečný je odstavec ve správném tónu, se správnou strukturou a s jedním číslem, které si model dopočítal. Ten proklouzne kolem očí bez zadrhnutí, protože nic nedrhne.
Na blogu z toho vznikne chyba, kterou vám někdo najde v komentářích. V nabídce klientovi z toho vznikne slib, který nemáte čím podložit.
Beru to jako běžnou redakční práci, ne jako nedůvěru k AI. První draft nechám napsat, pak si text otevřu vedle zdrojů a projedu ho po tvrzeních: čísla do vyhledávače, odkazy rozkliknout, jména ověřit. Zabere to pár minut a ušetří to trapné vysvětlování před klientem.