Technika, kdy AI čerpá z externích zdrojů při generování odpovědi
RAG (Retrieval-Augmented Generation) je technika, při které si AI před odpovědí nejdřív vyhledá podklady v připojené znalostní bázi a teprve z nich odpověď sestaví. Neodpovídá tedy zpaměti. Sáhne do vašich dokumentů, ceníků nebo FAQ a drží se toho, co v nich skutečně je.
Technicky jde o dvě fáze – retrieval (vyhledání relevantních dokumentů) a generation (sestavení odpovědi z nalezeného). Zní to jako implementační detail, jenže právě tohle rozhoduje, jestli chatbot cituje váš aktuální reklamační řád, nebo si nějaký vymyslí.
Jazykový model ví jen to, co bylo v trénovacích datech. Změnili jste minulý týden obchodní podmínky? Smůla – model zná ty staré. S RAG pracuje s tím, co mu podstrčíte dnes.
Druhá věc je spolehlivost. Odpověď opřená o konkrétní dokument znamená míň halucinací a hlavně se dá dohledat, odkud informace pochází. U firemního nasazení to bývá rozhodující argument – chatbota, který zákazníkům slíbí neexistující slevu, nechce nikdo.
Nejčastěji zákaznická podpora a firemní chatboti: bot odpovídá z manuálů, produktových listů a směrnic. Na stejném principu ostatně stojí i Perplexity nebo AI přehledy ve vyhledávání – nejdřív najdi zdroje, pak teprve odpovídej.
Když s klientem řešíme AI chatbota na e-shopu, RAG je první věc na stole. Bez napojení na reálná data je chatbot hračka, která dřív nebo později něco vymyslí. S napojením je z něj použitelný nástroj podpory – a rozdíl poznáte hned z prvních pár odpovědí.
