AI & Nové technologie

RAG

Q: Potřebuju kvůli RAG přetrénovat vlastní model?

Ne. Znalosti dodáte přes databázi dokumentů, kterou průběžně aktualizujete. Samotný jazykový model zůstává, jak je.

Technika, kdy AI čerpá z externích zdrojů při generování odpovědi

(Retrieval-Augmented Generation)

Co je RAG

RAG (Retrieval-Augmented Generation) je technika, při které si AI před odpovědí nejdřív vyhledá podklady v připojené znalostní bázi a teprve z nich odpověď sestaví. Neodpovídá tedy zpaměti. Sáhne do vašich dokumentů, ceníků nebo FAQ a drží se toho, co v nich skutečně je.

Technicky jde o dvě fáze: retrieval (vyhledání relevantních dokumentů) a generation (sestavení odpovědi z nalezeného). Zní to jako implementační detail, jenže právě tohle rozhoduje, jestli chatbot cituje váš aktuální reklamační řád, nebo si nějaký vymyslí.

Proč se RAG používá

Jazykový model ví jen to, co bylo v trénovacích datech. Změnili jste minulý týden obchodní podmínky? Smůla, model zná ty staré. S RAG pracuje s tím, co mu podstrčíte dnes.

Druhá věc je spolehlivost. Odpověď opřená o konkrétní dokument znamená míň halucinací a hlavně se dá dohledat, odkud informace pochází. U firemního nasazení to bývá rozhodující argument – chatbota, který zákazníkům slíbí neexistující slevu, nechce nikdo.

Kde RAG využijete

Nejčastěji zákaznická podpora a firemní chatboti: bot odpovídá z manuálů, produktových listů a směrnic. Na stejném principu ostatně stojí i Perplexity nebo AI přehledy ve vyhledávání – nejdřív najdi zdroje, pak teprve odpovídej.

Když s klientem řešíme AI chatbota na e-shopu, RAG je první věc na stole. Bez napojení na reálná data je chatbot hračka, která dřív nebo později něco vymyslí. S napojením je z něj použitelný nástroj podpory, a rozdíl poznáte hned z prvních pár odpovědí.

Časté otázky

Jak RAG snižuje halucinace?

Model nehádá zpaměti. Odpověď staví na dokumentech, které si k dotazu vyhledal. Úplně na nulu tím halucinace nesrazíte, ale prostor pro vymýšlení se výrazně zmenší. Kontrola důležitých výstupů člověkem pořád dává smysl.

Potřebuju kvůli RAG přetrénovat vlastní model?

Ne, a právě proto je RAG tak oblíbený. Znalosti dodáte přes databázi dokumentů, kterou prostě průběžně aktualizujete. Samotný model zůstává, jak je.

K čemu je RAG firmě?

Typicky pohání chatboty a zákaznickou podporu, které mají odpovídat podle vašich ceníků, FAQ a obchodních podmínek, a to aktuálně a bez fantazírování.

RAG