RAG

  • RAG

Properties1
tagsstrand-pedagogy

Retrieval-Augmented Generation (RAG) je technika, kterou obohacujeme výstupy GAI determinismem.

I když bychom natrénovali jazykový model, který by obsahoval naprosto bezchybné a přesné informace, jazykový model z principu nefunguje tak, že by skládal slova a věty citováním textů, které viděl. Původní texty totiž typicky jazykové modely ani nemají (už jenom kvůli enormní velikosti datové sady), mají jenom mimořádnou schopnost generovat výstupy, které syntakticky a sémanticky odpovídají vstupním datům.

Jsou ale obory, kde “zhruba odpovídat” je zoufale nedostačující, například právo nebo právě vzdělávání.

Proto se nad rámec generativního modelu velmi často buduje i znalostní báze, která je specifická pro každou doménu. Tyto znalostní báze jsou ve strukturované v podobě, ve kterých umíme velmi efektivně vyhledávat jak pomocí klíčových slov, tak i významu.

Například u AI systémů pro advokátní kanceláře bychom jako znalostní bázi mohli použít plné znění zákonů nebo judikatury. Při dotazu na takový systém bychom jako odpověď dostali nejen vygenerovaný text, ale i odkazy na konkrétní místa v zákoně, odkud jazykový model svojí odpověď čerpal.1

Ždibec používá tuto techniku k vyhledávání matematických termínů a definic, které jsou umístěny v glosáři.

RAG ale sám o sobě ve vzdělávání nestačí, protože zachycuje pouze vstupy (z čeho má jazykový model čerpat), ne výstupy (jaké kvality jsou samotné inference modelu). Možným řešením (Potkalitsky) je sběr zpětné vazby lektorů a pedagogů.

Zdroje

Vysvětlivky

  1. Formulace bližší realitě by byla “konkrétní místa v zákoně, které jazykový model považoval za sémanticky nejbližší”. ↩