RAG

Čo je RAG?

RAG (Retrieval-Augmented Generation) je architektonický vzor, ktorý kombinuje veľký jazykový model (LLM) s dynamickým vyhľadávaním vo firemných dokumentoch a dátach. Namiesto aby model odpovedal len z toho, čo sa naučil počas tréningu (čo vedie k „halucináciám” a neaktuálnym informáciám), RAG najprv nájde relevantné pasáže v interných dokumentoch a až potom ich pošle modelu ako kontext pre generovanie odpovede.

Technická architektúra RAG:

1. Indexácia — dokumenty sa rozdelia na menšie chunky (typicky 200-500 slov)
2. Vektorizácia (embeddings) — každý chunk sa previesť na numerický vektor
3. Uloženie — vektory sa uložia do vektorovej databázy (Pinecone, Qdrant, pgvector)
4. Query — používateľská otázka sa tiež prevedie na vektor
5. Retrieval — nájdu sa top-K najpodobnejšie chunky
6. Generation — LLM vygeneruje odpoveď s kontextom z nájdených chunkov

V slovenskom B2B kontexte RAG rieši bolesť typu „kde máme tú smernicu o cestovných náhradách?” alebo „aké ceny sme účtovali firme XYZ za posledné 3 roky?” — odpoveď vzniká priamo z firemných dokumentov, s citáciou zdroja.

Kedy sa používa

RAG je kľúčová technológia pre:

• Firemných chatbotov odpovedajúcich z interných dokumentov
• Semantické vyhľadávanie v zmluvách, smerniciach, wiki
• Automatizáciu podpory — prvá línia odpovedá na základe knowledge base
• Analýzu veľkých archívov (right-to-erasure GDPR audit)

Pozri modul Súbory, modul Zmluvy a stránku AI.

Súvisiace pojmy

• AI Agent — agent často používa RAG ako jeden z nástrojov. Pozri /slovnik/ai-agent.
• MCP — protokol pre pripojenie RAG systému k agentovi. Pozri /slovnik/mcp.
• OCR — naskenované dokumenty sa pred RAG indexáciou musia OCR-nuť. Pozri /slovnik/ocr.

V Modulariu

Modulario používa RAG nad dokumentmi v module Súbory a Zmluvy — kto potrebuje odpoveď, položí otázku v prirodzenom jazyku a systém odpovie s odkazmi na konkrétne dokumenty. Indexácia prebieha automaticky po nahraní súboru.

Interná RAG infraštruktúra Modulario garantuje, že dáta zákazníka sa nikdy nepoužívajú na trénovanie modelov ani neodchádzajú mimo EÚ infrastruktúru. Zákazník vidí, z ktorých dokumentov AI čerpala informácie, a môže obmedziť zdroje cez RBAC alebo ReBAC.