RAG: ako dať AI prístup k firemným dátam tak, aby si nevymýšľala

V skratke

• RAG dáva AI prístup k vašim dokumentom bez trénovania modelu. Pri každej otázke systém vyhľadá správne pasáže a model odpovedá len z nich, s odkazom na zdroj.
• Vymýšľanie zníži, ale neodstráni. Podľa štúdie Stanfordu z roku 2024 klesla chybovosť právnych nástrojov s RAG na 17 až 34 % oproti 58 až 82 % pri všeobecnom modeli. Bez odkazu na zdroj je každá odpoveď len tvrdenie.
• Technológia je lacná, práca nie. Spracovanie desaťtisíc strán stojí pod dolár, dvetisíc otázok mesačne desiatky dolárov. Drahé je upratanie dokumentov a prístupové práva.
• Hotový asistent stačí, keď sa pýtate na vlastné súbory sami. RAG na mieru má zmysel, keď sa má na dáta pýtať viac ľudí, zákazníci alebo iné systémy a odpoveď musí byť overiteľná.
• Dáta nemusia opustiť EÚ ani vašu firmu. Vyhľadávanie môže bežať u vás, modelu sa posielajú len úryvky.

Čo je RAG a prečo sa o ňom hovorí

RAG je spôsob, ako AI odpovedá z vašich dokumentov namiesto z vlastnej pamäte. Skratka znamená retrieval-augmented generation, po slovensky generovanie doplnené vyhľadávaním. Pri každej otázke systém najprv nájde vo vašich súboroch niekoľko najrelevantnejších pasáží, priloží ich k otázke a model z nich sformuluje odpoveď. Model sa nič nové neučí, len dostane správne podklady.

Postup opísali výskumníci z Facebook AI v roku 2020 v práci Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Do praxe sa dostal, keď firmy zistili, že bežný AI asistent síce píše plynulo, ale o ich zmluvách, cenníkoch a smerniciach nevie nič. Dotrénovať model na vlastných dátach je drahé, pomalé a po každej zmene dokumentu treba začať odznova. RAG tento problém obchádza: dokument sa zmení, vyhľadávanie ho nájde v novej podobe a odpoveď je aktuálna.

Predstavte si nového kolegu, ktorý má pri sebe celý firemný archív a pred každou odpoveďou si v ňom nalistuje správnu stranu. Nepamätá si všetko, ale vie, kde hľadať, a povie vám, z ktorej strany odpoveď vzal. Rovnaký postup používa aj väčšina firemných AI agentov, keď potrebuje pracovať s vašimi dokumentmi. Píšeme o tom v článku o tom, čo je AI agent.

Prečo bežná AI vymýšľa a čo z toho RAG naozaj rieši

Bežný model odpovedá z toho, čo sa naučil pri trénovaní. Keď sa ho spýtate na niečo, čo v tréningových dátach nebolo, napríklad na vašu reklamačnú lehotu, odpoveď si zloží z podobných prípadov a povie ju s rovnakou istotou ako fakt. RAG mu dá skutočný text vašej smernice a inštrukciu odpovedať iba z neho. Vymýšľanie tým klesne, ale nezmizne.

Najlepšie to zmerala štúdia Stanford University z mája 2024 na právnych nástrojoch. Na vyše 200 právnych otázkach odpovedali všeobecné modely nesprávne v 58 až 82 % prípadov. Špecializované nástroje postavené na RAG mali chybovosť 17 až 34 %. Výrazné zlepšenie, ale ďaleko od nuly, ktorú sľubovali ich predajcovia.

Z toho vyplýva pravidlo, ktoré je dôležitejšie než výber modelu: každá odpoveď musí obsahovať odkaz na dokument a pasáž, z ktorej vznikla. Bez odkazu nemá používateľ ako zistiť, či číta vašu smernicu alebo domnienku. S odkazom je overenie na jedno kliknutie.

RAG, dotrénovanie modelu alebo hotový asistent

Pre väčšinu firiem je správna voľba RAG alebo hotový asistent. Dotrénovanie modelu na vlastných dátach dáva zmysel iba výnimočne. Rozhoduje, kto sa má pýtať, ako často sa dáta menia a či musí byť odpoveď overiteľná.

Praktické pravidlo: ak si dokáže každý zamestnanec nahrať svoje súbory do asistenta a stačí mu to, kúpte predplatné. Ak sa má na tie isté dáta pýtať viac ľudí, zákazníci alebo iný systém, ak sa dáta menia a ak niekto musí vedieť, kto smie vidieť čo, potrebujete RAG.

Kde sa AI nad firemnými dátami oplatí

Oplatí sa všade, kde ľudia opakovane hľadajú odpovede v dokumentoch, ktoré existujú, ale nikto ich nečíta celé. Čím väčší archív a čím viac ľudí sa pýta, tým väčšia úspora. Typické prípady:

Podľa Eurostatu používalo v roku 2025 technológie AI 18,0 % slovenských firiem s aspoň desiatimi zamestnancami, oproti 10,8 % v roku 2024. Najčastejšie využitie v EÚ je analýza písaného textu, uvádza ju 11,8 % firiem. Presne to RAG robí: číta vaše texty a odpovedá z nich.

Koľko stojí RAG

Technológia stojí rádovo desiatky dolárov mesačne, práca okolo nej tisíce eur jednorazovo. Kto vám ponúka RAG za cenu technológie, nezarátal upratovanie dokumentov a prístupové práva. Rozpočet si viete odhadnúť z troch čísel: koľko strán máte, koľko otázok mesačne čakáte a kde majú dáta bežať.

Náklady na technológiu podľa verejných cenníkov zo septembra 2026:

Príklad: firma s desaťtisíc stranami dokumentov a dvetisíc otázkami mesačne. Jedna otázka s piatimi úryvkami má na vstupe približne 4 000 tokenov a odpoveď 400 tokenov. Mesačne je to 8 miliónov tokenov na vstupe a 0,8 milióna na výstupe, teda 8 $ plus 4 $ pri menšom modeli. Aj s väčším modelom a serverom ste pod 60 € mesačne. Naše orientačné rozpätie za technológie v menších projektoch je 50 až 200 € mesačne a fakturuje sa ako preplácanie nákladov.

Skutočná investícia je práca: inventúra dokumentov, rozhodnutie, ktoré verzie sú platné, nastavenie prístupových práv, napojenie na miesto, kde ľudia pracujú, a testovanie na reálnych otázkach. Projekt na mieru u nás začína orientačne na 1 000 € jednorazovo plus 250 € mesačne, väčšie systémy s viacerými zdrojmi a integráciami sú v cenníku.

Tokeny sú kúsky textu, ktorými model počíta. Podľa Anthropicu zodpovedá jeden token približne štyrom znakom alebo trom štvrtinám anglického slova. Slovenčina je na tokeny drahšia, preto počítajte s rezervou približne tretiny.

Čo RAG nezvládne a kde nasadenia zlyhávajú

RAG nezvládne odpovedať z dokumentov, ktoré neexistujú, sú zastarané alebo si protirečia. A nezvládne rozhodnúť, kto smie vidieť čo, ak ste to nerozhodli vy. Väčšina neúspešných nasadení zlyhala na dátach a právach, nie na modeli.

• Zastarané verzie. Ak máte v archíve tri verzie cenníka, systém nájde všetky tri a odpoveď bude náhodná. Inventúra dokumentov je prvý krok a nedá sa preskočiť.
• Nezapísané znalosti. To, čo vie iba pani z fakturácie, v žiadnom dokumente nie je. RAG to nemá odkiaľ vziať.
• Prístupové práva. Ak do systému nahráte mzdové tabuľky a nenastavíte, kto ich smie vidieť, vidí ich každý, kto sa vhodne spýta. Práva sa riešia na úrovni dokumentov pred spustením.
• Naskenované dokumenty bez textu. Fotka zmluvy nie je text. Najprv treba rozpoznať písmo, a pri starých skenoch to nie je zadarmo ani bezchybné.
• Odpovede bez zdroja. Systém, ktorý neukáže, odkiaľ odpoveď vzal, sa nedá kontrolovať a ľudia mu prestanú veriť po prvej chybe.
• Zodpovednosť. Za odpoveď, ktorú systém dal zákazníkovi, ručíte vy. Preto pri zákazníkoch odporúčame režim, v ktorom AI pripraví návrh a človek ho schváli.

Ako vyzerá nasadenie krok za krokom

Nasadenie začína zoznamom otázok a inventúrou dokumentov, nie výberom modelu. Model sa dá vymeniť za hodinu. Zle upratané dokumenty vás budú trápiť roky.

1. Vyzbierajte reálne otázky. Sto až dvesto otázok, ktoré ľudia naozaj kladú kolegom alebo podpore. Nie to, čo si myslíte, že sa pýtajú.
2. Vyberte jeden typ dokumentov a jedno oddelenie. Napríklad interné smernice pre personálne oddelenie. Nie celý zdieľaný disk.
3. Urobte inventúru. Ktoré dokumenty sú platné, kto je ich vlastník, kto ich smie vidieť. Neplatné odstráňte, nie skryte.
4. Nastavte prístupové práva rovnako, ako ich máte v systéme, kde dokumenty žijú. Ak ich tam nemáte, toto je chvíľa, keď ich zavediete.
5. Rozhodnite, kde dáta bežia. Server u vás, dátové centrum v EÚ alebo cloud výrobcu modelu. Toto rozhodnutie sa spätne mení najhoršie.
6. Spustite pilot s odkazmi na zdroj a nechajte ho bežať vedľa bežného postupu tri až štyri týždne. Merajte, koľko odpovedí bolo správnych a koľko z nich ľudia použili.
7. Rozširujte po jednom zdroji. Každý nový typ dokumentov pridá otázky, ktoré predtým nikto nekládol, a odhalí, čo v archíve chýba.

Prvé dva až štyri týždne bývajú najcennejšie aj bez AI: firma po prvýkrát zistí, ktoré dokumenty sú vlastne platné.

Kde bežia dáta a ako to sedí s GDPR

Dáta nemusia opustiť vašu firmu ani Európsku úniu. Vyhľadávacia časť môže bežať u vás a modelu sa posielajú len úryvky potrebné na odpoveď, nikdy celý archív. Pri citlivých dátach existuje aj variant, kde beží u vás úplne všetko vrátane modelu.

Tri veci, ktoré si vyjasnite s dodávateľom pred podpisom:

• Čo presne odchádza k výrobcovi modelu. Správne je: otázka a niekoľko úryvkov. Nesprávne je: celé dokumenty pri každej otázke.
• Či sa vaše dáta používajú na trénovanie. Pri firemných rozhraniach veľkých poskytovateľov štandardne nie, ale musí to byť v zmluve, nie v marketingu.
• Kde fyzicky bežia servery a či máte so spracovateľom zmluvu podľa GDPR.

U nás dáta zostávajú vo vašej infraštruktúre alebo v EÚ regióne a nepoužívame ich na trénovanie modelov. Tok dát riešime v analýze ako prvú vec, nie na konci.

Kde začať, ak neviete, či to má u vás zmysel

Spíšte dvadsať otázok, ktoré vaši ľudia najčastejšie kladú kolegom, a ku každej napíšte, v ktorom dokumente je odpoveď. Ak pri polovici zistíte, že dokument neexistuje alebo je zastaraný, máte pred sebou najprv upratovanie. Ak odpovede v dokumentoch sú a ľudia ich aj tak hľadajú desiatky minút, RAG sa zaplatí.

Ak si tým prejsť nechcete sami, začnite bezplatným úvodným rozhovorom. Tridsať minút online, bez záväzku a bez predajnej prezentácie. Prejdeme si, aké dokumenty máte, kto sa na ne pýta a či vám stačí hotový asistent za predplatné. Ak stačí, povieme vám to rovno a nebudeme vám nič predávať.

Až keď z rozhovoru vyjde, že priestor existuje, nasleduje platená analýza. Strávime v nej 30 až 60 hodín nad vašimi procesmi a dokumentmi a vyjde z nej konkrétny rozsah, rozpočet, tok dát a výpočet návratnosti. V mesačnej spolupráci potom sledujeme návratnosť na reálnych číslach a ak klesne pod 1,5-násobok, buď to napravíme, alebo spoluprácu ukončíme.

Ak potrebujete dokumenty nielen prehľadávať, ale aj z nich vyťahovať údaje do systému, nadväzuje na to AI spracovanie dokumentov.

Zdroje

• Lewis a kol., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, Facebook AI Research, 2020. Pôvodná práca, ktorá postup opísala.
• Stanford HAI: AI on Trial, Legal Models Hallucinate in 1 out of 6 (or More) Benchmarking Queries, máj 2024. Vyše 200 právnych otázok, chybovosť nástrojov s RAG 17 až 34 %, všeobecných modelov 58 až 82 %.
• Eurostat, databáza isoc_eb_ai: podiel firiem s aspoň desiatimi zamestnancami používajúcich technológie AI, Slovensko 18,0 % v roku 2025 a 10,8 % v roku 2024. Najčastejšie využitie v EÚ, analýza písaného textu, 11,8 %, podľa správy z 11. decembra 2025.
• Cenník Anthropic API, overené v septembri 2026: Haiku 4.5 1 $ za milión tokenov na vstupe a 5 $ na výstupe, Sonnet 5 2 $ a 10 $. Odhad jedného tokenu ako približne štyroch znakov je z tej istej stránky.
• Cenník OpenAI API, overené v septembri 2026: text-embedding-3-small 0,02 $ za milión tokenov.
• Ceny hotových asistentov (Microsoft 365 Copilot, ChatGPT Business) sa nám nepodarilo overiť na oficiálnych stránkach, preto ich neuvádzame. Platia sa za používateľa mesačne, aktuálnu sumu nájdete u výrobcu.