Înapoi la blogRead in English

RAG pe înțelesul antreprenorilor: AI din documentele firmei

Ce este RAG și cum răspunde un asistent AI din contractele și procedurile firmei: documente potrivite, GDPR, structura costului și formula de calcul.

O bibliotecară caută fragmente relevante în documentele interne pentru a răspunde la o întrebare cu surse. Accesul este controlat, iar costurile vin din indexare și utilizare.

ChatGPT scrie bine, dar nu știe nimic despre contractele, procedurile și ofertele firmei tale. RAG este metoda prin care un asistent AI caută întâi în documentele tale și abia apoi răspunde, arătând de unde a luat informația. În articolul acesta explic, fără termeni tehnici inutili, cum funcționează, ce documente i se potrivesc, ce înseamnă pentru confidențialitate, din ce este format costul și cum calculezi singur dacă merită.

Pe scurt

  • RAG este un asistent care răspunde din documentele firmei și indică sursa fiecărui răspuns.
  • Modelul nu „învață” documentele. Le consultă la fiecare întrebare. Schimbi documentul, se schimbă și răspunsul.
  • Calitatea răspunsurilor depinde mai mult de ordinea din documente decât de modelul ales.
  • Datele pot rămâne pe un server pe care îl controlezi, iar accesul se dă pe roluri.
  • Merită atunci când mai mulți oameni caută des în aceleași documente. Mai jos ai o formulă simplă de calcul.

De ce ChatGPT „simplu” nu știe nimic despre firma ta

Un model lingvistic a fost antrenat pe texte publice, adunate până la o anumită dată. Documentele tale interne nu se află printre ele. Când îl întrebi care este politica voastră de retur, are două variante: spune că nu știe sau compune un răspuns care sună plauzibil. A doua variantă este cea periculoasă, pentru că arată la fel ca un răspuns corect.

Soluția la îndemână este să lipești contractul în fereastra de chat. Are câteva probleme:

  • Nu știi sigur ce se întâmplă cu textul. În funcție de tipul de cont și de setări, conversațiile pot fi păstrate de furnizor și folosite pentru îmbunătățirea serviciului. Verifică termenii, nu presupune.
  • Contractul nu este doar al tău. Are, de multe ori, o clauză de confidențialitate și date personale ale altor oameni. Dacă îl trimiți unui terț fără temei și fără un contract de prelucrare, răspunderea rămâne la tine.
  • Nu rămâne nicio urmă. Fiecare angajat lipește ce crede de cuviință, din contul lui, și nimeni nu știe ce a plecat din firmă.
  • Nu ține pe termen lung. Lipești același document de fiecare dată, iar la texte foarte lungi detaliile se pot pierde.

Ce este RAG, cu o analogie

RAG vine de la „Retrieval-Augmented Generation”, adică generare de răspunsuri sprijinită pe căutare.

Gândește-te la doi angajați noi. Primul răspunde din memorie la orice întrebare, sigur pe el, chiar și când nu știe. Al doilea este bibliotecar. Când îl întrebi ceva, merge în arhivă, scoate dosarele potrivite, citește paginile care contează și abia apoi răspunde: „Termenul de plată este de 30 de zile, conform contractului-cadru, pagina 4.” Dacă nu găsește nimic, îți spune că nu a găsit.

RAG îl transformă pe primul angajat în al doilea. Pașii, pe scurt:

  1. Documentele sunt împărțite în fragmente și trecute într-un index, un fel de catalog al bibliotecii, care caută după înțeles, nu doar după cuvinte exacte.
  2. Când cineva pune o întrebare, sistemul caută fragmentele cele mai apropiate de ea.
  3. Modelul primește întrebarea împreună cu fragmentele găsite și instrucțiunea să răspundă numai din ele.
  4. Răspunsul vine însoțit de sursă: documentul și locul din el.

De aici decurg două lucruri utile. Modelul nu este reantrenat pe datele tale, deci nu trebuie refăcut nimic când se schimbă o procedură: actualizezi documentul și atât. Iar tu poți verifica oricând răspunsul, deschizând pagina indicată.

Ce documente merg bine și ce nu

Tip de document Cum se comportă Ce este de făcut
Proceduri, regulamente, manuale scrise ca text Foarte bine Păstrează o singură versiune valabilă
Contracte și oferte în PDF cu text selectabil Bine Denumește fișierele clar și marchează ce a expirat
Întrebări frecvente, răspunsuri-tip la e-mailuri Foarte bine Adună-le într-un singur loc
Scanări slabe, poze făcute cu telefonul, scris de mână Slab Rescanează sau folosește recunoaștere de text (OCR), verificată de un om
Tabele complicate, liste de prețuri cu celule unite Riscant: cifrele se pot amesteca Mai sigur este ca asistentul să citească direct fișierul sau baza de date, nu PDF-ul
Informații contradictorii între documente Asistentul poate cita oricare dintre variante Decide care este valabilă și arhivează restul

O regulă simplă: dacă un angajat nou și isteț nu s-ar descurca doar cu documentul acela, nici asistentul nu se va descurca.

Confidențialitate și GDPR, pe înțeles

Patru întrebări lămuresc aproape tot.

Unde stau datele? Sunt două locuri de urmărit: unde sunt păstrate documentele și indexul, și unde rulează modelul care formulează răspunsul. Ambele pot fi în Uniunea Europeană. Există și varianta de găzduire privată, în care modelul rulează pe serverul tău, iar textele nu pleacă nicăieri. Are un cost: îți trebuie un server mai puternic, iar modelele care pot fi rulate local pot fi mai slabe la întrebări complicate.

Cine le vede? Furnizorul de găzduire, furnizorul modelului (dacă este extern) și cel care administrează sistemul. Cu fiecare îți trebuie un contract de prelucrare a datelor, așa cum cere articolul 28 din GDPR, din care să reiasă limpede că datele nu sunt folosite în alte scopuri, inclusiv pentru antrenarea modelelor.

Cine din firmă are acces la ce? Accesul pe roluri înseamnă că asistentul caută doar în documentele pe care cel care întreabă are dreptul să le vadă. Un coleg de la vânzări nu primește răspunsuri din statele de plată. Regula aceasta se stabilește de la început, nu se adaugă după.

Ce urme rămân? Un jurnal arată cine a întrebat, ce a întrebat și din ce document a venit răspunsul. Este util la verificări. Fiind și el un set de date, are nevoie de un termen de păstrare.

Două precizări. RAG nu te scutește de obligațiile pe care le aveai deja: dacă documentele conțin date personale, îți trebuie în continuare temei, informare și reguli de păstrare. Și nu sunt jurist. Pentru date sensibile, cum sunt cele medicale sau cele din dosarele unui avocat, vorbește cu responsabilul cu protecția datelor înainte să începi.

Cât costă și din ce este format costul

Costul are patru părți. Cere-le separat în orice ofertă.

  1. Punerea în funcțiune, plătită o singură dată: conectarea documentelor, rolurile, regulile, testarea. Pentru un server RAG privat, durata la mine este de 5–10 zile lucrătoare. Ca reper, aplicațiile la comandă pe care le construiesc pornesc de la 1.200 €. Prețul exact depinde de câte surse sunt, în ce stare și de câte roluri este nevoie.
  2. Găzduirea, lunar: serverul pe care stau documentele și indexul. Este mai mică dacă modelul este extern și mai mare dacă modelul rulează la tine.
  3. Consumul, lunar și variabil. Modelele se plătesc în tokeni, adică bucăți de cuvânt citite și scrise. Crește cu numărul de întrebări și poate fi plafonat.
  4. Mentenanța, lunar: actualizarea surselor, verificări periodice, schimbări de model. La mine, suportul pornește de la 250 € pe lună.

Nu dau cifre pentru găzduire și consum. Depind de volum și se schimbă des, iar un număr scris aici ar fi fie depășit, fie inventat.

Dacă nu ești sigur că îți trebuie o soluție proprie, am comparat variantele în Soluții AI pre-configurate sau dezvoltare de la zero.

Cum măsori dacă merită

Urmărește trei lucruri: orele economisite la căutat, timpul în care răspunzi unui client și erorile evitate. Primul se poate calcula simplu.

Ore economisite pe lună = persoane × căutări pe zi × minute câștigate la o căutare × zile lucrătoare ÷ 60
Valoare lunară          = ore economisite × costul unei ore de muncă
Câștig net lunar        = valoare lunară − cost lunar de funcționare
Luni până la recuperare = cost de punere în funcțiune ÷ câștig net lunar

Exemplu de calcul (ilustrativ, nu un rezultat real). O firmă cu 6 oameni care caută de 5 ori pe zi în documente și câștigă 5 minute la fiecare căutare, în 21 de zile lucrătoare: 6 × 5 × 5 × 21 = 3.150 de minute, adică 52,5 ore pe lună. La un cost presupus de 10 € pe oră, valoarea este de 525 €. Pentru cost iau pragurile de pornire de mai sus: 250 € pe lună și 1.200 € la început. Câștigul net este de 275 € pe lună, iar investiția se recuperează în ceva mai mult de patru luni.

Schimbă o singură cifră și concluzia se întoarce. Cu 2 căutări pe zi în loc de 5, ies 21 de ore, adică 210 €, sub costul lunar. Tocmai de aceea merită să faci calculul cu cifrele tale, măsurate o săptămână, nu cu cele din ofertă.

Timpul de răspuns și erorile evitate nu intră ușor într-o formulă. Notează-le separat: o ofertă trimisă cu un preț vechi sau un termen contractual scăpat din vedere pot cântări mai mult decât toate orele economisite.

Limite și greșeli frecvente

Limitele, mai întâi:

  • Poate greși. Uneori găsește fragmentul nepotrivit sau îl înțelege greșit. De aceea contează sursa afișată. La decizii importante, deschide documentul.
  • Nu face totaluri. „Câte contracte expiră anul acesta?” este o întrebare pentru o bază de date, nu pentru căutarea în text. Se poate rezolva, dar cu alt instrument.
  • Nu înlocuiește specialistul. Găsește clauza. Nu îți spune dacă este bine să semnezi.

Greșelile pe care le poți evita:

  • Încarci toate documentele firmei, fără triere. Cele vechi și cele contradictorii strică răspunsurile.
  • Nu răspunde nimeni de actualizare. După câteva luni, asistentul citează proceduri care nu se mai aplică.
  • Nu ai un set de întrebări de test. Fără el, nu ai cum să știi dacă o schimbare a îmbunătățit sau a stricat ceva.
  • Dai tuturor același acces, „ca să fie simplu”.
  • Îl pui să vorbească direct cu clienții fără alte măsuri. Acela este un proiect diferit, descris în Chatbot AI pentru afacerea ta: costuri și greșeli.

Checklist: ești pregătit pentru RAG?

  • Cel puțin trei-patru oameni caută des în aceleași documente.
  • Documentele importante există în format digital, cu text selectabil.
  • Pentru fiecare tip de document se știe care este versiunea valabilă.
  • Poți numi o persoană care răspunde de actualizarea surselor.
  • Știi cine are voie să vadă ce.
  • Poți scrie 20–30 de întrebări reale, cu răspunsurile corecte, pentru testare.
  • Ai decis unde pot fi găzduite datele: în cloud, în Uniunea Europeană, sau pe serverul firmei.
  • Ai un buget lunar pentru funcționare, nu doar pentru instalare.

Dacă cele mai multe sunt adevărate, poți începe. Dacă nu, primul pas este ordinea în documente. Te ajută oricum, cu sau fără AI.

Cum lucrez eu

Serverul RAG privat este una dintre soluțiile AI pre-configurate pe care le pun în funcțiune pentru firme mici: arhitectura este gata, iar munca se duce în conectarea documentelor tale, în roluri și în testare. Încep mereu cu un singur caz de folosire și cu un set de întrebări reale. Dacă din discuție reiese că problema ta se rezolvă mai simplu, îți spun.

Dacă vrei să afli cum ar arăta la tine, scrie-mi pentru o discuție de 20 de minute. Adu două-trei exemple de întrebări la care oamenii tăi caută azi răspunsul prin foldere.

Surse