Pereiti prie turinio
1kodas

RAG paprastai: kaip AI atsako pagal jūsų įmonės dokumentus

Kas yra RAG (Retrieval-Augmented Generation), kaip jis veikia ir kaip pokalbių robotas gali atsakyti remdamasis jūsų dokumentais, o ne spėliodamas.

Dirbtinis intelektas 1kodas Atnaujinta 2 min. skaitymo

Dideli kalbos modeliai (LLM) nepažįsta jūsų įmonės: jie nežino jūsų kainų, vidinių taisyklių ar produktų aprašymų. Paklausti apie tai, jie gali išgalvoti įtikinamai skambantį atsakymą. Šią problemą padeda spręsti RAG – angl. Retrieval-Augmented Generation, lietuviškai – atsakymų generavimas, papildytas paieška.

Kaip veikia RAG

Idėja paprasta: prieš atsakydamas modelis „paskaito“ jūsų dokumentus. Procesas atrodo taip:

  1. Dokumentų paruošimas. Failai (PDF, Word, svetainės, el. laiškai) suskaidomi į nedideles dalis.
  2. Indeksavimas. Kiekviena dalis paverčiama skaičių rinkiniu – vektoriniu įterpiniu (angl. embedding), kuris atspindi teksto prasmę, ir saugoma vektorinėje duomenų bazėje.
  3. Paieška. Gavus klausimą, surandamos labiausiai tinkamos dokumentų dalys.
  4. Atsakymo parengimas. Modelis gauna klausimą kartu su rastomis ištraukomis, suformuluoja atsakymą ir nurodo šaltinius.

Svarbiausia, kad modelis atsakydamas remiasi ne atmintimi, o konkrečiais jūsų tekstais, kuriuos galima patikrinti.

Kur RAG naudingiausias

  • Klientų aptarnavimas: atsakymai pagal produktų aprašymus, DUK ir sąlygas.
  • Vidinė žinių bazė: darbuotojai randa procedūras, taisykles ar techninę dokumentaciją.
  • Pardavimų komanda: greitai randama informacija iš ankstesnių pasiūlymų ir sutarčių.
  • Teisinių dokumentų ir atitikties paieška: greita paieška dideliuose dokumentų kiekiuose.

Kodėl RAG dažnai geriau nei „išmokyti savo modelį“

RAG Modelio mokymas (fine-tuning)
Žinių atnaujinimas Iš karto, pakeitus dokumentą Reikia mokyti iš naujo
Šaltinių nurodymas Taip Sudėtinga
Kaina ir sudėtingumas Mažesni Didesni
Prieigos teisių valdymas Galima filtruoti pagal vartotoją Sudėtinga

Modelio mokymas verta svarstyti tada, kai reikia pakeisti paties modelio elgesį ar rašymo stilių, o ne tiesiog suteikti jam žinių.

Kas lemia kokybę

RAG kokybė priklauso ne tiek nuo modelio, kiek nuo duomenų ir paieškos:

  • Dokumentų kokybė. Pasenę ar prieštaringi dokumentai duos prastus atsakymus.
  • Skaidymo strategija. Per mažos dalys praranda kontekstą, per didelės – prisipildo nereikalingo teksto.
  • Hibridinė paieška. Semantinę paiešką (pagal prasmę) verta derinti su paieška pagal raktažodžius.
  • Vertinimas. Reikia testinių klausimų su žinomais atsakymais, kad matytumėte, ar kokybė gerėja.
  • Prieigos teisės. Vartotojas turi matyti tik tuos dokumentus, kuriuos jam leista skaityti.

Nuo ko pradėti

Pasirinkite vieną aiškią sritį (pavyzdžiui, klientų DUK ar vidines procedūras), surinkite dokumentus, parengkite 30–50 tikrų klausimų ir išmatuokite, kiek atsakymų teisingi. Tik tada plėskite sprendimą. Bendresnį planą rasite straipsnyje apie AI integraciją į verslo procesus.

Jei RAG jums reikalingas klientų aptarnavimui, perskaitykite ir apie AI pokalbių robotus.

Norite pokalbių roboto, kuris atsako pagal jūsų dokumentus? Parašykite mums – įvertinsime, ar RAG tinka jūsų atvejui.

Dažniausi klausimai

Kuo RAG skiriasi nuo modelio „išmokymo“ (fine-tuning)? RAG nekeičia paties modelio – paieškos būdu jis suranda tinkamas jūsų dokumentų ištraukas ir pateikia jas modeliui atsakymui parengti. Todėl žinias galima atnaujinti iš karto, o atsakymus – susieti su šaltiniais.

Ar RAG gali išgalvoti atsakymą? Rizika gerokai mažesnė nei be RAG, bet visiškai jos pašalinti neįmanoma. Ją mažiname reikalaudami nurodyti šaltinius, ribodami atsakymus tik rastu turiniu ir leisdami sistemai atsakyti „nežinau“.

Kokių formatų dokumentus galima naudoti? Dažniausiai tai PDF, Word ir Excel failai, svetainių turinys, el. laiškai, vidinių sistemų įrašai. Svarbiausia ne formatas, o tekstų kokybė: aktualūs, aiškūs ir nepasikartojantys dokumentai duoda geriausius atsakymus.

  • #RAG
  • #pokalbių robotas
  • #žinių bazė
  • #LLM