AI · RAG
AI iskanje po internem znanju in dokumentaciji.
Splošni model ne pozna vaših pogodb, navodil in zgodovine projektov. RAG poveže model z vašim znanjem in zahteva navedbo vira.
Kdaj nas običajno vključijo
- zaposleni iščejo informacije po dokumentih
- dokumenti se pregledujejo ročno
- podpora odgovarja na ista vprašanja
- potrebujete klasifikacijo ali izluščenje podatkov
- želite AI vključiti neposredno v poslovni proces
AI ni vedno prava rešitev
Če proces lahko rešimo z običajno avtomatizacijo, AI ne dodajamo zato, ker je trend. Povemo, kje se AI izplača in kje ne.
Kaj to pomeni za vas
- Manj časa za iskanje informacij.
- Manj ročnega prepisovanja podatkov.
- Hitrejša obdelava dokumentov in zahtevkov.
- Bolj enoten odgovor zaposlenih.
- Jasna sled, od kod odgovor prihaja.
Problem → rešitev
Kaj lahko vključimo
- interna navodila in pravilnike
- pogodbe in ponudbe
- tehnično dokumentacijo
- projektni arhiv
- zapisnike in poročila
- bazo znanja podpore
- spletno vsebino in kataloge
Kako zagotovimo zanesljivost
Navedba vira
Vsak odgovor ima povezavo na dokument in odsek, iz katerega izhaja.
Pravice
Uporabnik vidi samo tisto, do česar ima dostop tudi sicer.
Sveži podatki
Indeks se osvežuje, ko se dokumenti spremenijo.
Kako nastane RAG sistem
RAG pomeni, da model ne odgovarja iz splošnega znanja, ampak iz vaših dokumentov, ki jih sistem poišče ob vsakem vprašanju. Kakovost odgovora je zato predvsem posledica dela pred modelom: kaj je v indeksu, kako je razdeljeno, kaj je označeno in kaj se sploh poišče.
Popis virov
kateri dokumenti, kje so, kdo jih vzdržuje in katera različica velja
Dostop
kdo sme brati kaj; pravice se prenesejo v sistem in ne izgubijo
Branje dokumentov
pretvorba iz PDF, Worda, tabel in skeniranih dokumentov v besedilo
Poenotenje
odstranitev glav, nog, ponovljenih delov in šuma
Razdelitev
razdelitev na smiselne odseke; prekratki izgubijo kontekst, predolgi razvodenijo iskanje
Metapodatki
vir, datum, različica, oddelek, veljavnost in stopnja zaupnosti
Vektorski zapis
pretvorba odsekov v obliko, primerno za iskanje po pomenu
Indeksiranje
shranjevanje v iskalno zbirko skupaj z metapodatki in pravicami
Iskanje
iskanje odsekov, ki so za vprašanje dejansko pomembni
Razvrščanje
ponovno razvrščanje najdenega, da najboljši odsek pride v ospredje
Sestava konteksta
kaj se modelu sploh pošlje in koliko
Odgovor
odgovor z navedbo virov, iz katerih izhaja
Preverjanje
nabor vprašanj s pričakovanimi odgovori in redno merjenje
Posodabljanje
kako v sistem pridejo nove različice dokumentov in kako se stare umaknejo
Kaj RAG ne reši sam po sebi
RAG ni jamstvo za pravilen odgovor
Kakovost je odvisna od kakovosti virov, razdelitve dokumentov, metapodatkov, strategije iskanja, pravic dostopa in evalvacije. Če je v virih zastarelo navodilo, bo sistem zvesto ponovil zastarelo navodilo.
- več različic istega dokumenta brez jasne veljavnosti
- dokumenti, ki jih nihče ne vzdržuje
- skenirani dokumenti slabe kakovosti
- tabele in priloge, ki se ob pretvorbi razsujejo
- znanje, ki obstaja samo v glavah zaposlenih
Pravice dostopa v RAG sistemu
Če uporabnik nima pravice do izvornega dokumenta, mu AI njegove vsebine ne sme razkriti samo zato, ker je dokument v indeksu. Pravice zato preverjamo pri iskanju - sistem že v koraku iskanja izloči vse, česar uporabnik ne sme videti, in ne šele pri prikazu odgovora.
Zapisi vprašanj in odgovorov so lahko občutljivi tudi sami po sebi, zato zanje veljajo enaka pravila hrambe in dostopa kot za druge poslovne zapise.
Merjenje kakovosti
AI sistema ni smiselno ocenjevati na podlagi nekaj naključnih vprašanj. Pripravimo nabor primerov iz resničnega dela, z znanimi pravilnimi odgovori in znanimi viri, in ga poženemo ob vsaki spremembi - pri zamenjavi modela, spremembi razdelitve dokumentov ali dodajanju novih virov.
- nabor vprašanj z znanimi odgovori
- ali je bil najden pravi vir
- ali odgovor izhaja iz najdenega vira
- preverjanje trditev, ki jih vir ne podpira
- ocena strokovnjaka za mejne primere
- ponovno merjenje ob vsaki spremembi
Kako AI zasnujemo
Primer uporabe
Najprej določimo, katero odločitev ali korak naj AI prevzame in kje se mora ustaviti.
Podatki
Popišemo vire, kakovost in dostope. Brez urejenih podatkov AI ne more dati zanesljivega rezultata.
Arhitektura
Izberemo model, način priklica znanja in mesto, kjer se AI vključi v obstoječi proces.
RAG, agenti, orodja
Agent uporablja vaše sisteme prek njihovih vmesnikov in znotraj pravic, ki jih določite vi.
Nadzor nad AI
Varovalke
Kaj AI sme in česa ne, kdaj mora vprašati človeka in kdaj proces ustavi.
Človek v procesu
Občutljive korake potrdi človek. Potrditev je zabeležena skupaj z razlogom.
Merjenje kakovosti
Redno preverjanje na vzorcih, da ugotovimo, kdaj se kakovost odgovorov spremeni.
Nadzor in stroški
Spremljanje uspešnosti, napak in stroška po opravilu, z opozorili ob odstopanju.
Sorodno delo
Pogosta vprašanja
Ali gredo naši podatki v javni model?
Ne, razen če se tako izrecno dogovorimo. Dostope in meje določite vi.
Kaj, če AI naredi napako?
Občutljive korake potrdi človek, vsak korak je zabeležen in ga je mogoče ponoviti.
Kdaj AI ni prava rešitev?
Kadar proces reši običajna avtomatizacija ali povezava sistemov. To povemo vnaprej.
Preberite tudi
Sorodne rešitve
Se sliši kot vaš projekt?
Pošljite opis projekta, obstoječi sistem, razpisno dokumentacijo ali datum dogodka.