AI
AI rešitve, povezane z dejanskimi podatki in sistemi.
Razvijamo AI rešitve, ki uporabljajo podatke, dokumentacijo in obstoječe informacijske sisteme naročnika. Glede na primer uporabe lahko rešitev vključuje velike jezikovne modele, RAG, AI agente, semantično iskanje, klasifikacijo dokumentov, ekstrakcijo podatkov, avtomatizacijo procesov in povezovanje z zunanjimi API-ji.
Pri poslovni uporabi AI določimo vire podatkov, dovoljene akcije, pravice dostopa, revizijsko sled, kontrolne točke in primere, kjer je pred izvedbo potrebna potrditev uporabnika.
Kdaj nas običajno vključijo
- zaposleni iščejo informacije po dokumentih
- dokumenti se pregledujejo ročno
- podpora odgovarja na ista vprašanja
- potrebujete klasifikacijo ali izluščenje podatkov
- želite AI vključiti neposredno v poslovni proces
AI ni vedno prava rešitev
Če proces lahko rešimo z običajno avtomatizacijo, AI ne dodajamo zato, ker je trend. Povemo, kje se AI izplača in kje ne.
Kaj to pomeni za vas
- Manj časa za iskanje informacij.
- Manj ročnega prepisovanja podatkov.
- Hitrejša obdelava dokumentov in zahtevkov.
- Bolj enoten odgovor zaposlenih.
- Jasna sled, od kod odgovor prihaja.
Problem → rešitev
Iz česa je sestavljena AI rešitev
Kliknite del sistema in ga izklopite - ugasne tisto, kar brez njega ne deluje. Ponoven klik ga vrne.
AI povezujemo z
- internimi dokumenti
- CRM
- ERP
- e-pošto
- podatkovnimi bazami
- poslovnimi aplikacijami
- API-ji
- uporabniškimi portali
Področja
AI Solutions
Namenski sistemi za konkreten poslovni problem, ne splošni klepetalnik.
AI agenti
AI, ki opravi več zaporednih korakov znotraj pravil in dovoljenj.
RAG
AI, ki uporablja interno znanje organizacije in navaja vir.
Obdelava dokumentov
Razumevanje, analiza in strukturiranje dokumentov.
AI podpora uporabnikom
Podpora uporabnikom in zaposlenim s predlogi odgovorov.
AI avtomatizacija
AI kot del avtomatiziranega poteka dela, ne kot ločeno orodje.
Kaj je kaj: pojmi, ki se pogosto zamenjujejo
Pod oznako »AI« se danes prodaja zelo različne stvari. Razlika med njimi ni akademska - določa, katere podatke sistem potrebuje, koliko dela je pred uvedbo, kaj lahko gre narobe in kako se rezultat sploh preveri.
| Pojem | Kaj pomeni | Kdaj je primeren |
|---|---|---|
| Generativni model (LLM) | model, ki tvori besedilo na podlagi vprašanja in danega konteksta | pisanje osnutkov, povzemanje, razlaga, pretvorba oblike zapisa |
| RAG | model odgovarja iz vaših dokumentov in navaja vir | interno znanje, navodila, pogodbe, dokumentacija |
| AI agent | sistem, ki opravi zaporedje korakov in uporablja druge sisteme | opravila, ki jih danes ročno opravi človek v več sistemih |
| Klasifikacija | razvrščanje zapisa v vnaprej znane kategorije | usmerjanje pošte, razvrščanje zahtevkov, oznake dokumentov |
| Izluščenje podatkov | branje določenih polj iz nestrukturiranega dokumenta | računi, obrazci, pogodbe, razpisna dokumentacija |
| Pomensko iskanje | iskanje po pomenu, ne po natančni besedi | velike zbirke dokumentov, kjer iskanje po ključni besedi odpove |
| Avtomatizacija procesa | pravila in koraki brez modela ali z modelom v enem koraku | ponovljiva opravila z jasnimi pravili |
Kadar je pravilo jasno in se korak vsak dan ponovi, je navadna avtomatizacija pogosto cenejša, hitrejša in bolj predvidljiva od modela. Model uporabimo tam, kjer je vhod nestrukturiran, jezik naraven ali pravil ni mogoče popolnoma zapisati.
AI ni samostojen sistem
AI rešitev redko obstaja sama zase. Da je uporabna, mora vedeti, kdo sprašuje, kaj ta oseba sme videti, kje so podatki in dokumenti, katere sisteme sme brati in kaj sme spremeniti. Zato je vsak resen AI projekt tudi integracijski projekt.
- identiteta uporabnika in prijava
- pravice dostopa, ki veljajo tudi za AI
- podatkovne baze in poslovni sistemi
- dokumentni sistem in arhiv
- API-ji obstoječih aplikacij
- ERP, CRM in DMS, kadar so vir podatkov
- dnevniki, odobritve in revizijska sled
- nadzor delovanja po uvedbi
Izbira modela je samo ena od odločitev
Vprašanje »kateri model« je v praksi manj pomembno od vprašanj, kje so podatki, kdo sme do njih, kako se rezultat preveri in kaj se zgodi ob napaki. Model izberemo po merilih, ki so za konkreten primer pomembna, in ga po potrebi zamenjamo, ne da bi bilo treba prepisati celoten sistem.
- kakovost odgovorov na vaših dejanskih primerih
- odzivni čas glede na način uporabe
- obvladovanje slovenščine
- velikost konteksta, ki ga model sprejme
- zahteve glede zasebnosti in lokacije obdelave
- strošek na obseg uporabe
- podpora za uporabo orodij in strukturiran izhod
- način gostovanja: storitev ali lastno okolje
Človek v postopku
Popolna avtonomija ni cilj vsakega AI procesa. Pri odločitvah, ki imajo finančne, pravne ali poslovne posledice, je pravi model običajno preprost: sistem pripravi, človek potrdi, sistem izvede. Tako se ohrani hitrost, odgovornost pa ostane pri človeku.
Upravljanje in nadzor AI rešitve
Pred uvedbo je treba določiti meje: kateri podatki smejo v obdelavo, kdo sme uporabljati rešitev, kaj se beleži, koliko časa se hrani in kdo odobri dejanja z večjim vplivom. To ni le vprašanje skladnosti - brez tega tudi ni mogoče ugotoviti, zakaj je sistem nekaj naredil.
- meje podatkov: kaj sme in kaj ne sme v obdelavo
- pravice dostopa, enake kot v izvornih sistemih
- presoja ponudnika modela in lokacije obdelave
- beleženje vprašanj, virov in dejanj
- čas hrambe zapisov
- odobritve za dejanja z večjim vplivom
- revizijska sled in možnost naknadnega pregleda
Kaj gre pri AI projektih pogosto narobe
| Tveganje | Kako ga obravnavamo |
|---|---|
| slabi ali neurejeni viri podatkov | popis virov in pregled kakovosti pred razvojem |
| ni merila, kdaj je rezultat dovolj dober | nabor testnih vprašanj s pričakovanimi odgovori |
| preveč samostojnosti prehitro | dejanja z večjim vplivom gredo v odobritev |
| razkritje podatkov, do katerih uporabnik ni upravičen | pravice dostopa se preverjajo pri iskanju, ne šele pri prikazu |
| ni nadzora po uvedbi | beleženje, opozorila in redna ponovna evalvacija |
| rešitev ni povezana s sistemi, kjer ljudje delajo | integracija je del obsega, ne poznejša želja |
Kdo dela na AI projektu
- AI/ML strokovnjak za zasnovo rešitve in evalvacijo
- strokovnjak za podatke za vire, pripravo in kakovost
- backend razvijalec za povezavo s sistemi in pravice
- solution architect za umestitev v obstoječo arhitekturo
- QA inženir za testne primere in regresijo
- DevOps inženir za okolja, nadzor in stroške obratovanja
Epix razvija tudi lastne AI produkte, zato AI dela ne obravnavamo kot dodatek k spletni strani, ampak kot razvoj programske opreme z lastnimi zahtevami glede podatkov, pravic in preverjanja.
Kako AI zasnujemo
Primer uporabe
Najprej določimo, katero odločitev ali korak naj AI prevzame in kje se mora ustaviti.
Podatki
Popišemo vire, kakovost in dostope. Brez urejenih podatkov AI ne more dati zanesljivega rezultata.
Arhitektura
Izberemo model, način priklica znanja in mesto, kjer se AI vključi v obstoječi proces.
RAG, agenti, orodja
Agent uporablja vaše sisteme prek njihovih vmesnikov in znotraj pravic, ki jih določite vi.
Nadzor nad AI
Varovalke
Kaj AI sme in česa ne, kdaj mora vprašati človeka in kdaj proces ustavi.
Človek v procesu
Občutljive korake potrdi človek. Potrditev je zabeležena skupaj z razlogom.
Merjenje kakovosti
Redno preverjanje na vzorcih, da ugotovimo, kdaj se kakovost odgovorov spremeni.
Nadzor in stroški
Spremljanje uspešnosti, napak in stroška po opravilu, z opozorili ob odstopanju.
Sorodno delo
Podstrani
Pogosta vprašanja
Kje so shranjeni naši podatki?
Odvisno od zahtev. Rešitev lahko postavimo tako, da podatki ostanejo v EU ali v vaši infrastrukturi. Pravila dostopa in hrambe določimo pred razvojem.
Kaj pa napačni odgovori?
AI ne odloča sam tam, kjer je napaka draga. Uporabimo navedbo virov, kontrolne točke in potrditev človeka pred izvedbo dejanja.
Koliko stane uporaba AI?
Strošek na obdelan primer izmerimo v pilotu in ga omejimo z dnevno mejo, da ni presenečenj.
Ali je AI vedno prava rešitev?
Ne. Kadar je pravilo jasno, je klasična avtomatizacija cenejša in zanesljivejša. To povemo, preden se karkoli razvija.
Katere podatke potrebuje AI rešitev?
Odvisno od namena: za odgovarjanje iz internega znanja dokumente in pravice dostopa do njih, za obdelavo dokumentov vzorčne primere, za agenta pa dostop do sistemov, v katerih naj deluje.
Ali morajo naši podatki v oblak?
Ne nujno. Način obdelave in lokacijo določimo glede na vaše zahteve; kaj je izvedljivo, je odvisno od izbranega modela in okolja, zato to vprašanje razrešimo pred začetkom razvoja.
Kako preverite, ali AI odgovarja pravilno?
S pripravljenim naborom vprašanj in pričakovanih odgovorov, ki ga poženemo ob vsaki spremembi. Nekaj naključnih vprašanj ni merilo.
Ali lahko AI izvaja dejanja v naših sistemih?
Da, v obsegu, ki ga določite. Dejanja razdelimo na branje, pisanje in tista, ki zahtevajo potrditev človeka; vse skupaj se beleži.
Kdaj AI ni pravi odgovor?
Kadar je pravilo jasno in ponovljivo. Takrat je navadna avtomatizacija cenejša, hitrejša in bolj predvidljiva.
Kaj potrebujete od nas za začetek?
Opis procesa, ki ga želite razbremeniti, primere dokumentov ali vprašanj, informacijo, kje so podatki, in dogovor, katera dejanja so dovoljena.
Preberite tudi
Sorodne rešitve
Se sliši kot vaš projekt?
Pošljite opis projekta, obstoječi sistem, razpisno dokumentacijo ali datum dogodka.