AI Governance u 8 koraka: od Shadow AI do AI Act usklađenosti

AI governance je sistem pravila, uloga i kontrola kojim organizacija upravlja rizicima razvoja i upotrebe veštačke inteligencije. Od 27. jula 2026. na snazi su izmene AI Act-a: obaveze za visokorizične AI sisteme pomerene su na 2. decembar 2027, odnosno 2. avgust 2028, dok obaveze transparentnosti važe od 2. avgusta 2026 a obaveze prema srpskom Zakonu o zaštiti podataka o ličnosti važe već danas, za svaku firmu koja kroz AI alate obrađuje podatke o ličnosti. U nastavku: 8 koraka koji vode od nekontrolisane upotrebe AI alata do dokumentovane usklađenosti.

Šta je AI governance i zašto je važan već sada?

AI governance je skup internih pravila, procesa i odgovornosti kojima organizacija kontroliše kako se AI sistemi uvode, koriste i nadziru. Nije reč o obavezi iz jednog propisa, već o okviru koji povezuje više njih: evropski AI Act, srpski Zakon o zaštiti podataka o ličnosti (ZZPL) i propise o informacionoj bezbednosti.

Zašto ne čekati? Tri razloga.

Prvo, Shadow AI je već u vašoj firmi. Shadow AI je praktičan naziv za upotrebu AI alata mimo znanja i odobrenja organizacije, zaposleni koji ubacuje ugovor klijenta u javni chatbot da „skrati posao“.

Naše tumačenje: svaki takav unos podataka o ličnosti je radnja obrade za koju firma odgovara kao rukovalac, jer je prema članu 41 ZZPL rukovalac dužan da preduzme tehničke, organizacione i kadrovske mere kojima obezbeđuje da se obrada vrši u skladu sa zakonom i da to može da predoči.

Drugo, Srbija dobija svoj zakon. Zakon o veštačkoj inteligenciji u Srbiji još nije donet; nacrt je u izradi i priprema se po uzoru na AI Act. Okvir koji stiže je, dakle, već poznat, ko sada postavi AI governance, spreman je unapred.

Treće, ZZPL ne čeka nikoga. Pravila o automatizovanom odlučivanju, proceni uticaja i bezbednosti obrade primenjuju se na AI alate već danas, kao i na svaku drugu obradu podataka o ličnosti.

Koji rokovi AI Act-a važe posle izmena iz jula 2026?

Uredba (EU) 2026/1744 (tzv. Digital Omnibus on AI), na snazi od 27. jula 2026, izmenila je kalendar primene AI Act-a. Ključni rokovi sada glase:

Važno razgraničenje: 2. avgust 2026. ostaje datum od kog se primenjuju obaveze transparentnosti iz člana 50, pružaoci moraju obezbediti da lica znaju da komuniciraju sa AI sistemom (st. 1) i da su izlazi generativnih sistema označeni kao veštački generisani, u mašinski čitljivom formatu (st. 2). Rok 2. decembar 2026. iz člana 111 stav 4 je samo prelazni rok, i to isključivo za pružaoce generativnih sistema koji su na tržište stavljeni pre 2. avgusta 2026, da postojeće sisteme naknadno usklade sa obavezom označavanja.

Naše tumačenje: odlaganje nije pauza. Zahtevi nisu ublaženi, pomeren je samo datum, a vreme do decembra 2027. je prozor za pripremu, ne za čekanje.

Korak 1: Kako se pravi inventar AI sistema?

Prvi korak je popis: koje AI sisteme i alate organizacija uopšte koristi, ko ih koristi, u koju svrhu i koje podatke obrađuju. Bez inventara nijedan sledeći korak nije moguć, ne možete klasifikovati rizik sistema za koji ne znate da postoji.

Inventar treba da obuhvati i „zvanične“ sisteme i Shadow AI, alate koje zaposleni koriste na svoju ruku. Za svaki sistem zabeležite: naziv i dobavljača, svrhu upotrebe, vrste podataka koje obrađuje, da li obrađuje podatke o ličnosti i da li vaša organizacija nastupa kao proizvođač (provider) ili korisnik (deployer) sistema.

Pravni oslonac već postoji: prema članu 47 ZZPL rukovalac je dužan da vodi evidenciju radnji obrade, koja sadrži svrhu obrade, vrste podataka i lica, primaoce i opis mera zaštite. AI alati koji obrađuju podatke o ličnosti pripadaju toj evidenciji. Uz to, izmenjeni član 4 AI Act-a obavezuje pružaoce i korisnike AI sistema da preduzmu mere za podršku razvoju AI pismenosti zaposlenih koji rade sa tim sistemima a obuka počinje upravo od toga da firma zna šta se koristi.

Korak 2: Kako se klasifikuje rizik AI sistema?

AI Act počiva na pristupu zasnovanom na riziku: što je rizik po zdravlje, bezbednost i osnovna prava veći, to su obaveze strože. Sistemi se svrstavaju u četiri grupe: zabranjene prakse (čl. 5), visokorizične sisteme (čl. 6), sisteme sa obavezama transparentnosti (čl. 50) i sisteme minimalnog rizika.

Visokorizičan je, prema članu 6, sistem koji je bezbednosna komponenta proizvoda iz Aneksa I, ili sistem iz oblasti nabrojanih u Aneksu III. Za srpske firme najvažniji primer iz Aneksa III je tačka 4, zapošljavanje: sistemi za regrutaciju i selekciju kandidata (uključujući ciljano oglašavanje poslova, filtriranje prijava i ocenjivanje kandidata), kao i sistemi za odluke o unapređenju, otkazu, raspodeli zadataka i praćenju učinka zaposlenih. Tu su i sistemi za ocenu kreditne sposobnosti (tačka 5).

Postoji i izuzetak: prema članu 6 stav 3, sistem iz Aneksa III nije visokorizičan ako ne stvara značajan rizik, na primer, kada obavlja usko proceduralni ili pripremni zadatak. Ali dve stvari su ključne: sistem koji vrši profilisanje fizičkih lica uvek se smatra visokorizičnim, a proizvođač koji smatra da njegov sistem nije visokorizičan mora tu procenu dokumentovati pre stavljanja na tržište.

Korak 3: Šta AI Act traži od upravljanja podacima?

Kvalitet AI sistema zavisi od kvaliteta podataka i zato je data governance samostalan zahtev, ne tehnička sitnica. Prema članu 10 AI Act-a, visokorizični sistemi koji se treniraju na podacima moraju se razvijati na osnovu skupova za treniranje, validaciju i testiranje koji ispunjavaju propisane kriterijume kvaliteta, uz prakse upravljanja podacima primerene nameni sistema.

U praksi (naše tumačenje): dokumentujte poreklo podataka na kojima sistem uči, proverite ugovorne osnove za njihovu upotrebu i uspostavite kontrolu kvaliteta, nepotpuni ili pristrasni podaci proizvode nepouzdane i potencijalno diskriminatorne rezultate, za koje odgovarate.

Korak 4: Kako se štite podaci o ličnosti u AI sistemima?

Ovo je korak gde srpsko pravo već danas postavlja konkretne obaveze. Tri sloja:

Ugrađena zaštita. Prema članu 42 ZZPL, rukovalac je dužan da prilikom određivanja načina obrade i tokom obrade primeni mere poput pseudonimizacije i smanjenja broja podataka, zaštita se projektuje u sistem, ne dodaje naknadno.

Procena uticaja (DPIA). Prema članu 54 ZZPL, procena uticaja je obavezna pre obrade koja će verovatno prouzrokovati visok rizik, posebno upotrebom novih tehnologija. Odluka Poverenika o listi radnji obrade („Sl. glasnik RS“, br. 45/2019 i 112/2020) tu obavezu konkretizuje: procena se mora izvršiti, između ostalog, kod sistematske i sveobuhvatne procene lica automatizovanom obradom uključujući profilisanje na osnovu koje se donose značajne odluke; kod upotrebe novih tehnologija koje služe za analizu ili predviđanje ekonomske situacije, zdravlja, sklonosti, interesovanja, pouzdanosti, ponašanja, lokacije ili kretanja; i kod praćenja rada, kretanja i komunikacije zaposlenih. Veliki deo poslovnih AI alata pogađa bar jednu od ovih tačaka. Ako procena pokaže visok rizik koji mere ne umanjuju, član 55 ZZPL nalaže da se pre početka obrade zatraži mišljenje Poverenika.

Informaciona bezbednost. Za operatore IKT sistema od posebnog značaja, Zakon o informacionoj bezbednosti propisuje mere zaštite (čl. 10), obavezan akt o proceni rizika koji se revidira najmanje jednom godišnje (čl. 11) i akt o bezbednosti IKT sistema (čl. 12).

Korak 5: Šta obuhvata kontrola AI modela?

Model governance znači da performanse sistema nisu stvar poverenja u dobavljača, već dokazivog testiranja. Prema članu 9 AI Act-a, visokorizični sistemi podležu sistemu upravljanja rizikom, a testiranje se sprovodi tokom razvoja i obavezno pre stavljanja na tržište, prema unapred definisanim metrikama i pragovima primerenim nameni sistema. Zahtevi performansi obuhvataju i sajber-bezbednost sistema (čl. 15).

Za proizvođače, član 17 propisuje sistem upravljanja kvalitetom, uz važnu ogradu da se njegova primena sprovodi srazmerno veličini organizacije. Mala firma ne mora korporativni aparat, ali mora dokazivu kontrolu.

Korak 6: Kada je ljudski nadzor obavezan?

Ljudski nadzor nije opcija, već zahtev i po AI Act-u i po ZZPL-u. Prema članu 14 AI Act-a, visokorizični sistemi moraju biti projektovani tako da ih fizička lica mogu delotvorno nadzirati: lice zaduženo za nadzor mora razumeti mogućnosti i ograničenja sistema, biti svesno rizika automatskog oslanjanja na rezultate (automation bias), umeti da pravilno tumači izlaz sistema, i imati mogućnost da rezultat zanemari, poništi ili sistem zaustavi. Korisnik sistema je, prema članu 26 stav 2, dužan da nadzor poveri licima sa potrebnom kompetencijom, obukom i ovlašćenjima.

Srpski sloj važi već sada: prema članu 38 ZZPL, lice ima pravo da se na njega ne primenjuje odluka doneta isključivo automatizovanom obradom (uključujući profilisanje) koja proizvodi pravne posledice ili značajno utiče na njegov položaj. Izuzeci postoje, ugovor, zakon ili izričit pristanak ali i tada rukovalac mora obezbediti najmanje: učešće fizičkog lica u donošenju odluke, pravo lica da izrazi svoj stav i pravo da odluku ospori.

Korak 7: Koja dokumentacija dokazuje odgovornost?

Accountability znači jedno: ako ne možete da dokažete usklađenost, ona pravno ne postoji. Prema članu 11 AI Act-a i Aneksu IV, visokorizični sistem prati tehnička dokumentacija koja obuhvata opis sistema, njegove mogućnosti i ograničenja, mere ljudskog nadzora i opis sistema upravljanja rizikom. Sistemi moraju automatski beležiti logove (čl. 12), proizvođač dokumentaciju čuva 10 godina od stavljanja sistema na tržište (čl. 18), a korisnik logove pod svojom kontrolom najmanje šest meseci (čl. 26 st. 6).

Na strani ZZPL, član 41 zahteva da rukovalac može predočiti usklađenost, a član 47 evidenciju radnji obrade.

Naše tumačenje kao praktičan savet: svakom AI sistemu iz inventara dodelite vlasnika, konkretnu osobu odgovornu za njegov životni ciklus. Lice za zaštitu podataka o ličnosti tu ima formalnu ulogu: prema članu 54 ZZPL, rukovalac je dužan da pri proceni uticaja zatraži njegovo mišljenje.

Korak 8: Kako izgleda kontinuirani monitoring i audit?

AI governance se ne završava uvođenjem sistema, propisi izričito traže stalno praćenje. Prema članu 26 stav 5 AI Act-a, korisnik visokorizičnog sistema prati njegov rad, a ako smatra da upotreba stvara rizik, obaveštava proizvođača i nadzorni organ i obustavlja upotrebu; ozbiljne incidente prijavljuje odmah. Proizvođač uspostavlja sistem praćenja nakon stavljanja na tržište (čl. 72).

Domaći propisi traže isti ritam: prema članu 54 ZZPL, procena uticaja se preispituje najmanje kada se promeni nivo rizika obrade, a operatori IKT sistema od posebnog značaja akt o proceni rizika revidiraju najmanje jednom godišnje i najmanje jednom godišnje proveravaju usklađenost akta o bezbednosti, o čemu sačinjavaju izveštaj (čl. 11 i 12 Zakona o informacionoj bezbednosti).

Naše tumačenje: godišnji AI audit, provera inventara, klasifikacija, procena i dokumentacije je minimum koji ove obaveze prirodno nameću.

Često postavljana pitanja

Da li AI Act važi za firme u Srbiji?
AI Act je uredba Evropske unije i nije deo srpskog prava. Ipak, prema njegovoj uvodnoj izjavi 21, pravila se primenjuju na proizvođače AI sistema bez obzira na to da li imaju sedište u Uniji ili u trećoj zemlji, što obuhvata i srpske firme koje svoje AI sisteme plasiraju na tržište EU. Uz to, srpski nacrt Zakona o veštačkoj inteligenciji priprema se po uzoru na AI Act.

Šta je Shadow AI?
Shadow AI je praktičan naziv za upotrebu AI alata u organizaciji bez znanja i odobrenja uprave, najčešće javnih chatbotova u koje zaposleni unose poslovne podatke. Kada ti podaci sadrže podatke o ličnosti, reč je o radnji obrade za koju firma odgovara kao rukovalac prema ZZPL.

Kada je procena uticaja (DPIA) obavezna za AI alat u Srbiji?
Prema članu 54 ZZPL i Odluci Poverenika („Sl. glasnik RS“, br. 45/2019 i 112/2020), procena uticaja je obavezna, između ostalog, kod profilisanja na osnovu kog se donose značajne odluke, kod upotrebe novih tehnologija za analizu ili predviđanje ponašanja, sklonosti, zdravlja ili kretanja lica, i kod praćenja rada i komunikacije zaposlenih. Ako procena pokaže visok rizik koji se merama ne umanjuje, pre obrade se traži mišljenje Poverenika (čl. 55 ZZPL).

Koji su novi rokovi primene AI Act-a?
Prema Uredbi (EU) 2026/1744, obaveze za visokorizične sisteme iz Aneksa III primenjuju se od 2. decembra 2027, a za sisteme iz Aneksa I od 2. avgusta 2028. Obaveze transparentnosti iz člana 50 primenjuju se od 2. avgusta 2026, taj datum nije menjan; generativni sistemi stavljeni na tržište pre tog datuma imaju samo prelazni rok do 2. decembra 2026. za usklađivanje sa obavezom označavanja sadržaja, od kada se primenjuju i nove zabrane.

Da li mala firma mora da sprovede svih 8 koraka?
Okvir je isti, obim nije. Član 17 AI Act-a izričito propisuje da se sistem upravljanja kvalitetom primenjuje srazmerno veličini organizacije, a izmenjeni član 4 traži mere podrške AI pismenosti bez garantovanja određenog nivoa znanja pojedinca. Naše tumačenje: dubina svakog koraka prati rizik, firma sa jednim chatbotom za podršku prolazi kroz iste korake kao banka, ali neuporedivo brže.