PETs u praksi: 8 tehnologija za zaštitu podataka i AI

PETs (Privacy Enhancing Technologies) nisu jedna tehnologija, već porodica alata, od pseudonimizacije i enkripcije koje se koriste decenijama, do diferencijalne privatnosti, federated learninga i sintetičkih podataka koji preuzimaju primat u AI eri. Iz ugla pravnika, svaka od njih servisira konkretnu zakonsku obavezu: minimizaciju podataka, bezbednost obrade ili ugrađenu zaštitu iz člana 42 ZZPL-a i člana 25 GDPR-a. U ovom tekstu dajemo pregled po tehnologijama, šta koja radi, koju obavezu pokriva i gde su joj granice.

U prethodnom tekstu objasnili smo zašto PETs nisu samo tehnološka inovacija, već mehanizam za sprovođenje načela privacy by design. Logičan sledeći korak je pitanje koje nam klijenti najčešće postavljaju: dobro, ali koje tačno tehnologije, i koja je razlika među njima? Ovaj tekst je odgovor, pisan iz ugla pravnika koji mora da razume šta tehnologija stvarno radi da bi mogao da proceni da li ispunjava zakonsku obavezu.

Kako se PETs tehnologije dele?

Najkorisniju klasifikaciju daje OECD, koji 14 tehnologija svrstava u četiri grupe: alate za obfuskaciju podataka (menjaju ili prikrivaju same podatke – pseudonimizacija, sintetički podaci, diferencijalna privatnost, zero-knowledge proofs), alate za obradu šifrovanih podataka (homomorfna enkripcija, višestranačko izračunavanje, trusted execution environments), federalizovanu i distribuiranu analitiku (federated learning) i alate za odgovornost (accountable systems, lični skladišni prostori podataka).

Za pravnika, ta podela ima praktičnu vrednost: prva grupa napada pitanje šta se obrađuje (manje podataka, izmenjeni podaci), druga u kom obliku (šifrovano i tokom obrade), treća gde podaci ostaju kod izvora. Svaka od te tri ose odgovara drugom pravnom pitanju – minimizaciji, bezbednosti, odnosno prenosu i pristupu podacima.

Koje PETs tehnologije se već uveliko koriste?

Kratak odgovor: pseudonimizacija i enkripcija su radni konji svake ozbiljne compliance arhitekture, jedine su i izričito pomenute u tekstu ZZPL-a i GDPR-a. Uz njih, u praksi su već zrele i tri tehnologije koje rešavaju specifičnije probleme: SMPC, TEE i zero-knowledge proofs.

Tumačenje: obratite pažnju na obrazac u trećoj koloni – nijedna od ovih tehnologija ne „izbacuje“ obradu iz zakona. One smanjuju rizik i dokazuju pažnju rukovaoca, što je tačno ono što član 42 ZZPL-a traži.

Zašto diferencijalna privatnost postaje standard za statistiku i AI?

Diferencijalna privatnost je jedina PETs tehnika sa formalnom, matematičkom garancijom privatnosti i zato je uzimaju sve ozbiljnije i regulatori i industrija. Radi tako što se u rezultat izračunavanja ubacuje kontrolisani statistički šum (slučajna netačnost), pa se iz objavljenog rezultata ne može sa sigurnošću utvrditi da li su podaci konkretnog lica uopšte bili u ulaznom skupu.

Ključni pojam je parametar ε (epsilon), takozvani „budžet privatnosti“: manji ε znači jaču privatnost ali manju tačnost rezultata, veći ε obrnuto. NIST – američki nacionalni institut za standarde, čije su smernice SP 800-226 (finalna verzija, mart 2025) trenutno najautoritativniji tehnički standard za ovu oblast – taj odnos naziva privacy-utility tradeoff i upozorava na nešto što bi svaki pravnik trebalo da zapamti: slabo podešena diferencijalna privatnost je „privacy theater“, mera koja tvrdi da štiti privatnost, a zapravo to ne čini. Prevedeno na pravni jezik: sama tvrdnja „koristimo diferencijalnu privatnost“ ne znači ništa bez dokumentovanih parametara. To je pitanje koje vredi postaviti svakom vendoru.

U AI kontekstu, diferencijalna privatnost se koristi i tokom treniranja modela, šum sprečava da model „zapamti“ podatke konkretnog lica, što direktno smanjuje rizik od napada izvlačenja podataka iz modela.

Kako federated learning „dovodi algoritam do podataka“?

Federated learning (FL) obrće logiku treniranja AI modela: umesto da se podaci šalju na centralni server, model se šalje podacima. Svaki učesnik (uređaj ili organizacija) trenira lokalni model na sopstvenim podacima, a centralno se razmenjuju samo parametri modela, ne sirovi podaci.

Ovo je tehnologija koju je evropski regulator najeksplicitnije „blagoslovio“. EDPS (Evropski supervizor za zaštitu podataka) i španska agencija AEPD posvetili su joj zaseban dokument – TechDispatch 1/2025 (jun 2025), u kom zaključuju da FL doprinosi sprovođenju načela minimizacije podataka i ograničenja svrhe, jača odgovornost rukovaoca i smanjuje posledice masovnih povreda podataka, jer podaci nisu centralizovani. Podsetimo, i uvodna izjava 69 AI Act-a opisuje upravo ovakav pristup, tehnike koje omogućavaju da algoritam dođe do podataka, bez prenosa sirovih podataka među stranama.

Ali isti dokument donosi i upozorenje koje je pravno ključno: ne sme se pretpostaviti da su razmenjeni parametri modela, ni sam rezultujući model, anonimni podaci. Iz gradijenata i težina modela moguće je, u određenim slučajevima, rekonstruisati podatke iz treninga ili utvrditi da li je konkretno lice bilo u trening skupu (membership inference napad). Zato EDPS traži procenu od slučaja do slučaja i kombinovanje FL-a sa drugim PETs tehnikama (SMPC, homomorfna enkripcija, diferencijalna privatnost).

Tumačenje: FL je za pravnika dvostruka lekcija. S jedne strane, najbolji je primer tehnologije koja pravno načelo (minimizaciju) pretvara u arhitekturu sistema. S druge, primer je da nijedna tehnologija ne ukida obavezu analize, model treniran federalno i dalje može biti lični podatak.

Da li su sintetički podaci rešenje za treniranje AI bez rizika?

Delimično, i to „delimično“ je pravno bitno. Sintetički podaci su veštački generisani podaci koji statistički oponašaju stvarne skupove, pa omogućavaju razvoj i testiranje AI sistema tamo gde pristup stvarnim podacima nije moguć ili nije opravdan. Za fazu razvoja i testiranja, to je često najelegantnije rešenje minimizacije: stvarni podaci se koriste jednom (za generisanje), a sve dalje radi se nad sintetičkim skupom.

Dva ograničenja: prvo, kvalitet zaštite zavisi od načina generisanja, loše generisan sintetički skup može „procuriti“ informacije o stvarnim licima iz izvornog skupa. Drugo, OECD posebno upozorava na rizik pojačane pristrasnosti (bias): sintetički podaci nasleđuju, a mogu i uvećati, iskrivljenja iz izvornih podataka, što se direktno sudara sa zahtevom člana 10 AI Act-a da se pristrasnost u trening skupovima ispituje i otklanja.

Kako izabrati pravu tehnologiju?

Ne bira se tehnologija pa onda opravdanje, nego obrnuto, i to nije naša fraza nego logika propisa. Član 42 ZZPL-a i član 25 GDPR-a traže da mere odgovaraju prirodi, obimu i rizicima konkretne obrade; procena rizika (a gde je obavezna, i formalna procena uticaja iz člana 54 ZZPL-a) prethodi izboru mere. U praksi to izgleda ovako: obrada osetljivih podataka među više organizacija zvaće SMPC ili homomorfnu enkripciju; objavljivanje statistika diferencijalnu privatnost; treniranje modela na podacima koji ne smeju da napuste izvor federated learning uz dodatne zaštite; razvoj i testiranje – sintetičke podatke.

I jedno pravilo koje važi za sve: izbor se dokumentuje. Zašto baš ta tehnologija, sa kojim parametrima, protiv kojih rizika. To je dokumentacija kojom se pred Poverenikom ili evropskim regulatorom dokazuje odgovornost rukovaoca.

Često postavljana pitanja

Koja je razlika između klasične i homomorfne enkripcije?
Klasična enkripcija štiti podatke u prenosu i skladištenju, ali za obradu podaci moraju da se dešifruju. Homomorfna enkripcija omogućava izračunavanja direktno nad šifrovanim podacima. Onaj ko obrađuje nikada ne vidi sadržaj, a rezultat može da dešifruje samo vlasnik ključa. Cena je znatno veći utrošak računarskih resursa.

Šta je epsilon (ε) kod diferencijalne privatnosti?
Epsilon je parametar koji određuje jačinu garancije privatnosti, što je manji, privatnost je jača, ali je rezultat manje precizan. Prema NIST smernicama SP 800-226, vrednost epsilona i takozvana jedinica privatnosti su ključni podaci bez kojih se tvrdnja o „diferencijalnoj privatnosti“ ne može oceniti.

Da li je model treniran federated learningom anoniman?
Ne automatski. EDPS i AEPD u dokumentu TechDispatch 1/2025 izričito navode da se ni razmenjeni parametri modela ni rezultujući model ne smeju podrazumevano tretirati kao anonimni podaci, potrebna je tehnička i pravna analiza od slučaja do slučaja, jer postoje napadi kojima se iz modela mogu izvući podaci iz treninga.

Da li sintetički podaci potpadaju pod ZZPL i GDPR?
Sam proces generisanja sintetičkih podataka je obrada stvarnih ličnih podataka i potpada pod zakon. Rezultujući sintetički skup može biti van domašaja propisa  ali samo ako je generisan tako da se iz njega ne mogu izvesti informacije o stvarnim licima, što se mora proveriti, ne pretpostaviti.

Da li mala firma mora da koristi napredne PETs tehnologije?
Ne postoji obaveza korišćenja konkretne tehnologije. Član 42 ZZPL-a traži mere primerene prirodi, obimu i rizicima obrade, za mnoge male obrade to su uredna pseudonimizacija, enkripcija i kontrola pristupa. Naprednije tehnike postaju relevantne sa osetljivijim podacima, većim obimom ili AI komponentom.