Transparentnost i odgovornost u doba automatizovanih odluka – intervju sa prof. dr Draženom Cerovićem

  13 Jun 2025 08:06

  Broj posjetilaca: 43

Piše: Sara Marković

Svakodnevno svjedočimo inovacijama u nauci i tehnologiji, prilagođavajući se promjenama koje, iako se ponekad čine malim, sve više oblikuju našu svakodnevicu. Jedna od najznačajnijih inovacija današnjice je vještačka inteligencija (AI), koja postaje ključni alat u zaštiti informacionih sistema i borbi protiv sajber kriminala. Razvoj vještačke inteligencije podrazumijeva i prilagođavanje zakonodavnog okvira — kako izmjene postojećih propisa, tako i kreiranje novih zakonskih rješenja radi efikasne zaštite u sajber prostoru. Tim povodom razgovarali smo sa prof. dr Draženom Cerovićem, redovnim profesorom Pravnog fakulteta Univerziteta Crne Gore, o digitalizaciji uprave i odnosu između vještačke inteligencije i građana.

1. Vaš udžbenik iz upravnog prava doživio je novo izdanje. Koje su ključne novine u ovom izdanju i da li je vještačka inteligencija na neki način uticala na njegovo ažuriranje?

Hvala na pitanju. Novo izdanje udžbenika iz upravnog prava donosi niz ključnih novina, u prvom redu vezanih za ažuriranje zakonske regulative i integraciju najnovijih pravnih i upravnih trendova u Crnoj Gori. U radu na izdanju, pažnja posvećena je pitanjima digitalizacije uprave, reformi javnog sektora, kao i unapređenju zaštite prava građana u kontekstu savremenih društvenih izazova.

Što se tiče vještačke inteligencije, ona je sve više prisutna u upravnim procesima, ali i u akademskoj praksi. U ovom izdanju, napravljen je osvrt na nove teme kao što su automatizacija upravnih postupaka, zaštita podataka u digitalnom okruženju, etički i pravni aspekti primjene algoritama u upravi, te potreba za transparentnim i odgovornim korišćenjem tehnologije u javnoj službi.

Zaključno, ključne novine u ovom izdanju su ažuriranje zakonskih okvira, integracija digitalnih trendova u upravi, čime je udžbenik aktualiziran i prilagođen zahtjevima savremene pravne i upravne prakse.

2. Na nedavno održanom webinaru “Vještačka inteligencija i pravo” ste govorili o izazovima koje vještačka inteligencija donosi upravi. Možete li ukratko objasniti koje su to najznačajnije promjene koje se dešavaju u savremenim upravnim procesima pod uticajem AI tehnologija?

Vještačka inteligencija uvodi značajne promjene u upravne procese koje se prvenstveno ogledaju u povećanoj efikasnosti, transparentnosti i kvalitetu pružanja javnih usluga.

Najznačajnije promjene uključuju:

  • Automatizaciju i digitalizaciju rutinskih poslova: AI omogućava automatizaciju jednostavnih i ponavljajućih radnji, kao što su obrađa prijava, podnošenje dokumenata i odgovora na česte upite građana, čime se smanjuje vrijeme i troškovi obrade podataka.
  • Prediktivne analize i podrška odlučivanju: Kroz analizu velikih količina podataka, AI pomaže u predviđanju trendova, identifikaciji rizika i podršci donošenju važnih odluka, što olakšava strateško planiranje i upravljanje resursima.
  • Personalizaciju usluga: AI tehnologije omogućavaju prilagođavanje javnih usluga potrebama pojedinih korisnika, što povećava zadovoljstvo građana i efikasnost uprave.
  • Transparentnost i nadzor: Primjena AI pomaže u stvaranju transparentnijih procesa, olakšava nadzor nad radom uprave i sprječava zloupotrebe kroz analizu uzoraka i praćenje aktivnosti.
  • Etičke i pravne izazove: Integracija AI zahtijeva jasne regulative koje štite privatnost podataka, prava korisnika i omogućavaju nezavisnu reviziju AI modela, kako bi se izgradilo povjerenje i osigurala odgovornost uprave.

U suštini, vještačka inteligencija transformiše upravne procese u pravcu veće efikasnosti, transparentnosti i kvaliteta usluga, ali istovremeno nameće potrebu za edukacijom, regulativom i kontinuiranim nadzorom kako bi se osiguralo etičko i odgovorno korištenje tehnologije.

3. Kako vještačka inteligencija mijenja odnos između građana i uprave, posebno u kontekstu transparentnosti, odgovornosti i zaštite prava?

Vještačka inteligencija (AI) mijenja odnos između građana i uprave time što omogućava brže, transparentnije i dostupnije pružanje javnih usluga. Građani mogu lakše doći do informacija, podnijeti zahtjeve i pratiti napredak svojih predmeta. AI pomaže u većoj transparentnosti jer omogućava praćenje odluka i njihovo obrazloženje, ali istovremeno nameće potrebu za jasnim pravilima o pristupu podacima i nadzoru nad automatizovanim postupcima. Odgovornost uprave ostaje ključna – iako AI pomaže u donošenju odluka, konačna odgovornost mora biti na ljudima kako bi se štitila prava građana.

4. Postoji li rizik da automatizacija i korišćenje algoritama u upravnim postupcima ugrozi osnovna prava stranaka u postupku, poput prava na obrazloženje odluke ili prava na žalbu?

Da, postoji rizik da automatizacija i korišćenje algoritama ugroze osnovna prava stranaka u postupku. Ključni izazov je obezbjeđivanje da algoritmi budu transparentni i da njihove odluke budu razumljive i obrazložene, što je bitno za pravo stranke na obrazloženje odluke. Takođe, automatizacija ne smije ograničiti pravo na žalbu ili pristup pravnoj zaštiti. Stoga je važno osigurati ljudski nadzor nad odlukama donesenim uz pomoć AI i jasno definirati postupke za reviziju i osporavanje tih odluka.

5. Koje biste zakonske ili institucionalne promjene preporučili kako bi se obezbijedila efikasna, ali i pravedna primjena vještačke inteligencije u upravnim procesima?

Preporučio bih sljedeće promjene:

  • Jasnu zakonsku regulativu koja definiše granice i zahtjeve za korištenje AI u upravnim postupcima, uključujući obavezu transparentnosti, obrazloženja odluka i prava na žalbu.
  • Stvaranje posebnih tijela za nadzor nad AI modelima u upravi, koja bi provjeravala njihovu pravičnost, objektivnost i poštovanje prava građana.
  • Edukaciju i obuku službenika i sudaija o AI tehnologijama, kako bi razumjeli njihove mogućnosti i ograničenja.
  • Uključivanje javnosti u razvoj i evaluaciju AI alata kako bi se osigurala šira društvena kontrola i povjerenje.

6. Za kraj, da li smatrate da je pravna struka — kako pravosuđe, tako i javna uprava — spremna da se nosi s izazovima koje AI donosi, i šta su glavni koraci ka jačanju te spremnosti?

Pravna struka, kako u pravosuđu tako i u javnoj upravi, još uvijek se prilagođava izazovima koje AI donosi. Postoje primjeri napretka u digitalizaciji i automatizaciji, ali nedostaje sistematska edukacija i jasna strategija integracije AI u pravne procese. Ključni koraci ka jačanju spremnosti su:

  • Kontinuirana edukacija pravnika i službenika o AI tehnologijama i njihovim pravno-etim implikacijama.
  • Razvoj jasnih standarda i smjernica za korištenje AI u upravnim i sudskim postupcima.
  • Međunarodna saradnja i razmjena iskustava kako bi se usvojile najbolje prakse iz drugih zemalja.
  • Stvaranje mehanizama za reviziju i nadzor kako bi se osigurala pravna sigurnost i zaštita prava građana.