Umjetna inteligencija ušla u države Zapadnog Balkana bez kontrole

"Ja sam Vaš virtualni asistent, dobro došli", poruka je takozvanog četbota s kojom se sve češće susreću građani zemalja Zapadnog Balkana pri posjeti zvaničnim stranicama institucija ili banaka koje tako odgovaraju na njihova pitanja.

Zakoni koji bi jasno uredili njihovu primjenu ne postoje.

Bosna i Hercegovina, Crna Gora, Srbija i Kosovo nalaze se u različitim fazama razvoja i primjene umjetne inteligencije (AI), prije svega u javnoj upravi.

Iz odgovora više državnih institucija koje je prikupio Radio Slobodna Europa vidi se da većina institucija nema jedinstvena pravila o tome smiju li činovnici koristiti javno dostupne AI alate poput ChatGPT-a, Copilota ili Geminija.

Ne postoji ni evidencija njihove upotrebe, a u nekim institucijama ni tehničke mjere koje bi spriječile unošenje službenih ili ličnih podataka građana u takve AI alate.

Jedni priznaju da javni službenici AI alate koriste, uglavnom za pripremu dokumenata, prijevode, lekturu, administrativne poslove, rad s velikim bazama podataka ili pretraživanje informacija, a drugi to negiraju.

Gotovo svi istodobno upozoravaju da nedostaje poseban regulatorni okvir kao i da najveće rizike predstavljaju zaštita ličnih podataka i informacijska sigurnost.

Na koncu navode da konačnu odgovornost za eventualnu zloupotrebu i tačnost službenih dokumenata snosi onaj ko koristi AI alate.

"Upotreba vještačke inteligencije ne može se zabraniti. To je isto kao da ja znam tri jezika i da mi vi zabranite da neki od njih koristim. Ali, može se precizno regulisati", kazao je za RSE sudski vještak IT struke Enes Čengić.

Čitajte:

Zašto je vještačka inteligencija parna mašina nove industrijske revolucije?

Govoreći o privatnosti i sigurnosti podataka, Čengić kaže da brisanje historije pregleda u praksi ne postoji i da svi podaci koje korisnici ostavljaju na internetu, pa tako i u AI alatima i sistemima, ostaju trajno zapisani jer su sistemi tako dizajnirani da podaci prolaze kroz više servera te ih je moguće kasnije rekonstruirati i koristiti.

AI alati bez uputstava za upotrebu

Dok članice Europske unije već provode Zakon o umjetnoj inteligenciji (AI Act), zemlje Zapadnog Balkana uglavnom tek pripremaju zakone, strategije i smjernice korištenja te procjenjuju usklađenost s pravilima EU.

Bosna i Hercegovina nema zakon koji uređuje upotrebu umjetne inteligencije, prije svega u državnim institucijama, ni u formi nacrta.

U nekim odgovorima koje je RSE prikupio od više državnih tijela se navodi da su "primijetili" da zaposleni AI alate ili "uopće ne koriste" ili ih "koriste u ograničenom opsegu", uglavnom za izradu tekstova, prijevode, lekturu i administrativne zadatke.

Sve institucije koje su odgovorile upozoravaju da BiH nema jedinstven pravni okvir kojim bi se uredila upotreba AI alata u javnoj upravi te pozivaju na donošenje propisa usklađenih s EU standardima.

Iz Tužiteljstva BiH su, naprimjer, naveli da zaposlenici smiju koristiti isključivo AI alate "koje je odobrila informatička služba institucije", naprimjer za obradu teksta, prijevode ili "generiranje ideja".

Istodobno je zaposlenicima Tužiteljstva zabranjeno unositi osobne podatke građana, podatke iz kaznenih predmeta, službene tajne, nacrte neobjavljenih akata ili druge povjerljive informacije u javno dostupne AI sisteme.

Iz Generalnog tajništva Vijeća ministara BiH navode da institucijama, među kojima je oko 50 ministarstva i agencija, zasad "pružaju stručne preporuke" o sigurnoj i odgovornoj primjeni AI alata, posebno kada je riječ o zaštiti podataka i kibernetičkoj sigurnosti.

Istodobno iz tajništva državne vlade ističu da je za izradu budućeg zakonodavnog okvira nadležno Ministarstvo komunikacija i prometa BiH, iz kojeg su za RSE naveli da trenutno "rade na planu usklađivanju propisa s EU i međunarodnim standardima".

Vijeće ministara BiH, često zbog spora oko nadležnosti između entiteta i državnog nivoa, kasni s usvajanjem zakona koje se obvezala uskladiti s EU.

Iz Agencije za zaštitu osobnih podataka BiH su za RSE naveli da upotreba umjetne inteligencije u obradi podataka nije posebno uređena Zakonom o zaštiti osobnih podataka niti je reguliranje korištenja AI alata u javnoj upravi u njihovoj nadležnosti.

Naglašavaju, međutim, da institucije koje obrađuju osobne podatke moraju provoditi odgovarajuće tehničke i organizacijske mjere zaštite te procijeniti rizike svake obrade podataka, uključujući i onu u kojoj se koriste AI alati.

Većina nadležnosti je na razinama dva entiteta čija administracija broji oko 28.000 službenika, ali ni Federacija BiH niti Republika Srpska nemaju posebne propise kojima bi se detaljno uredila upotreba AI u javnom sektoru.

Iz Agencije za informacijsko-komunikacijske tehnologije Republike Srpske su za RSE kazali da pojedine institucije već koriste digitalne alate koji uključuju elemente umjetne inteligencije "radi analize podataka i automatizacije administrativnih procesa". Iz Vlade Federacije BiH nisu odgovorili na upit RSE o ovom pitanju.

Dok pojedine institucije, kao što je Agencija za javne nabavke BiH, razvijaju tzv. chatbots (prozori za razmjenu poruka), komercijalni sektor poput banaka ili veliki trgovački lanci već koriste takve alate, razvijene najčešće u suradnji s aplikacijama za razmjenu poruka kao što su Viber ili WhatsApp.

Modernizacija usluga na Kosovu

Ni Kosovo nema poseban zakon koji izravno uređuje korištenje umjetne inteligencije u javnoj upravi.

Strategija e-uprave za razdoblje 2023. - 2027. predviđa uvođenje naprednih digitalnih rješenja, uključujući AI alate i analitiku velikih podataka, kao dio šire digitalizacije javnih usluga.

U praksi se već testiraju digitalna rješenja poput platforme e-Kosovo 2.0 i projekata u poreznoj administraciji, koji bi, kako se navodi, trebali omogućiti automatizaciju i personalizaciju usluga za građane.

Iz Državnog tužiteljstva Kosova su, naprimjer, kazali za RSE da zaposlenici ne koriste nijedan AI alat u istražnom, administrativnom ili pomoćnom radu.

Istodobno, kosovske institucije navode da rade na usklađivanju s EU standardima pa je tokom 2026. godine pokrenuta procjena spremnosti Kosova za usklađivanje s EU Aktom o umjetnoj inteligenciji i GDPR-om.

Krenare Zgojeva Dërmaku, povjerenica za informiranje i privatnost na Kosovu, kazala je za RSE da Zakon o zaštiti podataka nije predvidio posebna pravila za "curenje" osobnih podataka u kontekstu umjetne inteligencije, već se svako zloupotreba tretira na isti način.

Podsjeća da je Kosovo član Europskog odbora za zaštitu podataka kojem se građani i institucije mogu obratiti ako se njihovi podaci zloupotrijebe.

Crna Gora i Srbija već uvode AI u javne usluge

Crna Gora i Srbija su, u usporedbi s Kosovom i Bosnom i Hercegovinom, već ušle u aktivniju fazu.

Crna Gora još uvijek nije potpuno uskladila zakonodavstvo s Aktom o umjetnoj inteligenciji EU, a taj proces je dio obveza u okviru pregovora o članstvu.

Ministarstvo pravde najavilo je izradu novog zakonskog okvira kojim bi se regulirala primjena i sprječavanje zloupotreba umjetne inteligencije, dok je Vlada pokrenula izradu Strategije razvoja umjetne inteligencije 2026.-2030.

Čitajte:

Sve je na klik: Zašto mladi sve češće traže odgovore od AI-ja

Iz Ministarstva javne uprave su za RSE naveli da Crna Gora, u suradnji sa Svjetskom bankom, radi na definiranju mape puta razvoja umjetne inteligencije kroz digitalnu transformaciju javnog sektora.

U području kibernetičke sigurnosti Crna Gora je usvojila novi zakon usklađen s EU Direktivom NIS2 koja propisuje obvezne standarde za zaštitu mrežnih i informacijskih sistema u javnom i privatnom sektoru, te su uspostavljeni i operativni centri za nadzor digitalne infrastrukture.

Srbija je AI alate već počela uvoditi u pojedine javne usluge, iako još nema zakon koji bi uređivao razvoj i primjenu.

Virtualni asistenti (chatbots) dostupni su na internetskim stranicama Porezne uprave, Agencije za privredne registre ili portala eUprava, gdje odgovaraju na pitanja korisnika i pomažu pri korištenju pojedinih usluga.

To sve i košta.

Prema analizi baze javnih nabava koju je proveo Radio Slobodna Europa, samo je virtualni asistent Porezne uprave u 2026. godini plaćen oko 196.000 eura.

Istodobno, nijedna od institucija koje koriste takve AI sustave nije odgovorila na pitanja RSE o tome kako štite podatke građana koje korisnici mogu unositi u komunikaciji s virtualnim asistentima.

Srbija se trenutno oslanja na Strategiju razvoja umjetne inteligencije za razdoblje 2025-2030. i Etičke smjernice za razvoj i upotrebu vještačke inteligencije, koje nisu pravno obvezujuće.

Povjerenik za informacije od javnog značaja i zaštitu podataka o ličnosti ocjenjuje da je nužno donošenje zakona, kako bi se uredili nadzor nad AI sistemima, zaštita podataka građana i zabrana rizičnih ili diskriminatornih primjena.

Naglašavaju da, iako Zakon o umjetnoj inteligenciji još nije usvojen, bezbjednost privatnih podataka u onlajn prostoru regulišu drugi akti – poput Zakona o zaštiti podataka o ličnosti.

Čitajte:

Srbija još uvek čeka zakon o veštačkoj inteligenciji

Služba Povjerenika je, po zakonu, nadležna i za inspekcijski nadzor u slučajevima zlouporabe privatnih podataka.

Posebna pažnja se pridaje biometrijskim podacima (na primjer, alati za prepoznavanje lica) – jer njihova obrada nije dozvoljena bez zakonskog osnova.

"Povjerenik do sada nije imao registriran veliki broj formalnih postupaka inspekcijskog nadzora, zbog činjenice da masovna primjena ovakvih sistema u Srbiji još uvijek nema širok karakter, niti jasan zakonski okvir", naveli su za RSE.

Nacrt posebnog zakona, usklađen s EU Zakonom o umjetnoj inteligenciji (AI Act), još je u fazi izrade, a njegovo usvajanje očekuje se do kraja 2026. godine.

"Nacrt je usklađen sa AI aktom EU", kazala je za RSE Irena Đorđević iz Nacionalne alijanse za lokalni ekonomski razvoj (NALED), organizacije koja je u radnoj grupi za izradu zakona.

Pojašnjava da je predviđeno je da se AI sistemi i modeli rangiraju prema stepenu rizika.

"Imaćemo zabranjene sisteme, koji uopšte ne mogu da budu na tržištu, visokorizične, one sa srednjim nivoom rizika i sa minimalnim rizikom. Zakon će se odnositi na proizvođače AI sistema i modela na tržištu, ali i uvoznike, distributere i korisnike, ako ih koriste u poslovne svrhe", navodi Đorđević.

Ana Toskić Cvetinović iz nevladine organizacije "Partneri Srbija" upozorava da Nacrt zakona sadrži sporne iznimke, među kojima je i izuzimanje obrambenog sektora iz njegove primjene.

Ističe i da su dosadašnji propisi omogućavali državi da reguliše zaštitu privatnih podataka, zabranu diskriminacije, zaštitu konkurencije i autorskih prava u AI sektoru.

Ali je, kako kaže, primjena izostala, a zlouporabe dešavale.

"Zbog toga Zakon o umjetnoj inteligenciji u Srbiji mora biti restriktivniji, a ne permisivniji, od svog evropskog uzora - dok god institucionalna pretpostavka odgovornosti vlasti ne bude ponovo uspostavljena", stav je organizacije "Partneri Srbija".

Toskić Cvetinović upozorava i da trenutno ne postoji službeni pregled AI alata koje koriste državne institucije, niti interni pravilnici koji uređuju njihovu uporabu, iako se, tvrdi, u javnom sektoru već koriste alati poput ChatGPT-a.

Sudski vještak IT struke Enes Čengić kaže da je upotreba AI kao alata dobra jer značajno ubrzava rad, ali i da AI griješi pa je na kraju sve do čovjeka koji ju koristi, dok zloupotrebu takvih alata slikovito opisuje kao kad neko napiše doktorski rad o romanu "Na Drini ćuprija", a da ga nije pročitao.

Veštačka inteligencija – revolucija ili rizik za obrazovanje