Srbija još uvek nema zakon koji reguliše upotrebu veštačke inteligencije (AI), iako se ona uveliko koristi, a prethodnih godina zabeleženi su i primeri zloupotrebe ove tehnologije.
Ministarstvo nauke, tehnološkog razvoja i inovacija formiralo je 2024. godine radnu grupu koja treba da izradi nacrt zakona. Nju čine predstavnici državnih organa, industrije i advokati.
Nije, međutim, poznato u kojoj fazi je izrada ovog akta.
Radio Slobodna Evropa (RSE) je tu informaciju pokušao da dobije od resornog ministarstva, ali do zaključenja teksta odgovor nije stigao.
Ana Toskić Cvetinović, izvršna direktorka nevladine organizacije "Partneri Srbija", kaže za RSE da, prema njenim informacijama, radna grupa nije zasedala od formiranja aktuelne Vlade u aprilu 2025. godine.
"Poslednja informacija koju imam jeste da bi trebalo da bude formirana nova radna grupa", kaže Toskić Cvetinović.
Zakon po ugledu na EU
U januaru 2025. Srbija je usvojila Strategiju razvoja veštačke inteligencije za period od 2025. do 2030. godine. Prema rečima nadležnih, ova strategija definiše ciljeve i mere za dalji razvoj AI u zemlji i osnova je za budući Zakon o veštačkoj inteligenciji.
Prethodno su, početkom 2023. godine, donesene Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije u Srbiji. U njima je definisano preko deset različitih sistema koji koriste veštačku inteligenciju i mogu da imaju manipulativni, loš uticaj na pojedinca ili društvo.
Među visoko-rizičnim sistemima su oni koji se odnose na biometrijsku identifikaciju, kategorizaciju pojedinaca, algoritme za analizu podataka u zdravstvu ili odabir kandidata u sektoru obrazovanja ili zapošljavanja. Deo stručne javnosti je, međutim, kritikovao što među visoko-rizičnim sistemima nisu navedene službe bezbednosti.
Bojan Perkov iz Fondacije Share kaže za RSE da očekuje da će se ovdašnji zakonski okvir o veštačkoj inteligenciji u dobroj meri bazirati na Aktu o veštačkoj inteligenciji (AI Akt) Evropske unije.
"U fokusu uređivanja društvenih pitanja koja se odnose na razvoj i upotrebu tehnologija, a naročito naprednih tehnologija kao što su modeli veštačke inteligencije i na njima zasnovani tehnološki proizvodi, treba da budu zaštita ljudskih prava i umanjenje negativnih posledica po društvene procese", smatra Perkov.
U junu 2024. godine, EU je usvojila prvu regulativu na svetu koja se odnosi na veštačku inteligenciju.
Kako se navodi na sajtu Evropskog parlamenta, EU je želela da reguliše veštačku inteligenciju kako bi obezbedila bolje uslove za razvoj i korišćenje ove inovativne tehnologije.
Procena rizika
Ana Toskić Cvetinović se slaže da bi oblast korišćenja AI sistema trebalo urediti po uzoru na legislativu EU, između ostalog i zbog toga što veliki broj kompanija koje razvijaju ove modele u Srbiji to rade za zapadna tržišta.
"Ono što predstavlja jednu vrstu izazova jeste činjenica da se u Evropskoj uniji već sada razmatra neka vrsta reforme tog zakona. Videćemo kako će to izgledati, ali bi u svakom slučaju bilo dobro da se prate trendovi", kaže Toskić Cvetinović.
Prema njenim rečima, jedan od najvažnijih detalja je uspostavljanje sistema zasnovanog na proceni rizika i rangiranje sistema veštačke inteligencije u odnosu na rizike koje oni nose.
"Dodatne obaveze propisuju se za one modele koji nose veći rizik, kao uostalom sa bilo kojom tehnologijom. Kao što ne može svako da pravi oružje, ne bi trebalo da svakome bude omogućeno da razvija visokorizične modele veštačke inteligencije, na primer one koji targetiraju decu ili neke osetljive kategorije lica ili koji se koriste za procenu nečije radne sposobnosti, ekonomskog statusa i slično", objašnjava Ana Toskić Cvetinović.
Evropska komisija je u predlogu zakona uspostavila sistem klasifikacije veštačke inteligencije zasnovan na riziku. Sistemi veštačke inteligencije koji se mogu koristiti u različitim aplikacijama analiziraju se i klasifikuju prema riziku koji predstavljaju za korisnike.
EU propisima zabranjuje neke vrste upotrebe veštačke inteligencije, na primer, igračke koje glasom podstiču na opasno ponašanje kod dece, klasifikaciju ljudi na osnovu ponašanja, socio-ekonomskog statusa ili ličnih karakteristika, biometrijsku identifikaciju i kategorizaciju ljudi.
Neki izuzeci, kad je reč i biometrijskim podacima, su dozvoljeni u svrhu sprovođenja zakona. Sistemi za daljinsku biometrijsku identifikaciju "u realnom vremenu" biće dozvoljeni u ograničenom broju slučajeva za gonjenje teških krivičnih dela i tek nakon odobrenja suda.
Generativna veštačka inteligencija, poput ChatGPT-a, nije klasifikovana kao visokorizična, ali će morati da se pridržava zahteva za transparentnošću i zakona EU o autorskim pravima. Između ostalog, neophodno je objavljivanje da je sadržaj generisan pomoću veštačke inteligencije.
Propisima EU ostavljeno je vreme da se sistemi koji razvijaju veštačku inteligenciju prilagode regulativi.
Prema rečima Bojana Perkova, jedan od izazova u izradi ovakvog zakona u Srbiji biće da se pomire interesi korisnika i njihove zaštite od zloupotrebe AI tehnologije sa jedne strane, i zaštita interesa tehnoloških kompanija koje nastoje da brzo razvijaju ovu oblast.
"Industrija kojoj je u interesu da ostvari što veći profit očekivano lobira da sebi umanji troškove usklađivanja sa regulativom, ne samo prilikom razvoja AI već i kada se proizvodi plasiraju na tržište. Sa druge strane, građani koji će biti izloženi upotrebi AI alata u različitim kontekstima koji će direktno uticati na njihova prava i slobode ne mogu biti ostavljeni bez zaštite", kaže Perkov.
On, ipak, napominje da je Srbija premalo tržište da bi mogla da ima uticaj na svetska zbivanja kada je reč o tržištu tehnoloških proizvoda, ali dodaje da je izuzetno važno kako će se kao društvo postaviti prema upotrebi tehnologije globalnih igrača na njenim građanima.
Zloupotreba veštačke inteligencije
Lažni video snimci, generisani veštačkom inteligencijom, već su korišćeni u političkoj svakodnevici Srbije.
U avgustu 2023. godine je na privatnoj televiziji Pink, čija uređivačka politika je naklonjena režimu, emitovani takvi snimci u kojima su akteri bivši predsednik Srbije Boris Tadić i opozicioni političar Dragan Đilas izgovarali lažne i uvredljive tvrdnje.
Savet Regulatornog tela za elektronske medije (REM), koji reguliše i sankcioniše rad elektronskih medija, saopštio je ovim povodom da bi prikazivanje sadržaja u kojima se koristi veštačka inteligencija u zabavnim, dokumentarnim, obrazovnim i drugim programima trebalo da sadrži i uočljivo obaveštenje da je program generisan posredstvom veštačke inteligencije.
Ana Toskić Cvetinović, iz organizacije "Partneri Srbija", kaže da bi novim zakonom o veštačkoj inteligenciji trebalo da bude sankcionisana i ovakva zloupotreba veštačke inteligencije.
Ona objašnjava da se, prema aktuelnim propisima, ovakve zloupotrebe mogu tretirati Zakonom o zaštiti podataka o ličnosti i Zakonom o zaštiti autorskih prava u odnosu na onoga ko je sačinio određeni snimak koji je generisan AI tehnologijom.
"Ali, ovde govorimo i o aspektu namerne manipulacije koja ima za cilj da utiče na neke političke odluke i stavove građana. To je direktan upliv na demokratske procese. 'Deep fake' koji je ovde korišćen zapravo bi trebalo da bude predmet regulative", smatra Toskić Cvetinović.
Prema mišljenju Bojana Perkova, samo propisivanje da je određeno ponašanje nezakonito ne znači nužno da će ono biti sankcionisano.
"Propisi sami po sebi ne vrede ako su nadzor nad primenom i mehanizmi sankcionisanja nedovoljno robusni da se kršenje propisa ne isplati, usled jasnih izgleda da će onaj ko krši propise zapravo biti sankcionisan", zaključuje Perkov.
Sumnje da je policija koristila AI
Krajem 2025. godine, deo javnosti u Srbiji izneo je sumnje da je Ministarstvo unutrašnjih poslova koristilo AI alate prilikom potrage za napadačem na jednu stariju ženu u Beogradu.
Policija je u dva navrata objavila fotografije osumnjičenog, na kojima se on znatno razlikuje. Jedna od fotografija sa nadzornih kamera bila je posebno čista, pa je deo javnosti posumnjao da ju je policija obradila u nekom AI softveru.
MUP se o ovim navodima nije oglašavao. Iz tog ministarstva nisu odgovorili na upit Radija Slobodna Evropa da li je veštačka inteligencija korišćena u ovom slučaju i, ukoliko jeste, u skladu sa kojim zakonom.
Ana Toskić Cvetinović, izvršna direktorka nevladine organizacije "Partneri Srbija", kaže za RSE da bi MUP trebalo da izađe pred javnost sa informacijom o tome da li su pripadnici policije koristili neki softver na fotografijama koje su objavljene kako bi javnost mogla da prepozna osumnjičenog.
"Jasno je da je uzeta fotografija sa snimka obične video kamere i ona je dalje obrađivana. Bilo bi dobro da znamo šta je to korišćeno", kaže Toskić Cvetinović.
Početkom decembra 2021. godine u Srbiji je puštena u rad Nacionalna platforma za veštačku inteligenciju.
Kako je tada najavio direktor Kancelarije za IT Vlade Srbije Mihajlo Jovanović, prvi korisnici platforme, koja se zasniva na radu superkompjutera, će biti tri instituta, sedam tehničkih fakulteta, Univerzitet u Kragujevcu i četiri naučno-tehnološka parka.
