Analiza izazova u implementaciji EU Akta o veštačkoj inteligenciji u Srbiji

Kako bi osiguralo sigurno i etičko korišćenje veštačke inteligencije, s jedne strane, i podsticanje inovacija sa druge strane, u Evropskoj Uniji je usvojena Uredba o uspostavljanju usklađenih pravila o veštačkoj inteligenciji (AI Akt).

Pored navedenog, cilj AI Akta jeste i uspostavljanje jedinstvenog pravnog okvira za razvoj, testiranje i upotrebu veštačke inteligencije. AI Akt se primenjuje neposredno na sve države članice Evropske unije (EU), ali njegova primena ima i eksteritorijalni domet, odnosno AI Akt obavezuje i subjekte van EU, ukoliko razvijaju, plasiraju ili koriste AI sisteme koji imaju efekat na fizička ili pravna lica unutar EU. Time se osigurava zaštita prava i sloboda lica na teritoriji EU, bez obzira na mesto nastanka ili implementacije AI tehnologije.

Ovakav pristup proširuje regulatorni uticaj EU van njenih granica, što za pravne subjekte izvan EU, poput onih iz Srbije, znači potrebu za usklađivanjem poslovanja sa AI Aktom ukoliko njihovi AI sistemi imaju uticaj na tržište EU.

1. AI Akt

1.1 Pregled i status

Pregled osnovnih odredbi, uključujući kategorizaciju rizika, zabranjene AI sisteme, institucionalni okvir i propisane kazne za nepoštovanje odredbi AI Akta su dati u našoj Analizi EU pravnog okvira za veštačku inteligenciju.

1.2 Primena

AI Akt, ima kako teritorijalnu, tako i eksteritorijalnu primenu, te stoga uspostavlja čitav niz obaveza za sve aktere uključene u razvoj, primenu i upotrebu veštačke inteligencije, od provajdera, preko uvoznika i distributera, do korisnika veštačke inteligencije u Evropskoj Uniji, ali i izvan nje.

AI Akt se primenjuje:

1. na pružaoce AI sistema koji ih stavljaju na tržište ili puštaju u upotrebu u EU – bez obzira na to da li su iz EU ili trećih zemalja;
2. na korisnike AI sistema koji se nalaze ili imaju sedište u EU;
3. na subjekte iz trećih zemalja, ako se izlaz (output) AI sistema koristi u EU;
4. na uvoznike, distributere i proizvođače koji plasiraju AI sisteme zajedno sa proizvodima;
5. na ovlašćene predstavnike pružalaca AI sistema koji nisu iz EU;
6. ako se fizička lica, pogođena radom AI sistema, nalaze u EU.

AI Akt se ne primenjuje:

1. na oblasti izvan nadležnosti prava EU, niti na AI sisteme koji se isključivo koriste u vojne, odbrambene ili svrhe nacionalne bezbednosti;
2. na javne vlasti u trećoj zemlji niti na međunarodne organizacije, kada koriste AI sisteme u okviru međunarodne saradnje sa EU, pod uslovom da takva treća zemlja ili međunarodna organizacija obezbeđuje mere zaštite u pogledu zaštite osnovnih prava i sloboda pojedinac;
3. na sisteme veštačke inteligencije koji su posebno razvijeni i stavljeni u upotrebu isključivo u svrhu naučnog istraživanja i razvoja;
4. na AI aktivnosti u ranoj fazi razvoja ili testiranja, pre nego što se sistem plasira na tržište ili pusti u rad, s tim da testiranje u realnim uslovima nije izuzeto;
5. na ličnu, neprofesionalnu upotrebu AI sistema od strane fizičkih lica;
6. Na open-source AI sisteme, osim ako su klasifikovani kao visokorizični ili podležu određenim zabranama.

Dodatno, AI Akt ne utiče na primenu drugih propisa EU, poput Uredbe o zaštiti podataka o ličnosti (GDPR), zaštiti potrošača i sigurnosti proizvoda.

1.3. Obaveze

Obaveze prema AI Aktuzavise od nivoa rizika koji određeni AI sistem predstavlja.

• Neprihvatljiv rizik: Sistemi veštačke inteligencije, za koje smatra da nose neprihvatljivi rizik, su zabranjeni.
• Visok rizik: Sistemi veštačke inteligencije koji se koriste u kritičnim oblastima kao što su infrastruktura, obrazovanje, zapošljavanje i sprovođenje zakona klasifikovani su kao visoko-rizični. AI Akt uvodi razne uslove koje visokorizični sistemi moraju da ispune, kao što su upravljanje rizikom, kvalitet i bezbednost podataka, transparentnost, dokumentovanje performansi, održavanja i ažuriranja sistema, ljudski nadzor i tačnost, dok će se kompanije koje obezbeđuju ili primenjuju tu tehnologiju suočiti sa obavezama u vezi sa registracijom, upravljanjem kvalitetom, testiranjem sistema, praćenjem, vođenjem evidencije i izveštavanjem o incidentu.
• Ograničeni rizik: AI sistemi sa ograničenim rizikom podležu određenim obavezama, kao što su transparentnost, odnosno korisnici moraju biti obavešteni da komuniciraju sa veštačkom inteligencijom (npr. chatbotovi), a veštački generisan sadržaj (slike, video, glas) mora biti jasno označen kao takav.
• Nizak rizik: Za ostale sisteme veštačke inteligencije koje AI Akt posebno ne reguliše se smatra da imaju nizak rizik, te se AI Aktom ne nameću posebne obaveze prilikom njihovom razvijanja, testiranja ili upotrebe.

Dodatno, za provajdere modela veštačke inteligencije AI Akt propisuje obaveze da izrade i ažuriraju tehničku dokumentaciju modela, uključujući proces obuke i testiranja i rezultate njegove evaluacije, zatim da izrade, ažuriraju i učine dostupnim informacije i dokumentaciju provajderima sistema veštačke inteligencije koji nameravaju da integrišu model veštačke inteligencije opšte namene u svoj sistem veštačke inteligencije, da uspostave politiku poštovanja zakona Unije o autorskim pravima i ostalo.

Dakle, što je veći rizik, to su veće i obaveze koje proizvođači i korisnici takvih sistema moraju da ispune.

1.4. Početak primene

AI Akt je na snazi od 2. avgusta 2024. godine, dok je zabrana za sisteme sa neprihvatljivim rizikom već počela da se primenjuje od 2. februara 2025. godine.

Od 2. avgusta 2025. godine počinju da se primenjuju obaveze dobavljača modela veštačke inteligencije opšte namene, osim za modele koji su stavljeni na tržište pre tog datuma, u kom slučaju imaju dodatni rok od 24 meseca da se usaglase sa obavezama propisanim Zakonom (dakle ukupno 36 meseci od stupanja na snagu Zakona), kao i odredbe o poverljivosti i kaznama

Od 2. avgusta 2026. godine počinju da se primenjuju obaveze za visokorizične sisteme veštačke inteligencije.

Detaljan vremenski početak primene svih odredbi AI Akta može se pronaći ovde.

2. Uticaj AI Akta na Srbiju

2.1. Primena AI Akta na organizacije u Srbiji

Kako je navedeno u delu ove Analize koji se odnosi na primenu AI Akta, pored organizacija sa sedištem na teritoriji EU, AI Akt obuhvata i organizacije koje nemaju sedište na teritoriji EU, uključujući tu i organizacije se sedištem na teitoriji Srbije i to:

• koje razvijaju AI sisteme u Srbiji, ali ih uvoze ili distribuiraju na tržištu EU, čaki ako nisu fizički prisutne na teritoriji EU, i bilo da jer reč o gotovim proizvodima ili softverskim rešenjima;
• na pružaoce ili korisnike AI sistema ako se izlazni rezultati AI sistema upotrebljavaju u EU,
• proizvođače proizvoda koji stavljaju na tržište ili u upotrebu AI sistem zajedno sa svojim proizvodom i pod vlastitim imenom ili žigom,
• vlasnike bilo kog AI sistema, ako isti zahvata lica na teritoriji EU.

Prema tome, organizacije sa sedištem u Srbiji treba da budu svesne da se AI Akt može primenjivati i na njih, čak i ako nemaju fizičko prisustvo u EU, zbog čega je važno da pravovremeno usklade svoje AI sisteme sa ovim propisima, kako bi izbegle potencijalne pravne posledice i obezbedile nesmetan pristup evropskom tržištu.

2.2. Regulativa veštačke inteligencije u Srbiji

Kako Srbija trenutno nema poseban zakon koji pravno uređuje veštačku inteligencije, iako ima Etičke smernice i Strategiju prema kojoj je jedan od ciljeva usvajanje posebnog zakona koji reguliše AI, o čemu smo detaljnije pisali u dokumentu – Etički okvir veštačke inteligencije u Srbiji,

gotovo je izvesno da će na isti način na koji je GDPR uticao na razvoj srpskog Zakona o zaštiti podataka o ličnosti, AI Akt oblikovati budući Zakon o veštačkoj inteligenciji u Srbiji.

Dodatno, usklađivanje domaćeg zakonodavstva sa propisima EU je jedan od ključnih uslova za članstvo u EU.

Dakle, najbezbedniji pristup za srpske kompanije jeste usklađivanje sa EU regulativom, jer će to ne samo otvoriti vrata tržištu EU, već će obezbediti dugoročnu usklađenost i sa domaćim zakonima kada budu doneti.

3. Globalni izazovi u primeni AI Akta

3.1. Usklađivanje sa drugim propisima

Akt o veštačkoj inteligenciji se prepliće sa postojećim propisima kao što su GDPR i Akt o digitalnim uslugama (DSA), što stvara potencijalna preklapanja i nedoslednosti.

Evropska unija je pokušala da postavi pravni okvir koji balansira između inovacija i zaštite podataka tako što je u AI Aktu propisala da isti ne utiče na primenu GDPR-a, te stoga AI Akt i GDPR zajedno oblikuju način na koji se veštačka inteligencija razvija i koristi, ujedno vodeći računa o zahtevima oba propisa.

Međutim, kako se sistemi veštačke inteligencije oslanjaju na ogromnu količinu podataka, uključujući i podatke o ličnosti, izazovi se javljaju u svim fazama izrade veštačke inteligencije, od unosa podataka, odnosno početne faze prikupljanja podataka, preko procesa treniranja, pa sve do njihove primene u realnom okruženju, te poštovanje zahteva GDPR-a zahteva od organizacija da imaju pravni osnov za sve to, da minimizuju podatke, da implementiraju posebne mere za zaštitu podataka i osiguraju privatnost korisnika, što sve može biti tehnički i organizaciono izazovno i zahtevno.

Dodatno, sektorski specifični propisi u oblastima kao što su finansije, zdravstvo ili automobilska industrija takođe moraju biti uzeti u obzir, što zahteva pažljivo usklađivanje i doprinosi složenosti koordinacije ovih različitih pravnih okvira.

3.2. Tehnički izazovi za procenu usklađenosti AI sistema

AIAkt naglašava važnost kvaliteta, relevantnost i reprezentativnost podataka, posebno za obuku, validaciju i testiranje AI sistema i nameće obavezu organizacijama da moraju uspostaviti čvrste okvire za upravljanje podacima kako bi osigurale njihov kvalitet i održavale detaljnu dokumentaciju tokom celog životnog ciklusa sistema veštačke inteligencije.

Dodatno, neophodno je osigurati zaštitu AI alata od manipulacija, predrasuda i diskriminacije, što nameće dodatne sigurnosne i etičke zahteve.

Najzad, implementacija AI Akta zahteva visok nivo transparentnosti, što podrazumeva da AI sistemi moraju da budu objašnjivi i proverljivi.

Sve navedeno je tehnički i operativno izazovno, pri čemu trenutno ne postoje univerzalni standardi, koji bi omogućili lakšu usklađenost sa zahtevima AI Akta. Zbog toga je ključno razviti jasne smernice i mehanizme za standardizaciju, kako bi se obezbedila pravna sigurnost i dosledna primena AI Akta.

3.3. Kompleksnost procene rizika i potencijalna pravna nesigurnost

Naveli smo da AI Akt klasifikuje AI sisteme na osnovu rizika koje predstavljaju po društvo, od niskog, preko srednjeg i visokog rizika, do neprihvatljivog rizika. Ova kategorizacija zahteva od organizacija da precizno procene i dokumentuju potencijalne rizike svojih AI sistema, pri čemu je precizna klasifikacija sistema veštačke inteligencije prema njihovom nivou rizika ključna za efikasnu primenu AI Akta.

Takođe, nejasnoće u pojedinim definicijama AI Akta, počev od definicije samog sistema veštačke inteligencije koji je preširoko postavljen, mogu dovesti do nedosledne primene i pravne nesigurnosti.

Najzad, primena AI Akta u država članica EU zahteva snažnu koordinaciju i harmonizaciju jer bi razlike u nacionalnim tumačenjima i praksama primene mogle dovesti do fragmentiranog regulatornog okruženja.

3.4. Troškovi usklađenosti

Za AI sisteme koji su kategorizovani kao visokorizični, kompanije moraju ispuniti stroge zahteve u pogledu transparentnosti, sigurnosti i etičkih standarda. Ovo uključuje detaljnu dokumentaciju, kontinuirano praćenje performansi i obezbeđivanje ljudskog nadzora, što može povećati operativne troškove i zahtevati dodatne resurse.

Usklađenost sa AI Aktom time može nametnuti značajne troškove, posebno za mala i srednja preduzeća (MSP).

3.5. Ravnoteža između inovacija i regulacije

Pronalaženje ravnoteže između regulisanja veštačke inteligencije radi ublažavanja rizika i podsticanja inovacija nije jednostavan zadatak. Previše strogi propisi EU koji se tiču veštačke inteligencije mogu ometati istraživanje i razvoj, potencijalno podstičući razvoj novih tehnologija veštačke inteligencije u drugim regionima.

Već sada AI Akt i propisano administrativno opterećenje procene rizika, dokumentacije i ljudskog nadzora, kao i troškovi koji proizlaze iz svih tih obaveza, bi moglo da uguši inovacije.

Dodatno, kako se polje veštačke inteligencije neprestano razvija, AI Akt mora biti prilagodljiv novim tehnologijama i slučajevima upotrebe, što podrazumeva da će biti neophodne redovne revizije i ažuriranja kako bi se osiguralo da AI Akt ostane relevantan, efikasan i primenljiv.

3.6. Potencijalni ekonomski uticaj na evropsku AI industriju

Druga strana stroge regulacije, jeste da čak i ukoliko se neko odluči da razvija novi AI sistem, bez obzira na propisane obaveze i dodatne troškove, rešenja veštačke inteligencije usklađena sa AI Aktom posledično mogu imati višu cenu za potrošače u poređenju sa rešenjima iz regiona sa nižim ili nikakvim standardima, što dalje potencijalno dovodi do smanjene konkurentnosti na tržištu EU, gde takvi sistemi, i pored svoje usklađenosti sa propisima, u praksi možda neće biti komercijalno isplativi niti atraktivni za širu primenu.

Sve to smanjuje privlačnost EU za AI biznise, te postoji rizik da će prekomerna regulacija i obaveze za pružaoce ili korisnike AI sistema smanjiti konkurentnost evropskih AI kompanija u odnosu na one iz manje regulisanih tržišta, naročito u odnosu na Sjedinjene Američke Države i Kinu koje imaju primat u odnosu na EU kada je u pitanju razvoj veštačke inteligencije.

4. Dodatni izazovi u primeni AI Akta za organizacije u Srbiji

4.1. Usklađivanje sa EU propisima

Srbija, kao zemlja kandidat za članstvo u EU, teži usklađivanju svog zakonodavstva sa evropskim standardima. Međutim, implementacija ovako složenog akta zahteva značajne napore i resurse.

Sa jedne strane je potrebno prilagoditi AI Akt pozivnim propisima i realnim stanjem što se tiče razvoja, testiranja i korišćenja veštačke inteligencije u Srbiji kako bi propis bio primenljiv, dok je sa druge strane potrebno prilagoditi domaće zakone i regulative kako bi se obezbedila kompatibilnost sa EU AI Aktom, što može biti dugotrajan i kompleksan proces.

4.2. Razvoj potrebne infrastrukture

Efikasna primena AI Akta zahteva odgovarajuću infrastrukturu, uključujući stručnjake, tehničke resurse i nadzorne mehanizme.

Srbija mora da investira u razvoj ovih kapaciteta kako bi osigurala efikasno sprovođenje regulative.

4.3. Svest i edukacija

Većina kompanija i institucija u Srbiji još uvek nije upoznata sa zahtevima EU AI Akta, što otežava pravovremeno prilagođavanje novim regulativama. Javne institucije, ali i privatni sektor, će morati da prođu kroz obuke o nadzoru, proceni rizika i implementaciji AI sistema kako bi osigurale efikasnu primenu zakona. Nedostatak edukacije može dovesti do pravnih nesigurnosti i otežane usklađenosti sa međunarodnim standardima.

Sa druge strane, ni korisnici AI tehnologija nisu dovoljno informisani o svojim pravima i rizicima koje AI nosi, što može uticati na njihovu zaštitu i poverenje u tehnologiju.

Stoga je neophodno ulaganje u edukaciju svih relevantnih aktera kako bi se osiguralo razumevanje i primena propisa, kao i odgovoran i bezbedan razvoj AI sektora u Srbiji.

4.4. Ekonomski uticaj

Srbija se suočava sa ograničenim resursima za razvoj i primenu etičke i bezbedne AI tehnologije, što usporava napredak sektora u poređenju sa drugim državama. Nedostatak finansijske i institucionalne podrške može negativno uticati na konkurentnost domaćih AI kompanija. Postojeći i budući regulatorni okviri mogu dodatno podstaći odliv talenata ka inostranstvu, gde su uslovi poslovanja povoljniji. To može dovesti do slabljenja domaćeg AI ekosistema i smanjenja kapaciteta za inovacije.

Zbog toga je neophodno razviti strategije koje će omogućiti održiv razvoj AI sektora uz državne i druge podsticaje i prilagođenu regulativu.

4.5. Saradnja sa EU

Saradnja sa Evropskom unijom i razmena iskustava sa zemljama članicama su od suštinskog značaja za uspešnu implementaciju AI Akta. Srbija bi trebalo da iskoristi stručnu pomoć, ustaljene prakse, smernice i po mogućstvu finansijsku podršku EU kako bi olakšala proces implementacije AI regulative.

4.6. Razvoj nacionalne strategije

Srbija je usvojila strategiju razvoja veštačke inteligencije, i te strateške smernice je potrebno uskladiti sa EU aktom o veštačkoj inteligenciji kako bi ista omogućila pravovremeno usklađivanje pravnog i institucionalnog okvira sa zahtevima AI Akta i time olakšala međunarodna saradnja i pristup evropskom tržištu.

Jasna nacionalna strategija bi pomogla sa jedne strane obrazovnim, naučnim, poslovnim i javnim institucijama da bolje razumeju tehničke, pravne i etičke zahteve koje AI Akt postavlja, a sa druge strane bi postavila smernice za etičku, pravednu i odgovornu upotrebu AI, štiteći prava i interese građana, posebno u osetljivim oblastima kao što su zdravstvo, obrazovanje, zapošljavanje i nacionalna bezbednost.

Dodatno, nacionalna strategija bi omogućila stvaranje podsticajnog ekosistema za razvoj AI rešenja koja su kompatibilna sa EU standardima, čime bi se povećala konkurentnost srpskih kompanija, jer bi one mogle nesmetano nuditi svoja rešenja i usluge na tržištu EU. Zemlje koje imaju jasno definisanu strategiju za AI lakše privlače strane investitore i ostvaruju međunarodne partnerske projekte, te usklađivanje sa EU regulativom kroz nacionalnu strategiju može pozicionirati Srbiju kao pouzdanog partnera u oblasti AI.

4.7. Institucionalni kapaciteti

Biće potrebno osnovati regulatorno telo ili prilagoditi postojeće institucije da nadgledaju sprovođenje Akta.

Nacionalno nadzorno telo za AI bi trebalo da bude glavna institucija zadužena za primenu i nadzor usklađenosti sa AI Aktom. Zatim bi Koordinaciono telo trebalo da upravlja strategijom razvoja AI u Srbiji, povezuje privatni i javni sektor i sarađuje sa međunarodnim partnerima, posebno EU telima. Eticki komitet ili savetodavno telo za AI bi trebalo da daje preporuke i mišljenja o etičkim dilemama i primeni AI u osetljivim oblastima (npr. zdravstvo, pravosuđe, obrazovanje). Dalje, neophodne su tehničke institucije / laboratorije za testiranje i sertifikaciju koje bi bile ovlašćene da proveravaju tehničku usklađenost AI sistema sa standardima i ostalo.

5. Zaključak

AI Akt predstavlja ambiciozan pokušaj regulacije veštačke inteligencije, ali njegova implementacija donosi brojne izazove. Kako bi se omogućila efikasna i ravnomerna primena, ključno će biti uspostavljanje jasnih smernica, tehničkih standarda i podrške svima koji razvijaju i/ili testiraju AI sisteme.

Implementacija AI Akta u Srbiji zahteva prilagođavanje pravnog okvira, jačanje tehničkih kapaciteta i podršku AI ekosistemu. Ključni izazovi su usklađivanje sa EU propisima, obezbeđivanje resursa za nadzor i testiranje AI sistema, kao i omogućavanje malim i srednjim preduzećima da se usklade sa regulativom bez prevelikog opterećenja.

Kompanije u Srbiji, posebno one koje se bave razvojem AI rešenja, moraju pažljivo da prate razvoj situacije u vezi sa AI Aktom. Srbija, kao zemlja koja teži integraciji sa EU, verovatno će usvojiti slične propise u budućnosti, te stoga, usklađivanje sa EU standardima nije samo imperativ u cilju izbegavanja propisanih kazni, već otvara vrata evropskom tržištu i priprema kompanije za buduće domaće propise.

Sa druge strane, iako AI Akt predstavlja izazov, on takođe otvara nove prilike za srpske kompanije. Usklađivanje sa EU standardima može poboljšati reputaciju kompanija i povećati poverenje klijenata.