Evropska komisija, izvršilni organ EU, je 19. novembra objavila dolgo pričakovani predlog digitalnih pravil, v okviru katerih je tudi Zakon o umetni inteligenci (EU AI Act). A zakon je sprožil ostre kritike številnih evropskih tehnoloških podjetij, ki opozarjajo, da bi stroga regulacija lahko upočasnila evropsko konkurenčnost.
Zakon o umetni inteligenci, zasnovan kot globalni standard, je zdaj pod pritiskom, da se prilagodi realnosti trga. Skupina 44 izvršnih direktorjev največjih evropskih tehnoloških in industrijskih podjetij, med katerimi so Airbus, Mercedes, BNP Paribas in Philips, je predsednici Evropske komisije Ursuli von der Leyen poslala odprto pismo, v katerem zahteva dveletni odlog najstrožjih pravil.
"Predpisi niso dovolj jasni in so težko izvedljivi, kar ogroža razvoj in mednarodno konkurenčnost evropskih podjetij," piše v pismu pobude European AI Champions, ki združuje 110 podjetij iz različnih industrij.
Kaj ureja zakon o umetni inteligenci
Zakon je stopil v veljavo 1. avgusta 2024 in zajema vse akterje v verigi AI-tehnologije – od ustvarjalcev AI-modelov, prek podjetij, ki jih uporabljajo, do končnih uporabnikov, vključno z organizacijami zunaj EU, če svoje AI-sisteme ponujajo na evropskem trgu.
Cilj je omogočiti odgovoren razvoj tehnologij, ki s seboj nosijo določena družbena tveganja. Zakon zagotavlja, da lahko Evropejci zaupajo temu, kar ponuja umetna inteligenca. Medtem ko ima večina AI-sistemov majhno ali nikakršno tveganje in lahko prispeva k reševanju številnih družbenih izzivov, nekateri AI-sistemi ustvarjajo tveganja, ki jih moramo nasloviti, da bi se izognili neželenim posledicam.
Vir: Depositphotos
Zato temelji evropski zakon o umetni inteligenci na sistemu, ki razvršča umetno inteligenco glede na stopnjo tveganja:
-
Nesprejemljivo tveganje - prakse, ki so popolnoma prepovedane, kot so škodljivo izkoriščanje in manipulacija čustev ljudi na podlagi umetne inteligence, poseganje v vedenje, kraja podatkov iz videonadzora za prepoznavanje obrazov v realnem času na javnih površinah ali ocenjevanje čustev v šolah ali na delovnem mestu. Prepovedi za to vrsto sistemov UI so začele veljati februarja 2025.
-
Visoko tveganje - sistemi na področjih zaposlovanja, izobraževanja, kreditiranja, zdravstva, javnih storitev, policije in kritične infrastrukture so podvrženi strogim zahtevam glede obvladovanja tveganj, kakovosti podatkov in človeškega nadzora. Pravila za visokorizične sisteme umetne inteligence bodo začela veljati avgusta 2026 in avgusta 2027.
-
Omejeno tveganje (tveganje transparentnosti) - To tveganje se nanaša na potrebo, da ljudje vedo, kdaj komunicirajo z AI-sistemi. Z zakonom o umetni inteligenci se uvaja obveznost jasnega obveščanja uporabnikov; na primer pri klepetalnih robotih (chatbot) mora biti uporabnik opozorjen, da se pogovarja z napravo. Prav tako mora biti vsebina, ki jo ustvari umetna inteligenca, prepoznavna, lažno ustvarjene slike z AI ter AI-besedila, namenjena obveščanju javnosti, pa morajo biti jasno in vidno označena. Pravila o transparentnosti bodo začela veljati avgusta 2026.
-
Minimalno tveganje - Večina vsakodnevnih orodij, kot so filtri za nezaželeno pošto ali priporočila vsebin, je izvzeta iz dodatnih obveznosti.
Posebna pozornost je posvečena GPAI modelom (angleško General Purpose AI – AI modeli splošne uporabe), namenjenim za ustvarjanje besedil, slik ali videov, kot so modeli ChatGPT in Claude. Za te modele od avgusta 2025 veljajo obveznosti glede preglednosti dokumentacije in nadzora avtorskih pravic, medtem ko za najzmogljivejše modele s sistemskim tveganjem veljajo dodatne ocene tveganja, testiranja, kibernetska varnost in obvezna prijava incidentov.
Leto zamika za visokorizične sisteme in generativne modele
Pod pritiskom evropskih in ameriških podjetij Evropska komisija razmišlja o uvedbi enoletnega obdobja, v katerem podjetja, ki že uporabljajo visokorizične sisteme in generativne modele umetne inteligence na trgu, ne bodo takoj kaznovana. Predlog: eno leto premora za uporabo najstrožjih pravil in odlog kazni za kršitve pravil transparentnosti do avgusta 2027, da bodo podjetja imela več časa za prilagoditev procesov in infrastrukture.
Po poročilu Bloomberga tudi administracija ameriškega predsednika Donalda Trumpa vpliva na Evropo, da opusti del predpisov, ki bi AI-razvijalce prisilil k spoštovanju strožjih standardov transparentnosti.
Kaj morajo vedeti družbe iz regije, ki želijo razvijati svoje AI-rešitve in uporabljate tuje
Evropska unija je ustanovila EU AI Office kot center za strokovnost na področju umetne inteligence, v okviru iniciative GenAI4EU pa je zagnan program financiranja, ki podpira startupe ter mala in srednja podjetja pri razvoju rešitev, ki so v skladu z evropskimi vrednotami.
Za startupe iz Adria regije, ki razvijajo izdelke na osnovi umetne inteligence in ciljajo na evropski trg, bodisi neposredno ali preko B2B kanalov (podjetja prodajajo podjetju), je premor pri izvajanju EU AI zakona priložnost, da se pripravijo na sprejem standardov, ki jih zakon določa.
"Ta scenarij smo že videli – z GDPR-jem in uvajanjem tehnologij v oblaku. Podjetja, ki so zgodaj sprejela višje standarde, se niso le izognila kaznim, temveč so postala zaupanja vredni voditelji na svojih trgih," je v intervjuju za Bloomberg Adria dejal Tom Vazdar, izvršni direktor Riskoria Advising & Professional Services in član odbora CroAI.
Sedad Avdić, svetovalec za digitalno strategijo in predsednik nadzornega odbora BH Telecoma, je na konferenci v BiH izjavil: "Ta zakon predstavlja ključni korak k regulaciji in izboljšanju razvoja AI-tehnologij, s poudarkom na varnosti, transparentnosti in etičnosti. Implementacija tega zakona bo prinesla pomembne spremembe v digitalnem poslovanju ter izzive za podjetja, ki se ukvarjajo z razvojem, kot tudi za same uporabnike AI-rešitev."
Njegovo sporočilo je posebej pomembno za regionalne startupe, ki pogosto nimajo pravnih in tehničnih ekip, kot jih imajo velike evropske korporacije, vendar vseeno vstopajo na isti trg in se morajo držati enakih pravil.
Premor predstavlja strateško priložnost za tiste, ki leto ne bodo preživeli v čakanju, ampak v pripravi izdelkov, procesov in pravne skladnosti za novo dobo umetne inteligence. To ne velja samo za mala podjetja in startupe, ampak tudi za večja tehnološka podjetja iz regije, ki načrtujejo notranje inovacije na področju umetne inteligence ali sodelujejo s startupi.
.webp){kind=icon}
