Regulativa zakona o AI – novi pristup umjetnoj inteligenciji

Koje su odredbe zakona o AI?

Glavni cilj odredbe uspostavljanje je pravnih i organizacijskih okvira za rješenja koja upotrebljavaju tehnologiju umjetne inteligencije unutar Europske unije. Kreatori Zakona o umjetnoj inteligenciji smatraju da umjetna inteligencija treba biti alat koji služi dobru čovječanstva i ne smije kršiti njegova temeljna prava, za koja se Europska unija obvezuje da će ih zaštititi.

Među zaštićenim vrijednostima nalazi se, između ostalog, intelektualno vlasništvo. Stoga Zakon o umjetnoj inteligenciji također uključuje generatore sadržaja. Oni su podijeljeni u dvije kategorije.

1. Opći AI modeli – proizvođači AI modela morat će dobiti pristanak za upotrebu materijala zaštićenih autorskim pravima i održavati zahtjeve za transparentnost.
2. Opći AI modeli s povećanim sistemskim rizikom – bit će podvrgnuti testovima i sigurnosnim kontrolama, između ostalog. Njihovi kreatori također će morati objaviti podatke iz tehničke dokumentacije.

U Uredbi govori se o sustavima AI i modelima AI. Koja je razlika između njih?

Sustav AI

Sustav umjetne inteligencije, prema razumijevanju Zakona o umjetnoj inteligenciji, bilo je koji proizvod ili program koji se oslanja na umjetnu inteligenciju, bilo potpuno ili djelomično, za svoje funkcioniranje. Njegove su glavne karakteristike:

• rad upotrebom strojeva
• sposobnost donošenja zaključaka na temelju pruženih podataka
• djelomična sposobnost rada bez ljudske intervencije.

Model AI

Softver na kojem se provodi proces strojnog učenja temelji se na različitim strategijama i naziva se model AI . U uredbi navodi se nekoliko tipova:

1. Nadzirano učenje – to je strojno učenje na temelju primjera. U ovoj metodi upotrebljavaju se dvije vrste podataka: ulazni i izlazni. Model AI upotrebljava ulazne podatke kako bi deducirao izlazne podatke koristeći se pravilnostima.
2. Nenadzirano učenje – uključuje neovisno traženje povezanosti putem testiranog softvera i predstavljanje rezultata.
3. Učenje putem pojačanja – za to je potrebno pružanje samo izlaznih podataka programu. Zadatak modela AI pronalazak je što više logičkih povezanosti između njih.

Kako bi se govorilo o AI sustavu, za AI model potrebno je, između ostalog, korisničko sučelje. To znači da u kontekstu Zakona o umjetnoj inteligenciji, model nije isto što i sustav.

Na koga se odnose odredbe Zakona o umjetnoj inteligenciji?

Među njima su:

• dobavljači sustava umjetne inteligencije ili modela umjetne inteligencije opće namjene u EU-u
• subjekti koji upotrebljavaju sustave umjetne inteligencije, a imaju sjedište ili su fizički smješteni u EU-u
• dobavljači i drugi subjekti koji upotrebljavaju umjetnu inteligenciju ako se rezultati koje generira umjetna inteligencija upotrebljavaju unutar Unije
• uvoznici i distributeri sustava umjetne inteligencije
• proizvođači proizvoda koji upotrebljavaju sustave umjetne inteligencije
• predstavnici poduzeća za umjetnu inteligenciju sa sjedištem izvan EU-a
• drugi stvarni i potencijalni korisnici umjetne inteligencije.

Međutim, najveću odgovornost snose pružatelji AI rješenja. To su pojedinci koji implementiraju AI rješenja i koji moraju osigurati etiku, sigurnost i transparentnost primijenjenih rješenja.

Nepridržavanje odredbi ove Uredbe bit će podložno financijskoj kazni, čiji je iznos posebno utvrđen u Uredbi.

Tko nije pogođen Zakonom o umjetnoj inteligenciji?

Međutim vrijedi znati da se odredba ne odnosi na određene AI sustave. To su rješenja (ili njihovi ishodi) koja se upotrebljavaju isključivo u sljedeće svrhe:

• obrambene
• vojne
• znanstvene
• razvojne
• testiranje prije cirkulacije
• nacionalna sigurnost
• osobna neprofesionalna aktivnost.

Zakon o umjetnoj inteligenciji također se ne primjenjuje na sustave AI koji rade na temelju slobodnih licenci otvorenog koda, osim ako se ne smatraju sustavima visokog rizika.

Što se uvođenjem Zakona o umjetnoj inteligenciji mijenja?

Zakon o umjetnoj inteligenciji nameće niz obaveza poduzećima i pojedincima koji upotrebljavaju  rješenja umjetne inteligencije. Svaki AI sustav klasificira se prema svom potencijalnom riziku.

Uredba razlikuje četiri razine na kojima se može nalaziti određena AI tehnologija:

AI nedopustivog rizika

To su sve AI sustavi koji ometaju ljudska prava i izlažu ih šteti ili nejednakom postupanju.

Primjeri su takvih rješenja AI koje:

• upotrebljavaju subliminalne poruke, manipulaciju ili obmanu za utjecaj na ljudsko ponašanje
• potencijalno izlažu osobe s invaliditetom, maloljetnike ili starije osobe opasnosti
• upotrebljavaju sustav ocjenjivanja za procjenu pojedinaca
• procjenjuju rizik od počinjenja kaznenog djela na temelju nečijeg izgleda i osobina
• ocjenjuju osjećaje osobe, rasno podrijetlo, politička stajališta, članstvo u sindikatu ili seksualnu orijentaciju
• dobivanje slika osobe iz ilegalnih izvora (poznato kao neciljano sakupljanje podataka).

Uredbom se preciziraju iznimke povezane s medicinskim svrhama ili potragom za kriminalcima.

AI visokog rizika

AI visokog rizika dopuštena je pod uvjetom da dobavljač ispunjava niz zahtjeva. Oni su namijenjeni smanjenju rizika od neovlaštene upotrebe. Neke od obveza uključuju:

• posjedovanje sustava upravljanja kvalitetom
• ispunjavanje obveza registracije
• osiguranje usklađenosti sustava umjetne inteligencije visokog rizika sa zahtjevima pristupačnosti
• stavljanje CE oznake na ambalažu ili unutar sustava
• stavljanje simbola zaštitnog znaka i adrese za kontakt.

Primjeri visokorizičnih sustava uključuju programe za odabir regrutacijskih dokumenata u procesu zapošljavanja na temelju ključnih riječi, sustave za ocjenjivanje kreditne sposobnosti i sustave za klasifikaciju hitnih poziva.

AI ograničenoga rizika

The most well-known systems of limited risk are chatbots and deepfakes which involve overlaying someone’s voice or face onto another photo or video. Entities using these systems have a duty to inform users that their operation is based on artificial intelligence. This is particularly important in the case of deepfakes, which in some situations may expose the creator to criminal liability.

Najpoznatiji su sustavi ograničenog rizika chatbotovi i deepfakeovi koji uključuju preklapanje nečijeg glasa ili lica na neku drugu fotografiju ili videozapis. Entiteti koji upotrebljavaju ove sustave obavezno trebaju obavijestiti korisnike da se njihovo djelovanje temelji na umjetnoj inteligenciji. To je posebno važno u slučaju deepfakeova, koji u nekim situacijama mogu izložiti kreatora kaznenoj odgovornosti.

AI minimalnog rizika

Ova kategorija uključuje AI sustave koji ne predstavljaju rizik od manipulacije korisnicima, poput filtara za neželjenu poštu. Kreatori ovih sustava trebaju se pridržavati samo općih preporuka.

Kada su nova pravila stupila na snagu?

Unosi će se postupno provesti kako bi se svim zainteresiranim stranama omogućilo prilagođavanje promjenama.

Proces implementacije Zakona o umjetnoj inteligenciji

Evo kako je predstavljen proces implementacije Zakona o umjetnoj inteligenciji:

• Nakon 6 mjeseci (od 2. 2. 2025.), nakon što odredba stupi na snagu, opće odredbe postat će obvezujuće, a AI rješenja iz kategorije neprihvatljivog rizika službeno će se zabraniti.
• Nakon 12 mjeseci odredbe o nadzornim tijelima u pojedinim zemljama, kazne za nepoštivanje odredbi ove odredbe i sustavi opće namjene AI stupit će na snagu.
• Nakon 24 mjeseca (tj. 2. 8. 2026.), države članice, poduzetnici i pojedinci bit će obvezni da se pridržavaju svih odredbi.

Kako pametno upotrebljavati umjetnu inteligenciju?

Unatoč širokom spektru mogućnosti i obećavajućim izgledima, umjetna inteligencija može koristiti pružene podatke za neprimjerene svrhe ili zavarati korisnika. Kako ostati budan?

Provjerite informacije

Nisu sve informacije koje pruža umjetna inteligencija ažurirane i istinite. To se događa jer sustavi AI temelje se na ograničenoj bazi znanja. U situacijama kada ne znaju odgovor, generirat će scenarij koji je najvjerojatniji, ali ne nužno u skladu s činjenicama. Ako tražite informacije, koristite samo pouzdane izvore.

Umjerena upotreba

Kao što autori Zakona o umjetnoj inteligenciji ističu, to je samo alat u službi ljudi. Bezumno ponavljanje rezultata rada umjetne inteligencije ne služi svrsi širenja horizontâ, već stvara veći rizik od podložnosti manipulacijama. U eri širenja dezinformacija koje mogu utjecati na ponašanje i odluke drugih, zadržavanje zdravog razuma izuzetno je važno.

Imajte na umu odgovornost

Deepfake može imati iznenađujuće učinke u brojnim situacijama, ali ga treba upotrebljavati mudro. U stavku 190. kaznenog zakona (krađa slika) postoji odredba koja propisuje kaznu za izlaganje vlasnika slike financijskim ili osobnim štetama.