Komisija definirala ‘neprihvatljive rizike’, predložila pravni okvir za umjetnu inteligenciju

Europska komisija je u srijedu predložila novi pravni okvir za umjetnu inteligenciju koji bi trebao pojačati povjerenje korisnika, jamčiti sigurnost i poštovanje temeljnih prava i potaknuti ulaganja i inovacije u tom području.

“Povjerenje u umjetnu inteligenciju je imperativ, a ne tek zgodna opcija. Ovo su važni propisi kojima Unija predvodi razvoj novih globalnih normi koje će biti jamstvo povjerenja u umjetnu inteligenciju. Postavljajući standarde možemo otvoriti put razvoju etične tehnologije u svijetu i pritom očuvati Unijinu konkurentnost”, izjavila je izvršna potpredsjednica Komisije Margrethe Vestager.

>>>Bezuvjetno oslobađanje ljudi od rada je blizu i nezaustavljivo | Sam Altman | OpenAI

Nova Uredba o umjetnoj inteligenciji Europljanima će biti jamstvo povjerenja u ono što umjetna inteligencija nudi.

“Umjetna inteligencija je sredstvo, a ne cilj. Postoji već desetljećima, ali zahvaljujući računalnoj snazi dosegla je nove mogućnosti. To znači golem potencijal u najrazličitijim područjima kao što su zdravlje, promet, energetika, poljoprivreda, turizam ili kibernetička sigurnost”, izjavio je povjerenik za unutarnje tržište Thierry Breton.

Neprihvatljivi rizici

Nova će se pravila izravno primjenjivati na isti način u svim državama članicama na temelju definicije umjetne inteligencije koja je prilagođena budućim okolnostima. U njihovoj je izradi korišten pristup koji se temelji na procjeni stupnja rizika.

>>>Prva AI simulacija svemira iskočila iz zadanih okvira

Tako će neprihvatljiv rizik predstavljati sustavi koji se smatraju jasnom prijetnjom sigurnosti, sredstvima za život i pravima ljudi i bit će zabranjeni. To obuhvaća sustave ili aplikacije umjetne inteligencije koji manipuliraju korisnikovim ponašanjem kako bi zaobišli njegovu volju (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje”.

Kao visokorizični smatrat će se sustavi  umjetne inteligencije koji obuhvaćaju tehnologiju koja se upotrebljava u kritičnoj infrastrukturi (npr. prometnoj), onu koja može ugroziti život i zdravlje građana u strukovnom obrazovanju ili osposobljavanju  te onu koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita).

>>>Ljudi koji misle da su pametniji od umjetne inteligenicje ‘nisu baš pametni’: Musk

U visokorizičine spada i primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima, u zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja), u osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit), provođenju zakona gdje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza), upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava).

Stroge obveze

Za visokorizične sustave vrijedit će stroge obveze koje moraju ispuniti prije stavljanja na tržište. To uključuje odgovarajuće sustave procjene i smanjenja rizika, visoku kvaliteta ulaznih podataka kako bi se smanjili rizici i diskriminatorni rezultati, evidentiranje aktivnosti radi sljedivosti rezultata, podrobnu dokumentaciju sa svim informacijama o sustavu i njegovoj namjeni koje su potrebne tijelima za ocjenjivanje sukladnosti, jasne i primjerene informacije za korisnike, kao i odgovarajuće mjere ljudskog nadzora radi minimiziranja rizika.

Primjerice, strogim uvjetima podliježu svi sustavi daljinske biometrijske identifikacije jer ih se smatra visokorizičnima. Njihova je upotreba u stvarnom vremenu u javnim prostorima u načelu zabranjena.

>>>Koronavirus razotkriva orvelijanska umijeća Kine

Iznimke su strogo definirane, regulirane i ograničene na najnužnije situacije, npr. kad se koriste u potrazi za nestalim djetetom, za sprečavanje konkretne i neposredne terorističke prijetnje ili za otkrivanje, lociranje, identificiranje ili istragu protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo. Takvu upotrebu mora odobriti sudsko ili drugo neovisno tijelo i mora biti ograničena vremenski, zemljopisno i na određene baze podataka.

Ograničeni i minimalni rizik

Ograničeni rizik predstavljaju sustavi umjetne inteligencije s posebnim obvezama u pogledu transparentnosti: Korisnici sustava kao što su chatbotovi trebali bi znati da je riječ o interakciji sa strojem kako bi mogli utemeljeno odlučiti žele li se upustiti u nju ili odustati.

Što se tiče minimalnog rizika, prijedlog propisa omogućuje neograničeno korištenje umjetne inteligencije u videoigrama ili filtrima za neželjenu e-poštu. U tu kategoriju spada većina sustava umjetne inteligencije. Nacrt uredbe ih ne regulira jer su ti sustavi slabo ili nimalo rizični za prava i sigurnost građana.

Komisija je predložila i novu uredbu o novim strojevima, koja će zamijeniti postojeću direktivu o strojevima.

>>>Agenti OpenAI-a zaigrali skrivača u zadivljujućoj, zastrašujućoj manifestaciji inteligencije

Strojevi obuhvaćaju raznovrsne proizvode za osobnu i profesionalnu upotrebu: robote, kosilice, 3D pisače, građevinske strojeve, industrijske proizvodne linije i druge.

Direktiva o strojevima, koju će zamijeniti nova Uredba o strojevima, definirala je zdravstvene i sigurnosne uvjete za strojeve. Novom će se uredbom zajamčiti sigurnost nove generacije strojeva za korisnike i potrošače te potaknuti inovacije.

Sigurnosni rizici sustava umjetne inteligencije obuhvaćeni su Uredbom o umjetnoj inteligenciji, a novom Uredbom o strojevima uredit će se sigurna integracija tih sustava u strojeve općenito. Poduzeća će morati provesti samo jedno ocjenjivanje sukladnosti.

Hina

Hrvatska izvještajna novinska agencija (HINA) javni je medij i jedina nacionalna novinska agencija u Hrvatskoj čiji su korisnici gotovo svi važniji elektronički i tiskani mediji u zemlji.