Zabranjene prakse
Akt zabranjuje načine uporabe AI-ja koji stvaraju neprihvatljiv rizik za ljude i njihova prava, uključujući određene oblike manipulacije, iskorištavanja ranjivosti i društvenog ocjenjivanja.
AI upravljanje uređuje odgovornost za uporabu AI-ja.
AI alat je tehnološko rješenje. AI upravljanje obuhvaća pravila, odgovornosti i provjere kojima organizacija uređuje njegovu uporabu u svakodnevnom radu.
Takav način rada povezuje pravne obveze s ovlastima, podacima i stvarnim poslovima zaposlenika te ostaje primjenjiv kada se promijene AI alat, njegova verzija ili dobavljač.
Akt o umjetnoj inteligenciji
Zajednička pravila, različite obveze prema riziku.
Akt o umjetnoj inteligenciji (Uredba (EU) 2024/1689) zajednički je pravni okvir za razvoj, stavljanje na tržište i uporabu AI sustava u Europskoj uniji.
Obuhvaća dobavljače sustava i organizacije koje ih koriste. Zahtjevi ovise o ulozi organizacije, namjeni sustava i mogućim posljedicama njegove uporabe.
Transparentnost
Kod određenih uporaba osoba mora znati da komunicira s AI sustavom ili da je sadržaj umjetno stvoren ili izmijenjen. Opseg obavještavanja ovisi o vrsti sustava i načinu uporabe.
Visokorizični sustavi
Stroža pravila vrijede za sustave koji mogu znatno utjecati na prava i životne prilike ljudi, primjerice u zapošljavanju, obrazovanju i pristupu osnovnim javnim uslugama.
Pismenost u području umjetne inteligencije
Organizacije koje koriste AI trebaju poduzimati mjere za razvoj pismenosti u području umjetne inteligencije osoba koje u njihovo ime rade s AI sustavima. Potrebno znanje ovisi o alatu, poslu, iskustvu zaposlenika i rizicima konkretne uporabe.
Za javnu upravu i javne službe
Javna organizacija zadržava vlastitu odgovornost za uporabu.
Organizaciju koja AI sustav koristi u okviru svojih ovlasti Akt naziva „subjektom koji uvodi sustav”. Taj položaj može imati i kada koristi sustav koji je razvio i kojim upravlja vanjski dobavljač.
Građani i korisnici
AI može pomagati u obradi zahtjeva, pripremi podloga i poslovima povezanima s javnim uslugama. Važnost provjere raste kada rezultat može utjecati na prava, obveze ili položaj određene osobe.
Zaposlenici i kandidati
Određeni AI sustavi koji se koriste pri zapošljavanju, odabiru kandidata, raspoređivanju poslova ili praćenju rada mogu biti klasificirani kao visokorizični.
Službeni akti i odluke
AI može pomoći u pregledu dokumentacije, usporedbi podataka i pripremi nacrta. Ovlaštena osoba mora razumjeti podlogu, provjeriti rezultat i samostalno donijeti konačnu odluku.
Posebna obveza javnopravnih tijela
Za određene visokorizične sustave Akt propisuje procjenu učinka na temeljna prava prije uporabe. Procjena obuhvaća svrhu i način uporabe, osobe na koje sustav može utjecati, moguće štetne posljedice, ljudski nadzor i mjere kojima se rizici ograničavaju.
Uređena uporaba AI-ja
Četiri pitanja moraju imati jasan odgovor.
Akt postavlja pravne zahtjeve. AI upravljanje povezuje ih s konkretnim poslovima, ovlastima i ustrojem organizacije.
Gdje i za što?
Koji se AI alati i funkcionalnosti koriste, u kojim poslovima i s kojom svrhom.
S kojim podacima?
Koje se vrste podataka smiju unositi ili učiniti dostupnima pojedinom alatu.
Tko provjerava i odlučuje?
Tko provjerava činjenice, izvore i cjelovitost rezultata te tko donosi konačnu odluku.
Kako se uporaba dokumentira?
Kako se bilježe procjene, odobrenja, važne provjere, edukacija, promjene i incidenti.
Powered byPetrinić & BrautZajednički odvjetnički ured
Stručna podloga
Zakonske obveze pretvaramo u jasna pravila za svakodnevnu uporabu umjetne inteligencije.
Projekt vodi Zajednički odvjetnički ured Petar Petrinić i Vojko Braut iz Rijeke. Važan dio prakse ureda čini savjetovanje jedinica lokalne i područne (regionalne) samouprave, javnih ustanova i trgovačkih društava. To uključuje pripremu i pravnu provjeru općih i internih akata te pitanja organizacije rada, ovlasti i odgovornosti.
Odvjetnik Vojko Braut od 2021. do 2025. godine obnašao je dužnost zamjenika župana Primorsko-goranske županije. To iskustvo nadopunjuje pravnu praksu ureda neposrednim poznavanjem rada upravnih tijela, postupaka odlučivanja i odgovornosti čelnika.
Nalaze o uporabi AI-ja pretvaramo u prijedloge odluka, provedive interne akte, konkretna zaduženja i mjere prilagođene vašem tijelu, ustanovi ili društvu.
Matična stranica uredawww.bplaw.hr