Dobavljači (engleski: provideri) AI sustava su oni koji su razvili AI sustav ili ga stavili na tržište, a korisnici (engleski: deployeri) oni koji koriste AI u svom poslovanju.
U velikoj većini slučajeva ta sumarna definicija će odgovarati stvarnim ulogama i obvezama. Google je razvio i plasirao Gemini, a trgovačko društvo XY će ga koristiti za niz poslovnih svrha. Prvi je dobavljač, drugi korisnik AI sustava po AI Aktu. No, da budemo sasvim precizni, u nekim slučajevima, pogotovo za dobavljače AI sustava, ta definicija neće biti dovoljna. Kako se u ovom članku bavim obvezama dobavljača, red je da kažem do kraja koga sve AI Akt obuhvaća pod tim terminom.
Dobavljači AI sustava po AI Aktu su:
- Oni koji su razvili AI sustav (npr. IT firma) i plasirali ga na tržište (npr. tako da ga prodaju drugima ili omogućavaju drugima besplatno korištenje)
- Oni koji su razvili AI sustav i stavili ga u upotrebu unutar vlastitog društva ili organizacije (npr. za onboarding ili pomoć zaposlenicima, dakle, bez elementa plasmana na tržište)
- Oni koji su naručili izradu AI sustava (npr. od IT firme) i plasirali ga na tržište pod svojim brendom
- Oni koji koriste niskorizičan AI sustav (npr. ChatGPT) za visokorizične namjene (npr. selekcija ili predselekcija kandidata u procesu zapošljavanja)
- Oni koji značajno izmijene postojeći visokorizičan AI sustav, tako da on i dalje ostaje visokorizičan (npr. AI za pomoć u zapošljavanju značajno izmijenimo, no i dalje ga koristimo za zapošljavanje.)
Ako ste se pronašli u nekoj od gornjih kategorija, a niste do sada puno razmišljali o AI Aktu, bilo bi dobro da se dodatno informirate, jer se potencijalno, uz obveze transparentnosti, na vas primjenjuje i dosta drugih vrlo ozbiljnih obveza.
Ovaj članak se ipak tiče samo obveza transparentnosti, a njih ipak nema mnogo. Radi se o dvije osnovne obveze.
Obveza broj 1: označiti AI chatbota kao AI chatbota
Naslov pojednostavljeno spominje „chatbota“, jer je najčešći predstavnik, no ova obveza tiče se dobavljača svih AI sustava koji su namijenjeni za izravnu komunikaciju s fizičkim osobama. Osim chatbota, to su i voicebotovi, AI agenti koji šalju e-mailove odnosno komuniciraju izravno s ljudima (ne samo s drugim agentima), AI koji „komunicira“ preko profila na društvenim mrežama i sl.
Ako ste razvili i stavili na tržište ili svojim imenom/žigom označili takav AI sustav, na vama je da povedete računa da za taj AI svima bude jasno da je AI.
To ćete učiniti tako da na samom botu bude oznaka AI ili nešto slično (npr. AI asistent, AI bot) ili da na drugi način bude jasno da se radi o programu pogonjenom umjetnom inteligencijom (npr. ikona robota i naziv koji ukazuje na to što je zapravo.)
Chatbote i voicebote treba i dodatno programirati tako da u prvoj poruci odmah jasno kažu „tko su“ , tj. da se predstave kao stroj pogonjen umjetnom inteligencijom. Nešto kao: „Dobar dan! Ja sam Botko – AI asistent trgovačkog društva Vaš dućan.“ AI agent će trebati reći i za koga „radi“, tj. tko ga je upogonio.
Generalne napomene na web stranicama, općim uvjetima i sličnim dokumentima nisu dovoljne.
Ako niste dobavljač takvih sustava, već ih samo koristite (npr. implementirali ste gotovog chatbota na svoju web stranicu), trebali bi, prije svega, provjeriti je li dobavljač ispunio svoje obveze označavanja i ako je, da te oznake ne mičete. Uputno bi bilo ne micati ni oznake samog dobavljača, da se ne bi slučajno Vas smatralo dobavljačem. Osim toga, kao korisnici trebali bi još:
- napraviti osnovnu provjeru dobavljača (pravnu i tehničku, npr. što kažu u općim uvjetima u pogledu korištenja Vaših podataka ili podataka korisnika, tko su im podizvršitelji, gdje spremaju podatke i na koliko, kako jamče sigurnost njihova sustava, koja je osnovna svrha tog chatbota),
- povesti računa o svojim GDPR obvezama (procjene učinka, ugovori o obradi s dobavljačem i dr.)
- ograničiti mogućnost „improvizacije“ chatbota, da Vam ne bi stvarao dodatne obveze, izvan Vaših općih uvjeta i službenih informacija o proizvodima i uslugama.
U pogledu ovog zadnjeg valja spomenuti da već ima presuda gdje su za lažne tvrdnje botova (ekstra popusti i pogrešne kvalifikacije) izravno odgovarala društva koja su ih implementirala, kao da su oni sami dali te izjave.
U svakom slučaju, implementacija nije samo preuzeti i početi koristiti, već i ona zahtijeva značajne dodatne provjere i nadzor.
Obveza br. 2: AI sadržaj se mora označiti kao AI sadržaj
Druga obveza dobavljača AI sustava tiče se slike, zvuka, teksta i videa kojeg njihov sustav generira (proizvodi) ili modificira (mijenja već postojeći ljudski sadržaj).
Poanta ove obveze, prema riječima AI Acta, je štiti integritet informacijskog ekosustava i jačati povjerenje u njega tako da ljudi koji su tom sadržaju izloženi, mogu provjeriti je li nešto AI ili nije.
Radi navedenog, iz te obveze isključeni su: 1) radni materijali u zatvorenim timovima (dok god ti materijali ne izlaze van i osigurano je da ne izlaze van), 2) sadržaj koji nije namijenjen ljudima (npr. sadržaj kojeg percipiraju samo strojevi) i 3) vrlo kratki nizovi brojeva, slova i simbola (npr. pojedinačne riječi, opisi slika/captions, alt-text, oznake sučelja). Svi drugi izlazi (outputi) koje čovjek može percipirati, trebali bi biti označeni.
Oznake su dvojake:
- prva je oznaka usmjerena prema drugim strojevima (npr. vodeni žigovi), tako da drugi strojevi ili softveri mogu detektirat AI sadržaj,
- a druga je usmjerena prema ljudima, tako da ljudi golim okom mogu provjeriti je li sadržaj stvoren AI-em ili nije.
Obje obveze moraju biti ispunjene da bi se radilo o sukladnosti s AI Aktom.
Strojna provjera će ići preko watermarka, metapodataka i sličnih oznaka, a ljudska provjera preko aplikacija za detekciju, koje bi idealno trebale raditi lokalno na uređaju pojedinca koji želi raditi provjeru (npr. tako da se jednostavno učita sadržaj koji se želi provjeriti i da se za njega dobije jednoznačni i točan odgovor).
I prvi i drugi dio ove obveze trenutno zapinje, no istini za volju, obveza još ni nije na snazi u cijelosti. Naime, iako je odredba stupila na snagu 2. kolovoza 2026., AI sustavi koji su bili na tržištu prije tog datuma imaju „poštedu“ do 2. prosinca 2026, a što je ipak značajan broj dobavljača i zapravo svi trenutni „glavni igrači“.
I ovi s poštedom ipak su se počeli pripremati za nove obveze pa su tako krenuli sa strojnim označavanjem. Za drugi dio obveze, ovaj koji bi trebao omogućiti ljudima da stvarno provjere je li nešto AI generirano ili ne, tu postoje neka parcijalna rješenja (npr. Google nudi provjere za svoje outpute), no na jedinstveno, interoperabilno rješenje se još uvijek čeka.
Iznimke od obveze označavanja
Od obveze označavanja AI sadržaja od strane samih dobavljača generativnih AI sustava postoji i nekoliko vrlo značajnih iznimaka. Neki od primjera tih izuzetaka iz Smjernica Europske komisije su:
- gramatičke i lingvističke korekcije,
- prijevodi,
- promjene formata,
- uklanjanje šumova i buke u zvučnim zapisima,
- bluranje ili pikselizacija lica,
- brisanje/zamagljivanje pozadine,
- korekcije boje,
- promjena veličine (rescaling) videa,
- standardne prilagodbe boje/kontrasta,
- manje promjene brzine reprodukcije
- dopuna rubova slike,
- konverzija crno-bijele u sliku/video u boji i obrnuto
- AI transkripti razgovora.
Dakle, ako je AI korišten da uredi snimljene fotografije tako što će napraviti manje korekcije boja ili pozadine, takvi postupci ne bi trebali biti označeni ni od strane samog AI alata (odnosno dobavljača tog AI alata), niti od samih korisnika, jer se radi o dopuštenim iznimkama za koje ne treba označavanje.
S druge strane, ako je AI korišten za:
- sažetke ili prepričavanje tekstova
- uklanjanje, zamjenu ili umetanje objekata u postojeće slike i videe na način koji mijenja njihovo značenje i sadržaj,
- zamjenu lica ili značajniju promjenu izgleda lica,
- izradu realističnog govora glasom neke određene osobe,
- generiranje realističnog videa koji prikazuje događaje koji se nisu dogodili
- mijenjanje tjelesnog oblika ili boje kože osobe
- ekstremno posvjetljivanje, potamnjivanje, promjene boje i kontrasta koje mijenjaju značenje, namjeru i poruku sadržaja;
- stvaranje kompozitnih (sastavljenih) slika ili videoisječaka koje mijenja prikaz osoba, objekata, događaja ili činjenica,
takav sadržaj će sam AI alat trebati označiti kao AI. Hoće li ih i korisnik AI alata trebati označiti, ovisi o tome hoće li taj sadržaj potpadati pod deep fake ili tekstove koje treba označiti.
Na tehnologiji označavanja će se još raditi, no prostora za „AI za koji se ne kuži da je AI“ će predvidljivo biti sve manje.
Foto: Nano Banana 2
