Akt o umjetnoj inteligenciji (skraćeno: AI akt), stupio je na snagu 1. kolovoza 2024. Veliki dio odredaba imao je, međutim, odgođen početak primjedbe. Ovo ljeto, 2. kolovoza 2026., stupile su na snagu obveze transparentnosti odnosno obveze da se AI komunikacija i AI sadržaj označe kao takvi. S obzirom na to koliko se AI sadržaja proizvodi i koristi svakodnevno, korisno je pojasniti o čemu se radi.
Tko mora voditi računa o označavanju AI sadržaja?
Obveze transparentnosti iz AI Akta primjenjuju se i na one koji razvijaju AI sustave (engleski termin: providers) i na one koji ih uvode odnosno koriste (engleski termin: deployers, hrvatski službeni termin: subjekti koji uvode sustav). Ima još par nijansi u ovoj definiciji, no zasad ću se zaustaviti ovdje.
Engleski termini su se već pomalo udomaćili (dijelom i jer su hrvatski dosta dugački) pa ću tako i ja za dobavljača ponekad reći provider, a za onog tko uvodi AI sustave deployer.
Primjeri dobavljača (providera) su OpenAI, Anthropic, Google, a primjer deployera su poduzetnici koji primjenjuju gotova AI rješenja (AI sustave) u svom poslovanju. Pojedinci koji ih koriste za svoje osobne svrhe (npr. izradu pozivnica, vizualizaciju frizure, dentalnih radova) nisu deployeri i nemaju nikakvih obveza po AI Aktu.
Korisnici na koje se primjenjuje AI Akt odnosno deployeri nisu ni oni koji koriste AI rješenja po tuđim nalozima i uputama. To isključuje zaposlenike, ali i određene vanjske suradnike koji nisu samostalni u donošenju odluka o upotrebi AI-a. Na primjeru marketinških materijala: deployer će biti naručitelj, ako je on taj koji odlučuje da se AI koristi u izradi reklame. U suprotnom, ako o upotrebi AI-a odlučuje marketinška agencija, tada je ona deployer, a što znači i da ima sve obveze deployera iz AI Akta. Ugovori između agencija i naručitelja trebali bi jasno rasporediti te odgovornosti i obveze.
Što konkretno treba označiti
Deployeri moraju označiti: 1) sustave za prepoznavanje emocija i za biometrijsku kategorizaciju (ako ih koriste), 2) tzv. uvjerljiv krivotvoreni sadržaj (deep fake) i 3) određene tekstove generirane ili modificirane AI-em.
Dobavljači (provideri) moraju označiti: 1) AI chatbote, voicebote, agente i slično koji izravno komuniciraju s fizičkim osobama i 2) sintetički sadržaj koji generiraju njihovi AI sustavi.
Obveze po ovim točkama se dosta razlikuju pa ih vrijedi odvojeno prikazati. U ovom članku bavit ću se s obvezama deployera.
Prepoznavanje emocija i biometrijska kategorizacija
Prepoznavanje emocija znači prepoznavati ili zaključivati o emocijama određene fizičke osobe na temelju njenog držanja, izgleda, glasa, tipkanja i sl. (biometrijske karakteristike).
Biometrijska kategorizacija znači razvrstavati ljude po nekoj biometrijskoj karakteristici, npr. spol, dob, držanje, glas i sl. Ako koristite neki od ovih sustava, po AI Aktu trenutno imate samo obvezu informirati one koji su izloženi radu tih sustava o tome da se oni koriste. Vrijeme za davanje informacija je najkasnije prije prvog izlaganja, no kako ćete to učiniti nije strogo propisano.
Značajnije obveze u vezi ovih sustava trenutno se tiču GDPR-a, a što je prvenstveno osigurati odgovarajuću pravnu osnovu za obradu osobnih podataka, pružiti sve podatke o tim obradama ispitanicima, provesti procjene rizika i voditi odgovarajuću dokumentaciju.
Valja ipak imati na umu da će sve upotrebe sustava za raspoznavanje emocija potpasti pod visokorizične sustave, kao i mnoge upotrebe sustava za biometrijsku kategorizaciju (kategorizacija po zdravlju, genetskim ili etničkim podacima), a što znači mnogo dodatnih i vrlo ozbiljnih obveza po AI Aktu. Te obveze još nisu na snazi, no bit će od 2. 12. 2027. godine
Također, treba imati na umu da su neke upotrebe tih sustava već sada zabranjene, kao što je raspoznavanje emocija zaposlenika na radnom mjestu ili biometrijska kategorizacija po rasi, vjeri i spolnoj orijentaciji. U svakom slučaju, ne radi se o malom setu obaveza, čak ni ako je odgoda primjene.
Što je deep fake?
AI Akt definira uvjerljiv krivotvoreni sadržaj (deep fake) na sljedeći način: „slike, audiosadržaj ili videosadržaj koji generira ili kojim manipulira umjetna inteligencija, a koji nalikuje stvarnim osobama, predmetima, mjestima, entitetima ili događajima i koji bi se nekome lažno činio vjerodostojnim ili istinitim.“
Što nam ta definicija suštinski govori? Prvo: nije sav AI-em stvoren sadržaj deep fake. Drugo: u pitanju su slike, zvuk i video (nema tekstova – za njih vrijede posebna pravila). Treće: nije bitno jesu li ljudi, predmeti, mjesta potpuno izmišljeni ili stvarni – bitno je da li nalikuju stvarnim osobama, predmetima i sl. i da li se nekome lažno čine kao stvarni.
Ako uzmemo za primjer ljude koje je u cijelosti generirao AI i koji zapravo ne postoje (izmišljeni su), ako su oni predstavljeni u nekoj realističnoj situaciji, npr. restoranu ili šetnji stvarnim ili naizgled stvarnim gradom, takva slika ili video u pravilu predstavlja deep fake. S druge strane, samo generiranje kataloga sa stvarnim proizvodima, prikazivanje stvarnih proizvoda na umjetno generiranim ili modificiranim pozadinama (koje ne obmanjuju potrošače) vjerojatno neće biti deep fake.
Moram koristiti termin „vjerojatno“ jer ni Akt ni smjernice ne daju konkretne odgovore, već upućuju na niz okolnosti o kojima se mora voditi računa da bi se dao konkretan da/ne odgovor. Okolnosti koje odlučuju su publika kojoj se sadržaj prikazuje (jesu li to profesionalci u određenom polju, šira odrasla populacija, ima li u njoj djece, starijih i sl.), razina fotorealizma, poruka koja se komunicira i niz drugih faktora. Ako je šansa da ima djece u publici, sadržaj se mora mjeriti s obzirom na očekivanja djeteta; drugim riječima: ne gleda se prosječni gledatelj već svi potencijalni gledatelji. U dilemi se zato uvijek preporučuje oprez.
Micanje pozadine
Česta su pitanja u vezi micanja i uređivanja pozadina u fotografijama i videima. I ovdje je odgovor – ovisi. Bitna je razlika gdje se i u koje svrhe koriste materijali.
Recimo, standardno micanje i uređivanje pozadina za ljepši prikaz ili stavljanje proizvoda na brand boje u svrhe oglašavanja neće biti deep fake sadržaj. No, ako bi se proizvod prikazivao na način koji bi publiku mogao dovesti u zabludu u vezi samog proizvoda, npr. na način koji bio dao zaključiti da je proizvod vodootporan (a nije), mogla bi se prijeći ta granica i dovesti do obveze označavanja (te potencijalno još nekih problema prema pravilima o zaštiti potrošača). S druge strane, čak i manje korekcije i uljepšavanja fotografija koje se koriste u novinarstvu vjerojatno će trebati oznake.
Online/offline prikazivanje i par iznimaka za načine označavanja
Još jedan aspekt koji često dovodi do nedoumica je primjenjuju li se obveze označavanja i u offline okruženju, npr. klasičnim tiskanim materijalima, posterima i sl. Odgovor je: da. Billboard ili meta oglas – vrijede ista pravila. Sadržaj koji se koristi za interne edukacije, onboarding i sl., također se mora označiti, samo te oznake možda mogu biti na nešto drugačiji/slobodniji način prikazane (npr. preko naznaka u prostorijama gdje se prikazuju ili na sučeljima koja se koriste ili na neki drugi prikladan način). Umjetnički, satirični, kreativni, fiktivni ili analogni sadržaj isto nije isključen (iznimke su također samo u načinu konkretnog označavanja).
I čisto da bude jasno: primarno marketinški materijal ne spada pod kreativni ni umjetnički sadržaj.
Pravila za tekstove
S tekstovima je nešto drugačija situacija. Što se AI Akta tiče, trebaju biti ispunjena tri (zapravo četiri) kriterija da bi se primijenila obveza označavanja. Nulti (prvi) kriterij je da je sadržaj generiran ili manipuliran AI-em, a ostali da je tekst:
-javno objavljen, što znači da je dostupan široj javnosti, bilo uz naknadu ili besplatno (što isključuje onda svu internu komunikaciju u organizaciji i sve e-mailove i poruke),
-u svrhu informiranja javnosti (što znači da su isključeni zabavni sadržaji) i
-o pitanjima od javnog interesa (npr. javna uprava i zdravstvo, pravosuđe, zaštita potrošača i sl.)
Na primjeru marketinških materijala koji se sastoje samo od teksta i stvarnih fotografija: ti materijali ne trebaju nikakvu oznaku, čak i da je tekst u cijelosti generirala umjetna inteligencija. Komunikacija i obavijesti neke javne institucije, npr. ministarstva, uglavnom će trebati oznaku.
Iznimno, čak i za tekstove koji trebaju oznaku, ta oznaka ipak neće biti potrebna, ako je: 1) sadržaj prošao proces preispitivanja čovjeka ili uredničku kontrolu i 2) fizička ili pravna osoba snosi uredničku odgovornost za objavu sadržaja. Oba uvjeta, tj. onaj pod 1) i 2) moraju biti ispunjeni da bi se mogli osloniti na iznimku.
Što znači ljudsko preispitivanje ili urednička kontrola
Iako nisu ista stvar, suštinski i jedno i drugo podrazumijeva da je netko doista pregledao tekst (ne samo gramatiku i pravopis) te dao zeleno svjetlo za objavu. Primjer teksta koji će trebati oznaku je AI sažetak nekog članka od javnog interesa (npr. stručnog članka o klimatskim promjenama, zakonodavnih izmjena, financijskog izvještaja bolnice ili neke druge javne ustanove).
S druge strane, isti taj sažetak neće trebati AI oznaku, ako je prošao stvarnu ljudsku kontrolu i ako netko odgovara za objavljen tekst (npr. osoba koja je provjeravala sadržaj ili poslodavac te osobe). Također, po AI Aktu oznaku neće trebati ni novinski članak generiran umjetnom inteligencijom, ako je prošao klasičnu kontrolu urednika i urednik dao odobrenje za objavu.
Par iznimaka za medije
U vezi medija u Hrvatskoj imamo i nekoliko specifičnosti, jedna od kojih je i obveza po novom Zakonu o provedbi Uredbe (EU) 2024/1083 o uspostavi zajedničkog okvira za medijske usluge na unutarnjem tržištu i izmjeni Direktive 2010/13/EU (Europski akt o slobodi medija), a koji je na snazi od 26. ožujka ove godine. Članak 23. tog Zakona propisuje da ako pružatelji medijskih usluga, elektroničkih publikacija i platformi za razmjenu videozapisa objavljuju sadržaj koji je na bilo koji način generiran umjetnom inteligencijom, isti su dužni takav sadržaj označiti. Kako bi se točno taj članak trebao provoditi nije još sasvim jasno. Naime, AI Akt ima iznimku za AI generirane/modificirane tekstove baš za situacije u kojima se redovito nalaze mediji.
Postavlja se stoga pitanje je li smisao članka 23. ovog Zakona da se primjenjuje samo na sadržaj kojeg mediji prenose od drugih (npr. oglase) ili je smisao da se primjenjuje na slike, zvuk, video (ali ne i tekst) korišten u novinskim člancima ili je cilj još širi i sveobuhvatniji. Članak, doduše, još nije u punoj primjeni, jer su pružatelji medijskih usluga dobili rok do 26. 11. 2026. da se usklade sa Zakonom, pa ostaje za nadati se da će prije početka pune primjene biti pojašnjen od strane ministarstva ili Agencije za medije, koja se isto tek ima oformiti. Valja podsjetiti da po općim pravilima primjene europskih normi, europske norme imaju prednost pred domaćim propisima, uključujući i zakonima, i da se suprotne odredbe trebaju jednostavno izuzeti iz primjene ili tumačiti u duhu EU pravila.
Kako konkretno provesti označavanje je pitanje za sebe. Detaljno o tome u idućem članku.
Foto: Magnific, privatna arhiva, Canva
