Biznis - Pravo i financije

“Mislio je da Petra ima 12 godina”: AI sustav za objavu presuda, plaćen 160.000 eura, otkriva identitete maloljetnih žrtava!

“Mislio je da Petra ima 12 godina”: AI sustav za objavu presuda, plaćen 160.000 eura, otkriva identitete maloljetnih žrtava!

Hrvatsko pravosuđe objavljuje sudske presude iz kojih je često vrlo lako moguće otkriti identitet maloljetnih žrtava ili počinitelja. Deseci, možda i stotine javno dostupnih presuda u kojima su identiteti trebali biti skriveni sadrže osobna imena maloljetnih žrtava spolnog zlostavljanja ili obiteljskog nasilja, prezimena njihovih obitelji, imena škola koje pohađaju, naselja u kojima žive.

Ministarstvo pravosuđa upozoreno je na ovaj problem krajem prošle godine, no unatoč tome, od tada je javno objavljen niz presuda u kojima se otkrivaju identiteti maloljetnika i drugih osoba. Na naše upite Ministarstvo nije odgovorilo.

Nepotpuna anonimizacija

Radi se o presudama koje su automatski objavljene sustavom ANON, koji bi uz pomoć umjetne inteligencije trebao anonimizirati osobne podatke okrivljenika, žrtvi i svjedoka u sudskim odlukama. Sustav je plaćen 160.000 eura iz Nacionalnog plana oporavka i otpornosti i pušten u rad početkom prošle godine, a do sada je na njegovo održavanje utrošeno još 127.000 eura.

Sustav uredno anonimizira imena, prezimena, OIB, adrese, točne datume rođenja i druge osobne podatke u glavama presuda, no često posrne u anonimizaciji kada dođe do obrazloženja presude. Tu ostaju osobna imena u padežima, nadimci i prezimena u citatima svjedoka, ali i brojne druge detaljne informacije uz pomoć kojih je uz minimalni trud moguće precizno odrediti identitet jedne ili više stranki u postupku.

Navest ćemo nekoliko primjera u kojima smo namjerno izmijenili detalje, kako ne bismo i sami otkrivali identitete, no zadržali smo formu propusta kako bi pojasnili kakve greške radi sustav ANON.

Primjerice, u slučaju suđenja zbog bludnih radnji nad djetetom, citira se okrivljeni koji kaže da je “mislio da Petra ima 12 godina” – čime se otkriva ime žrtve. U istom se slučaju navodi ime škole koju su žrtva i počinitelj pohađali, a otkriva se i ime i adresa ugostiteljskog objekta za kojeg se navodi da je u vlasništvu roditelja počinitelja (npr. “vikendom radi u restoranu svojih roditelja Babilon u Kranjčevićevoj ulici”).

Otkrivena imena i prezimena

U drugom slučaju teških povreda prava djeteta, u glavi presude sva su imena zamijenjena nasumičnim inicijalima, ali se kasnije u obrazloženju presude navodi kako je “obitelj Horvat od prije praćena od strane Centra za socijalnu skrb”, čime se otkriva prezime. Zatim se u izjavama svjedoka ostavljaju imena žrtava i počinitelja – “vikali su Branimire prestani”, “snimljeno je na Lukinom mobitelu”, “došao je Markov otac”… Još je u presudi i navedeno da je do zločina došlo u točno određenom kvartu manjeg hrvatskog grada, te ime škole koju su pohađali svi učenici u tom slučaju. 

Na dojavu čitatelja koji navodi da je pronašao više od 250 ovakvih primjera, posebice u slučajevima kaznenih djela na štetu djeteta, i mi smo istražili nekoliko desetaka kaznenih presuda u slučajevima u kojima je oštećenik maloljetna osoba. U gotovo svakom pregledanom slučaju pronađen je barem jedan zanemareni osobni podatak ili informacija kojom je moguće identificirati žrtvu ili počinitelja.

U nekim se slučajevima navodi adresa doma za djecu i period tijekom kojeg je žrtva u njemu obitavala, često se navode podaci o zaposlenju počinitelja – što je u manjim tvrtkama i mjestima vrlo lagan način za identificirati osobu – a u barem jednom bizarnom slučaju ostavljen je naziv i adresa obiteljskog OPG-a u vlasništvu počinitelja, koji nosi njegovo prezime.

Ministarstvo zna za problem

Kontaktirali smo Ured pravobraniteljice za djecu, koja nam je potvrdila da je Ministarstvo pravosuđa upoznato s ovim problemom još krajem prošle godine.

“Preporučili smo da se u postupcima kaznenopravne zaštite djece i sudskim postupcima u kojima se odlučuje o pravima i interesima djece temeljem Obiteljskog zakona i drugih propisa, nakon anonimizacije odluke putem sustava ANON, provodi i dodatna anonimizacija u skladu s Pravilnikom o načinu anonimizacije, objave i pretraživanja sudskih odluka”, odgovorili su nam iz Ureda pravobraniteljice.

Spomenuti pravilnik donesen je u studenom 2024., upravo kako bi se mogao koristiti dotad završeni sustav ANON. U njemu je jasno propisano koji se osobni podaci anonimiziraju automatski, ali i navodi kako sudac presude može dodatno tražiti anonimizaciju dijelova presude iz kojih bi bilo moguće identificirati osobe čiji se identitet štiti anonimizacijom.

Prema Uredu pravobraniteljice, Vrhovni sud je izdavao dodatne upute za anonimizaciju presuda, posebice radi zaštite djece u sudskim presudama. “Međutim, i dalje primjećujemo da se objavljuju presude koje ne jamče dovoljnu razinu zaštite djece”, naveli su iz Ureda.

Automatska objava

Prema odgovoru Ministarstva pravosuđa GONG-u iz ožujka ove godine, sustav ANON automatski preuzima presude iz eSpisa – interne arhive pravosuđa – i objavljuje ih 15 dana nakon otpreme, osim ako je riječ o drugostupanjskoj presudi ili odluci visokih sudova, koji sami objavljuju odluke koje je sustav ANON anonimizirao “nakon provjere i unosa dodanih vrijednosti”.

Unatoč tome, presude u kojima se mogu pronaći identiteti maloljetnika, ali i drugih žrtava i počinitelja, objavljuju se redovito.

Prema projektnoj dokumentaciji sustava koju smo pregledali, sustav nije ni zamišljen za uklanjanje svih tragova identiteta – u zahtjevima za izradu sustava se ne spominje da bi trebao paziti na citate i obrazloženje presude, a i za onaj dio koji je propisan traži točnost od samo 90% – znači već pri naručivanju sustava Ministarstvu je bilo u redu da sustav griješi kod 1 od 10 instanci.

U praksi, to ne znači greška u jednoj od 10 presuda, jer se u svakoj presudi pojavljuje više desetaka instanci imena, prezimena, adresa i ostalih osobnih podataka. Ponavljamo, gotovo svaka presuda koju smo pregledali sadržavala je barem jednu informaciju po kojoj se može odrediti nečiji identitet. Kako su se ovakve greške mogle očekivati već pri planiranju sustava, nije jasno zašto se insistiralo na automatskoj objavi.

Rješenje bi, prema Uredu pravobraniteljice za djecu, trebalo biti da se uvedu dodatna pravila po kojima bi se presude i ručno pregledavale prije objave, barem u slučajevima u kojima se odlučuje o pravima, interesima djece ili kaznenopravnoj zaštiti djece.

“Objava informacija na temelju kojih se može izravno ili neizravno utvrditi identitet, posebice u predmetima iz kaznenopravne zaštite djece, predstavlja izravnu povredu prava djeteta. Takav sustav anonimizacije gubi svrhu kada ne uspijeva zaštiti dijete”, poručili su iz Ureda pravobraniteljice. “Rješavanju ovog problema treba pristupiti žurno”, naglasili su.

Kontaktirali smo i Ministarstvo pravosuđa s molbom za odgovor na više pitanja oko ovog problema, no odgovor nismo dobili ni nakon pet dana čekanja. Ako i kad ga dobijemo, objavit ćemo ga u cijelosti.

Iz dokumentacije kroz koju je sustav naručen, vidljivo je da se na njega nikad nije moglo osloniti da samostalno anonimizira sudske odluke. Na njegove je propuste Ured pravobraniteljice ukazao prije godinu dana. Unatoč tome, već gotovo dvije godine, sustav plaćen skoro 300.000 eura i dalje javno objavljuje presude koje otkrivaju identitete maloljetnika u slučajevima najtežih zločina.


Foto: Nano Banana 2 (ilustracija), Creative Commons

Što dobivate besplatnom registracijom?

  • Neograničeno čitanje našeg sadržaja
  • Newslettere prema vašim interesima
  • Pozive na događaje u vašoj blizini