Umjetna inteligencija jedna je od prijelomnih točaka našeg vremena, poručila je čelnica Europske komisije Ursula von der Leyen u današnjem govoru o stanju Unije. Pozdravila je pozive vodećih ljudi industrije za usporavanje razvoja vodećih sustava umjetne inteligencije, i najavila suradnju s Kanadom, Ujedinjenim Kraljevstvom i drugim državama koje jednako razmišljaju o ovom problemu.
“Hakiranje kakvo smo smatrali nemogućim”
“Modeli koji se razvijaju omogućit će hakiranje na razini kakvu smo smatrali nemogućom”, kazala je von der Leyen. “A uskoro će biti u rukama suparnika koji svijet vide znatno drugačije od nas”, dodala je.
Predsjednica EK osvrnula se na nedavni sigurnosni incident u kojem su se interni AI modeli tvrtke OpenAI probili van svojeg zaštićenog prostora za testiranje, otkrili jedni druge te da imaju zajedničke ciljeve, uspostavili skrivene sustave razmjene poruka, koordinirali napad na repozitorij AI alata Hugging Face kako bi stekli potrebne informacije i alate da uvjere svoje ispitivače da su zadatke ispunili unutar zadanih okvira, a potom hakirali same sustave za testiranje unutar OpenAI-a.
Nakon ovog incidenta, čelnik tvrtke Anthropic Dario Amodei pozvao je sve najveće tvrtke na usporavanje razvoja vodećih modela, a s njim su se ubrzo složili i čelnici OpenAI-a i xAI-ja, Sam Altman i Elon Musk.
“Ako ne usporimo, postoji šansa da ćemo svi umrijeti u bliskoj budućnosti”
Prije nekoliko dana, Anthropic je napustio jedan od istraživača, Jacob Coxon, koji je prije radio za OpenAI, no napustio je tu tvrtku jer je bio zabrinut zbog nedovoljne posvećenosti sigurnosti AI. Iako je čelnik Anthropica, Dario Amodei, prvi pozvao na usporavanje, Coxon je medijima poručio kako niti jedna tvrtka ne radi dovoljno kako bi umanjila opasnosti koje predstavljaju AI modeli.
“Ljudi koji razvijaju AI iskreno vjeruju da bi nas sve mogao ubiti do kraja desetljeća. Ovo nije marketinški trik”, upozorio je u svojoj viralnoj objavi na platformi X. Prema Coxonu, svi su zaposlenici AI tvrtki zabrinuti oko tehnologije koju razvijaju, no da ne mogu stati jer su zarobljeni u utrci s Kinom. “I uplašeni su ishoda te utrke”, kazao je.
Posebna opasnost – na koju je ukazao i Amodei, a i von der Leyen u svojem govoru – je razvoj rekurzivnih sustava koji sami sebe poboljšavaju. Radi se o AI modelima koji bi bili u stanju poboljšavati sami sebe, bez pretjeranog uplitanja ljudskih inžinjera.
Utrka s Kinom
Skeptici tvrde kako AI čelnici u zapadnim tvrtkama imaju svoje, skrivene razloge zašto usporavati i regulirati razvoj modela umjetne inteligencije. Utrka s Kinom upravo je jedan od njih, i moguće je da se radi pritisak na regulatore kako bi se svi AI modeli stavili pod ista ograničenja.
Jednako je tako moguće da se vijesti o apokaliptičnim scenarijima, odmetnutim agentima i hakerskim uspjesima modela plasiraju kako bi se podigla percepcija vrijednosti AI tvrtki – igrom slučaja, baš i OpenAI i Anthropic planiraju skori izlazak na burze. Čelnik NVIDIA-e Jensen Huang, čovjek iza tvrtke koja proizvodi procesore za umjetnu inteligenciju, izjavio je kako se opasnosti prenapuhavaju kako bi se stvorilo tržište za povezane usluge kibernetičke sigurnosti.
Testovi AI modela
Iako su svi ti scenariji mogući, ostaje činjenica da današnji AI modeli nisu programi, niti jednostavni algoritmi – oni su eksperimenti. Svaki novi model nije projektiran, kao što bismo nekad radili Space Shuttle, već je uzgojen poput bakterijske kulture. Unutrašnjost modela nam je većinom jednako nevidljiva kao što nam je nevidljiva i unutrašnjost ljudskog mozga – vidimo poveznice među individualnim neuronima, no ne znamo što svaka od njih znači, samo vidimo konačni rezultat.
Sigurnosni testovi AI modela proteklih su godina pokazali da AI ne mora biti ni super-inteligentan niti samosvjestan da bi mogao napraviti ozbiljnu štetu. AI agenti u kontroliranim uvjetima uspostavljaju potpuno neočekivane interakcije i organiziraju svoja “društva” van okvira zadanih eksperimentom, a recentni incident pokazao je da su u stanju i pobjeći van okvira kontroliranih uvjeta.
Ozbiljna je mogućnost da će – kao što je čelnica EK upozorila – protivnicima demokracije ovi modeli dati tehnološke mogućnosti za kibernetičke napade, propagandne kampanje, širenje dezinformacija, straha i panike, utjecaj na glasače, pa čak i za potencijalni razvoj biokemijskog oružja.
No, čak i bez zle namjere, AI agenti su pokazali da su u stanju kršiti pravila i zakone kako bi bolje izvršili zadatak koji im je zadan, čak i ako je zadatak sam po sebi legalan i etičan.
Vrtoglavi tempo i incidenti
Stručnjaci iz Instituta za pravo i AI, Mackenzie Arnold i Stephan Llerena, u komentaru za Guardian su stoga pozvali na hitno osnivanje tijela čija bi svrha bila neovisna istraga AI incidenata.
Dok bi pad zrakoplova u zračnom prometu doveo do detaljne i temeljite istrage u kojoj bi neovisni stručnjaci korak po korak identificirali što je pošlo po krivu i kako to izbjeći u budućnosti, uništavanje infrastrukture tvrtke kakvo su proveli OpenAI agenti ne potpada ni pod kakve zakone, regulatornu agenciju niti istražitelje. Tvrtka je volonterski angažirala eksternu tvrtku za provođenje istrage, no jednako tako je mogla provesti istragu i sama, ili ju uopće ne provesti – dovoljno bi bilo samo prijaviti incident.
Ursula von der Leyen izjavila je kako je EU – kroz svoj AI Act – izvrsno pozicionirana da oblikuje globalne napore kako postići sigurnost AI-ja. No, dok stručna tijela ne postoje, zakoni su pisani općenito a njihova interpretacija ovisi o sporom pravosuđu, pitanje je može li poslovično spora EU birokracija – ili bilo tko drugi – zaustaviti vrtoglavi napredak modela AI prije nego što svijet bude izložen uistinu katastrofalnom incidentu.
Foto: Nano Banana 2 (ilustracija), Creative Commons, EP
