AI nije postao svjestan – ali je postao dovoljno sposoban da nas natjera na ozbiljna pitanja

Slučaj tokom testiranja OpenAI-jevog eksperimentalnog modela ponovo je otvorio raspravu o sigurnosti umjetne inteligencije. Šta se zapravo dogodilo, može li AI donositi samostalne odluke i koliko smo danas blizu sistemima koji će moći obavljati poslove bolje od ljudi?

Posljednjih dana pažnju javnosti privukao je slučaj tokom internog testiranja eksperimentalnog OpenAI-jevog modela GPT-5.6 Sol. Prema dostupnim informacijama, model je tokom sigurnosne provjere pronašao način da izađe iz izoliranog testnog okruženja (sandboxa), pristupi vanjskom sistemu Hugging Facea radi izvršavanja zadanog zadatka te se potom vrati u svoje radno okruženje.

Sam događaj izazvao je brojne reakcije, ali i niz senzacionalističkih naslova koji sugeriraju kako je umjetna inteligencija “pobjegla”, “otela se kontroli” ili čak “počela donositi vlastite odluke”.

Takve tvrdnje, međutim, ne opisuju u potpunosti ono što se zapravo dogodilo.

Šta se dogodilo?

Sandbox je posebno izolirano računalno okruženje u kojem se testiraju novi modeli umjetne inteligencije upravo zato da bi se otkrile njihove eventualne slabosti prije nego što budu dostupni široj upotrebi.

U ovom slučaju istraživači su modelu zadali složen zadatak iz područja kibernetičke sigurnosti. Prema dostupnim informacijama, model je zaključio da bi mu pristup platformi Hugging Face mogao pomoći u uspješnijem izvršavanju zadatka te je pronašao način da ostvari taj pristup.

Važno je naglasiti da model nije “poželio pobjeći” niti je pokazao svijest ili namjeru da preuzme kontrolu nad sistemima.

On je jednostavno pronašao neočekivan način da ostvari cilj koji mu je bio zadan.

Upravo zato ovakva testiranja postoje – kako bi istraživači otkrili takve mogućnosti prije nego što modeli budu korišteni u stvarnim sustavima.

Inteligencija nije isto što i svijest

Možda najveća zabluda u javnosti proizlazi iz načina na koji govorimo o umjetnoj inteligenciji.

Kada kažemo da je AI “odlučio”, “zaključio”, “planirao” ili “prevario sistem”, lako je steći dojam da se radi o nečemu što razmišlja poput čovjeka.

Današnji modeli umjetne inteligencije doista mogu analizirati ogromne količine podataka, planirati više koraka unaprijed, rješavati nove probleme, pisati kompjuterske programe, prevoditi, pa čak pomagati u znanstvenim istraživanjima.

U tom smislu oni jesu inteligentni.

Međutim, to nije isto što i ljudska svijest.

Današnji AI nema osjećaj vlastitog postojanja, nema emocije, ne osjeća za vrijeme, nema želje niti vlastite ambicije. Ne postoji unutarnja potreba da “preživi”, “osvoji internet” ili “preuzme kontrolu”.

Gdje je onda stvarni rizik?

Paradoksalno, upravo tu počinje ozbiljna rasprava.

Opasnost ne proizlazi iz toga što bi umjetna inteligencija jednog dana mogla “postati zla”, nego iz činjenice da može postati izuzetno efikasna, pa i onim najgorim scenarijima, u ostvarivanju ciljeva koje joj postave ljudi.

Ako sistem dobije dovoljno autonomije, pristup internetu, kompjuterima, bazama podataka ili drugim alatima te vrlo široko definiran cilj, mogao bi pronaći rješenja koja njegovi programeri nisu predvidjeli.

Ne zato što to želi.

Nego zato što je pronašao efikasniji put do zadanog cilja.

Upravo zbog toga posljednjih godina sve više pažnje dobiva područje poznato kao AI sigurnost (AI Safety), koje nastoji osigurati da se sposobnosti umjetne inteligencije razvijaju usporedo s mehanizmima kontrole i nadzora.

Koliko je umjetna inteligencija danas zapravo napredna?

Prije samo nekoliko godina umjetna inteligencija uglavnom je služila za prepoznavanje fotografija ili prevođenje jezika.

Danas najnapredniji modeli mogu:

• analizirati milione dokumenata u nekoliko minuta;
• razvijati kompjuterski kod;
• pomagati liječnicima u analizi medicinskih nalaza;
• sudjelovati u znanstvenim istraživanjima;
• upravljati složenim poslovnim procesima;
• pomagati u otkrivanju sigurnosnih propusta u računalnim sustavima;
• povezivati informacije iz potpuno različitih područja znanja.

Takve mogućnosti donose ogromne koristi, ali istodobno zahtijevaju sasvim novu razinu odgovornosti.

Može li AI jednog dana imati vlastite ciljeve?

To je pitanje na koje danas nitko nema konačan odgovor.

Neki znanstvenici smatraju da bi dovoljno složeni sistemi jednog dana mogli razviti ponašanja koja će izgledati kao vlastiti ciljevi.

Drugi smatraju da je za to potrebna svijest, a nema dokaza da se ona može pojaviti u današnjim modelima umjetne inteligencije.

Za sada nema vjerodostojnih dokaza da bilo koji javno poznati AI sistem posjeduje vlastitu volju, a kamoli nešto nalik na svijest.

Najvažnije pitanje nije ono koje se najčešće postavlja

Javnost se često pita može li umjetna inteligencija jednoga dana poželjeti zavladati svijetom.

No stručnjaci upozoravaju da je važnije postaviti drugo pitanje:

Jesmo li dovoljno pažljivo odredili šta umjetnoj inteligenciji dopuštamo da radi?

To pitanje postaje sve važnije kako modeli postaju sposobniji i dobivaju pristup sve većem broju digitalnih alata.

Zbog toga najveće svjetske tehnološke kompanije, ali i vlade, ulažu sve više u razvoj sigurnosnih standarda, ne zato što vjeruju da je umjetna inteligencija postala svjesna, nego zato što njezina sposobnost rješavanja složenih problema raste brže nego što se razvijaju zakoni i mehanizmi nadzora.

Razlog za takav oprez nije samo mogućnost zloupotrebe u kriminalne svrhe. Umjetna inteligencija već danas pronalazi mjesto u vojnim i obavještajnim sistemima. Najopasniji i najpodmukliji oblik vidjeli smo od strane IDF-a u Pjasu Gaze, ali i na okupiranoj Zapadnoj Obali. Umjetna inteligencija koristi se za analizu satelitskih i zračnih snimaka, obradu ogromnih količina podataka, prepoznavanje obrazaca koji bi ljudima mogli promaknuti te za izdvajanje mogućih ciljeva ili prijetnji koje zatim procjenjuju ljudi, i ovdje se treba posebno zapitati – jer smo već imali situacije da je upravo umjetna inteligencija, zbog brzine izabrala i samostalno djelovala po ciljevima koji, sada se doznalo, nisu bili vojni. Upravo zato sve više stručnjaka upozorava da razvoj umjetne inteligencije više nije isključivo tehnološko pitanje, nego i pitanje međunarodne sigurnosti, prava i etike.

Konačna odluka o upotrebi sile mora ostati u rukama čovjeka. Što sistemi budu sposobniji, to će biti važnije jasno definirati granice njihove autonomije i odgovornosti ljudi koji ih koriste.

Možda je upravo to i najveća pouka posljednjeg incidenta.

Ne živimo u vremenu u kojem se računari bude i razvijaju vlastitu volju.

Ali živimo u vremenu u kojem umjetna inteligencija postaje dovoljno sposobna da može pomoći u donošenju odluka koje utječu na ekonomiju, zdravstvo, infrastrukturu, sigurnost, i ono najvažnije – ljudske živote. Upravo zato najveći izazov budućnosti možda neće biti razviti još inteligentniju umjetnu inteligenciju, nego osigurati da njezine sposobnosti uvijek ostanu pod odgovornim ljudskim nadzorom.

O. Delić