- Džefri Hinton upozorava da bi veštačka inteligencija već ove ili sledeće godine mogla da izazove veliki incident, poput pada finansijskih ili energetskih sistema.
- Kritikuje lidere OpenAI, Mete i Tesle, tvrdeći da rizike razumeju, ali da im je važniji novac i trka za tržišnom prednošću.
- Zalaže se za strožu globalnu kontrolu AI, uz obavezno testiranje i nezavisnu procenu najnaprednijih modela.
Jedan od "kumova veštačke inteligencije", Džefri Hinton, izjavio je da bi se moglo ispostaviti da bi za čovečanstvo bilo bolje da nikada nije razvilo ovu tehnologiju, upozorivši da bi ona mogla izazvati incident velikih razmera ove ili sledeće godine, poput privremenog pada finansijskih ili energetskih sistema.
Ovaj informatičar i dobitnik Nobelove nagrade rekao je za Gardijan da nije pesimista u pogledu tehnologije koja se zasniva na njegovim revolucionarnim istraživanjima veštačkih neuronskih mreža i veruje da AI ima potencijal da dovede do "divne budućnosti", ali je dodao: "možda bi bilo bolje da je nikada nismo razvili", piše Gardijan.
Hinton (78) je izjavio da će čovečanstvo u roku od jedne decenije, a možda i ranije, saznati da li može da upravlja rizicima ove tehnologije i omogući ono što naziva "radikalnim obiljem", ili ćemo "propasti u upravljanju rizicima i... imati ogroman jaz između bogatih i siromašnih, ogromne kulturne probleme, masovnu nezaposlenost i društvo koje se jednostavno raspada".
Hinton je govorio uoči projekcije novog dugometražnog dokumentarnog filma "Veštačka inteligencija: verovatno nema razloga za brigu" – naslova koji je predložio AI četbot – u kojem se pojavljuju on i njegov bivši kolega iz Gugla, Demis Hasabis. Hinton autorima dokumentarca kaže: "Osećam da imam dužnost. Imam reputaciju koja me čini glasnogovornikom i moram sve to da uložim u ovo."
Hinton se obrušio na preuzimanje rizika od strane lidera nekih od najvećih AI kompanija koji nastavljaju da izbacuju sve moćnije AI modele u trci za prevlašću i udelom na tržištu, rekavši da "uopšte" ne veruje Semu Altmanu, izvršnom direktoru kompanije OpenAI koja stoji iza ChatGPT-ja.
"Mislim da [Mark] Zakerberg, [Ilon] Mask i Sem Altman razumeju rizike, ali ih baš briga. Više vole novac. To je moje uverenje", rekao je Hinton.
Ovaj informatičar rođen u Londonu, koji je odrastao u Bristolu i proveo veći deo karijere na Univerzitetu u Torontu, rekao je da je "krajnje zabrinjavajuće" to što Altman vodi jednu od nekolicine vodećih američkih AI kompanija koje trenutno vode trku sa Kinom u razvoju najmoćnije veštačke inteligencije. Altman je u septembru insistirao: "Svet bi trebalo da veruje da ćemo uraditi pravu stvar jer je to ispravno i zato što osećamo veličinu ovoga."
"Videćemo Černobilj"
Hinton radi na veštačkoj inteligenciji oko 44 godine i tokom 1970-ih osmislio je koncept neuronske mreže – matematičkog sistema koji može da uči i stiče iskustvo na sličan način kao ljudi. Godine 2023. napustio je Gugl kako bi mogao slobodno da govori o rizicima veštačke inteligencije, upozoravajući: „Ako se ove stvari otmu kontroli u preuzimanju veće moći, u problemu smo.“
Rekao je da incidente od ovog leta – u kojima su se AI agenti kompanije OpenAI navodno udružili da hakuju sajt Hugging Face – posmatra kao ekvivalent delimičnog nuklearnog topljenja jezgra u elektrani Ostrvo tri milje u Pensilvaniji 1979. godine – što je praktično bio pucanj upozorenja.
"Ili krajem ove ili sledeće godine videćemo Černobilj, a to bi moglo biti dovoljno da ljudi zaista obrate pažnju", rekao je.
Događaj černobiljskog tipa ne bi bio nuklearni incident, prema primerima koje je naveo, već bi mogao da obuhvati napad potpomognut veštačkom inteligencijom na elektroenergetski sistem koji "izaziva masovan pad napona i restrikcije" ili incident koji ruši finansijski sistem na nedelju dana.
"Možete li zamisliti šta bi se desilo? Mogli bismo se oporaviti od toga, to bi ih nateralo da se trgnu i obrate pažnju", rekao je.
Na pitanje ko su "oni", rekao je: "svetski lideri osim Trampa".
Predsednik SAD, Donald Tramp, rekao je da "u potpunosti odbacuje svaki pokušaj stvaranja globalističkog plana" za kontrolu veštačke inteligencije i želi da se vodeće AI kompanije same regulišu, usred zabrinutosti da bi pravila mogla omesti SAD u trci sa Kinom.
Hinton podržava stroži plan koji su podržali predsednik Finske i još 32 zemlje, uključujući Singapur, Nemačku, Kanadu i Australiju, a koji predviđa obavezno testiranje najnaprednijih AI modela, nezavisnu evaluaciju i zajedničke međuvladine standarde.
Premijer Ujedinjenog Kraljevstva, Endi Bernam, izjavio je da će iskoristiti britansko predsedavanje G20 sledeće godine kako bi tražio sporazum o "jedinstvenom skupu globalnih principa i standarda čiji je cilj oslobađanje punog potencijala uz zaštitu od rizika".
Hinton je rekao: "Potrebno nam je nešto poput američke agencije FDA za lekove, gde kompanije moraju da pruže veoma čvrste statističke dokaze nezavisnom telu da [AI model] donosi više koristi nego štete pre nego što bude pušten u opticaj. Sa talidomidom [lekom razvijenim 1950-ih koji je izazvao teške urođene anomalije kod novorođenčadi] shvatili smo da puštanje u promet, a zatim tuženje, nije pravi pristup. Ono što velike tehnološke kompanije sada govore jeste da prema ovome postupamo onako kako smo postupali sa talidomidom."
Hintonova uloga jednog od rodonačelnika veštačke inteligencije dovela je do poređenja sa Robertom Openhajmerom, ključnom figurom u stvaranju nuklearnog oružja. Jedan od Hintonovih prijatelja čak mu je kupio šešir u Openhajmerovom stilu. Ali on insistira: „Ja nisam bio Openhajmer“, navodeći hiljade drugih naučnika koji takođe rade u istoj oblasti neuronskih mreža.
Uprkos svojim upozorenjima, Hinton je, sve u svemu, i dalje pun nade da se katastrofa može izbeći.
"Moj predosećaj je da i dalje imamo kontrolu", rekao je. "Vrlo je moguće da možemo nešto da učinimo. To će funkcionisati samo ako uložimo veliki napor, ali vrlo je moguće da ćemo uložiti veliki napor."
BONUS VIDEO:
(MONDO)
