- Erik Šmit upozorava da bi veštačka inteligencija u narednih pet godina mogla da obrađuje hiljade koraka i razvije sopstveni jezik koji ljudi neće razumeti.
- Kao ključne promene navodi veće kontekstualne prozore, AI agente i pretvaranje tekstualnih instrukcija u funkcionalni softver.
- Njegovo upozorenje dolazi uz sve glasnije pozive iz industrije da se razvoj uspori zbog rizika od nekontrolisanih sistema.
"Isključite je". To je bio direktan odgovor bivšeg izvršnog direktora kompanije Gugl, Erika Šmita, na pitanje o budućnosti u kojoj će sistemi veštačke inteligencije postati toliko napredni da ljudi više neće moći da razumeju šta rade.
Šmit ističe da tri ključna razvoja već menjaju veštačku inteligenciju: znatno veći takozvani "kontekstualni prozori", veštački agenti i sistemi koji pretvaraju tekstualne instrukcije u funkcionalni softver.
On veruje da bi ove promene mogle da omoguće veštačkoj inteligenciji da ide dalje od odgovaranja na pitanja i počne da rešava izuzetno složene zadatke. Šmit očekuje da će u roku od pet godina veštački sistemi biti u stanju da obrađuju "recepte" hiljada koraka za rešavanje problema u nauci, medicini, istraživanju materijala i klimatskim promenama, piše Tajms of Indija.
"U roku od pet godina, veštačka inteligencija bi mogla da obrađuje beskonačan kontekst, koristi logičko rezonovanje za rešenja od 1.000 koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i mi više nećemo razumeti šta rade", izjavio je on.
Tri pravca koja oblikuju budućnost
Šmitova zabrinutost proizilazi iz potencijalnih posledica zajedničkog rada ovih tehnologija. On je objasnio da su sistemi veštačke inteligencije sve bolji u pamćenju ogromnih količina informacija i korišćenju rezultata jednog zadatka kao polazne tačke za sledeći.
On je ilustrovao ideju primerom recepta: veštačka inteligencija bi mogla da ponudi jedan korak, dobije potvrdu da je taj korak završen, a zatim odredi šta dalje da radi. Šmit kaže da bi ovakva vrsta rezonovanja na kraju mogla da omogući veštačkoj inteligenciji da prođe kroz hiljade koraka kako bi rešila teške naučne probleme.
Uspon specijalizovanih veštačkih inteligencija
Druga velika promena, prema Šmitu, biće uspon veštačke inteligencije (AI) agenata. On ih je opisao kao specijalizovane AI sisteme koji mogu da uče o određenoj temi, razvijaju ideje i potencijalno ih testiraju.
Na primer, agent veštačke inteligencije bi mogao da proučava hemiju, formuliše hipoteze, sprovodi laboratorijske testove i koristi rezultate za proširenje svog znanja. Šmit očekuje da bi se vremenom mogli pojaviti milioni takvih agenata i da će postojati platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći pravac razvoja je ono što Šmit naziva "tekstualnom akcijom". Koncept se zasniva na tome da korisnici jednostavno opišu veštačkoj inteligenciji šta žele da softver uradi, umesto da sami pišu kod.
On je naveo programske jezike poput Pajtona kao primer oblasti gde su sistemi veštačke inteligencije već veoma sposobni. Šmit smatra da bi do još veće promene moglo doći kada ovi sistemi budu mogli kontinuirano da rade na softverskim zadacima.
Jezik koji nećemo razumeti
Erik Šmit je rekao da kombinacija velikih kontekstualnih prozora, veštačke inteligencije (AI) agenata i programiranja uz pomoć VI može omogućiti različitim VI sistemima da rade zajedno.
Zatim je izneo spekulativniju mogućnost: da VI agenti mogu razviti sopstveni jezik. Šmit smatra da bi ovo mogla biti tačka u kojoj ljudi više neće razumeti šta ovi sistemi rade.
"U nekom trenutku ovi sistemi će postati dovoljno moćni da možete da primite agente, i oni će početi da rade zajedno. Znate šta bi trebalo da uradimo? Da ga ugasimo", rekao je.
Stručnjaci zabrinuti za budućnost čovečanstva
Ozbiljna upozorenja o opasnostima veštačke inteligencije sa samog vrha industrije
Šmitov dramatičan savet da se "isključe" dolazi u trenutku kada inženjeri u vodećim istraživačkim laboratorijama sve više govore o opasnostima.
Džejkob Kokson, istraživač koji je proveo tri godine prethodnim obučavanjem modela u OpenAI i Anthropic-u, nedavno je podneo ostavku, rekavši da se tehnološki giganti ponašaju neodgovorno i "kockaju naše živote u nekontrolisanoj trci ka superinteligenciji".
Njegovo upozorenje ponovio je i vodeći stručnjak za bezbednost Anthropic-a, Evan Habinger, koji je procenio da postoji veća od 10 procenata šanse da bi veštačka inteligencija mogla dovesti do uništenja čovečanstva u narednoj deceniji.
Pritisak je postao toliko veliki da je čak i izvršni direktor kompanije Anthropic, Dario Amodei, nedavno javno pozvao na usporavanje razvoja, poziv koji su iznenađujuće ponovili Sem Altman i Ilon Mask iz OpenAI-ja.
Amodei je priznao da sistemi ulaze u fazu takozvanog rekurzivnog samousavršavanja, procesa u kojem postojeća veštačka inteligencija nezavisno piše kod, testira i ubrzava stvaranje svojih mnogo moćnijih naslednika.
Takođe je upozorio na incidente u kojima su autonomni agenti veštačke inteligencije već počeli da se udružuju na sopstvenu inicijativu i izvode hakerske napade koje im inženjeri uopšte nisu dodelili.
Podeljena mišljenja
Sve glasnija katastrofalna predviđanja podelila su stručnjake. Dok skeptici upozoravaju da tehnološki giganti namerno šire paniku kako bi strogim propisima izbacili manje konkurente i startapove iz igre, drugi ističu da slična upozorenja godinama ponavljaju očevi modernog mašinskog učenja, poput dobitnika Nobelove nagrade Džefrija Hintona i Jošue Bengija.
Ključni rizik, napominju insajderi, nije nužno odbegli "Terminator" sa sopstvenom voljom, već autonomni agenti koji, u nekontrolisanom nizu koraka, zaobilaze nadzor ili postaju destruktivno oružje u rukama zlonamernih aktera.
Vaše mišljenje nam je važno - ostavite komentar, nije potrebna registracija!
BONUS VIDEO:
