Nekoliko dana pre Altmanove smene, šefovi su upozoreni na 'otkriće koje preti čovečanstvu'.
Rojters je jutros ekskluzivno objavio da je upravni odbor OpenAI-ja dobio veoma ozbiljno upozorenje nekoliko dana pre smene generalnog direktora Sema Altmana. Podsetimo, šef menadžmenta OpenAI, ključne kompanije za razvoj veštačke inteligencije koja stoji iza ChatGPT-a, iznenada je smenjen na četiri dana, a juče je objavljeno da se vraća na istu funkciju.
Rojters je jutros objavio da je nekoliko istraživača iz OpenAI-ja napisalo pismo upravnom odboru kompanije upozoravajući na moćno otkriće na polju veštačke inteligencije (AI) za koje su rekli da bi moglo da zapreti čovečanstvu, rekle su Rojtersu dve osobe upoznate s tim pitanjem.
Dva ključna događaja uoči smene
To pismo, o kojem se dosad nije izveštavalo i razvoj algoritma veštačke inteligencije bili su ključni događaji uoči smene Altmana, kojeg mnogi smatraju ocem generativnog AI-a, rekla su dva izvora. Pre njegovog jučerašnjeg povratka u Open AI, više od 700 zaposlenih je pretilo da će dati otkaz i pridružiti se osnivaču Majkrosofta u znak solidarnosti sa svojim otpuštenim liderom.
Rojtersovi izvori su opisali pismo kao jedan od faktora na dužem popisu pritužbi odbora koje su dovele do Altmanove smene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja AI-a pre nego što se u potpunosti shvate posledice. Rojters nije uspeo da pregleda kopiju pisma, a osoblje koje je napisalo pismo nije odgovorilo na zahteve za komentar.
OpenAI u internoj poruci potvrdio projekt Q*. Šta je to?
Nakon što ga je Rojters kontaktirao, OpenAI, koji je odbio da komentariše pismo, potvrdio je u internoj poruci osoblju projekt pod nazivom Q* i pismo upravi pre smene Altmana, rekao je jedan od izvora. Portparol OpenAI-a rekao je da je poruka, koju je poslala dugogodišnja direktorka Mira Murati, upozorila osoblje na određene medijske priče, ali nije komentarisala njihovu tačnost.
Neki u OpenAI-ju veruju da bi projekt Q* mogao da bude oznaka za značaja napredak u potrazi za onim što je poznato kao veštačka opšta inteligencija (AGI), rekao je jedan izvora za Rojters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka.
Uz pomoć velikih računarskih resursa, novi model je mogao da reši određene matematičke probleme, rekla je osoba pod uslovom anonimnosti jer nije ovlašćena da govori u ime kompanije. Iako su matematiku izvodili samo na nivou učenika osnovne škole, rešavanje takvih testova učinilo je istraživače vrlo optimističnim u pogledu budućeg uspeha Q*-a, rekao je izvor. Rojters nije mogao nezavisni da potvrdi mogućnosti Q* koje su opisivali istraživači.
Šta može generativna AI, a šta AGI?
Istraživači smatraju da je matematika granica generativnog razvoja veštačke inteligencije. Trenutno je generativna veštačka inteligencija dobra u pisanju i prevođenju jezika statističkim predviđanjem sledeće reči, a odgovori na isto pitanje mogu uveliko da variraju. Ali, sposobnosti rešavanja matematičkih zadataka, gde postoji samo jedan tačan odgovor, implicira da bi veštačka inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji. To bi moglo, veruju istraživački AI-a, da se primeni i na nova naučna istraživanja.
Za razliku od kalkulatora koji može da reši ograničeni broj operacija, AGI može da generalizuje, uči i razume. U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost veštačke inteligencije, rekli su izvori nenavodeći tačne bezbednosne probleme navedene u pismu. Među računarskim naučnicima već dugo se raspravlja o opasnosti koju predstavljaju visokointeligentne mašine ako, na primer, odluče da im je uništenje čovečanstva u interesu.
"AI naučnik"
Istraživači su takođe naglasili rad tima na projektu "AI naučnik", čije je postojanje potvrdilo više izvora. Grupa, formirana kombinacijom prethodnih timova nazvanih "Code Gen" i "Math Gen", istraživala je kako da optimizira postojeće modele veštačke inteligencije kako bi poboljšala svoje razmišljanje i na kraju obavila naučni rad, rekao je jedan od ljudi.
Altman je vodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i privukao je ulaganja, ali i Majkrosoftove računarske resurse koji su potrebni da se približi AGI-ju. Osim što je najavio mnoštvo novih alata u demonstraciji ovog meseca, Altman je prošle nedelje na samitu svetskih vođa u San Francisku najavljivao kako veruje da su veliki pomaci na vidiku.
"Četiri puta u istoriji OpenAI-a, zadnji put je bilo u zadnjih nekoliko nedelja, bio sam u prostoriji, kada smo na neki način gurnuli veo neznanja unazad i granicu otkrića unapred. Napraviti tako nešto je profesionalna čast života", rekao je na samitu Azijsko-pacifičke ekonomske saradnje. Dan kasnije, odbor je smenio Altmana. Juče ga je ponovo zaposlio.
BONUS VIDEO:
(MONDO/Index.hr)