- Bil Gejts upozorava da veštačka inteligencija može da bude zloupotrebljena za masovna ubistva i bioterorizam, uz posledice koje bi mogle da budu ogromne.
- Kaže da bi AI danas mogla da pomogne malim grupama da dizajniraju opasne patogene, pa traži obavezno praćenje i evidenciju korišćenja modela.
Bil Gejts je nekada imao optimističan pogled na veštačku inteligenciju. U julu 2023. godine napisao je da su rizici stvarni, ali da se mogu upravljati. Ali tri godine kasnije, suosnivač Majkrosofta upozorava da bi zlonamerne osobe mogle da iskoriste tehnologiju za počinjenje masovnih ubistava.
"Veštačka inteligencija je definitivno dovoljno moćna da pokrene događaje sa milijardama žrtava. Nikada nije postojalo oružje moćnije od kombinacije ljudi sa zlim namerama i najnovijih alata veštačke inteligencije", rekao je Gejts u intervjuu za podkast "Upoznaj štampu" u nedelju.
Gejts godinama govori o biološkim pretnjama, čak i pre nego što se pojavio ChatGPT. U svom TED govoru 2015. godine, upozorio je da svet nije spreman za brzo širenje bolesti poput ebole, a nakon što je Kovid-19 preplavio vladine sisteme, napisao je knjigu pod nazivom "Kako sprečiti sledeću pandemiju".
Slične zabrinutosti je izrazio juče u intervjuu sa Ezrom Klajnom iz "Njujork tajmsa", gde je istakao opasnost koju veštačka inteligencija predstavlja u kontekstu biološkog oružja.
"Veštačka inteligencija je dostigla nivo gde bi mogla da omogući bioteroristi da ubije stotine miliona ljudi. Ta mogućnost postoji danas", rekao je.
Gejts je dodao da bi napredak u veštačkoj inteligenciji mogao pomoći u dizajniranju novih molekula i potencijalno stvaranju patogena "goreg od malih boginja". Objasnio je da je to ranije zahtevalo resurse cele države, ali danas, uz pomoć veštačke inteligencije, čak i male grupe to mogu da urade.
"Ovo je najopasnija stvar kojoj se čovečanstvo ikada približilo. U poređenju sa ovim, nuklearno oružje deluje bezopasno", rekao je.
Gejts smatra da neposredna opasnost od zloupotrebe nadmašuje dugoročnu mogućnost da sistemi izmaknu ljudskoj kontroli. Taj rizik, kaže on, pogoršava činjenica da vladama nedostaje tehnička stručnost koju su istorijski razvijale za nuklearno oružje, budući da je veštačka inteligencija došla iz privatnog sektora.
On je za "Meet the Press" rekao da bi vlade trebalo da zahtevaju od programera da u sisteme ugrade mehanizme za praćenje i bezbednost, uključujući evidenciju koja bi omogućila vlastima da vide kako se modeli koriste.
"Niko ne misli da je samoregulacija dovoljna", rekao je Gejts.
Ali on ne misli ni da je bezbednosni prekidač dovoljan, jer veštačka inteligencija još nije na nivou gde bi mogla da preuzme kontrolu nad računarima i odupre se gašenju.
"Ako želite da obuzdate loše ponašanje, morate imati vidljivost i evidenciju o tome šta se radi. Sami bezbednosni prekidači ne bi sprečili ove tragedije", rekao je.
Gejts je prvenstveno zabrinut zbog zlostavljanja ljudi, ali industrija se suočava i sa drugim strahom: da će sistemi veštačke inteligencije početi da se ponašaju na načine koje njihovi tvorci ne mogu da kontrolišu.
Bivši istraživač OpenAI-ja, Džejkob Kokson, podneo je ostavku u Anthropic-u početkom ovog meseca i optužio obe vodeće laboratorije da se "trče ka samousavršavanju superinteligencije i kockaju sa našim životima".
Generalni direktor kompanije Anthropic, Dario Amodei, pozvao je na usporavanje razvoja u eseju ovog meseca, a šef kompanije OpenAI, Sem Altman, takođe je priznao da će industrija možda morati da uspori obuku naprednih modela kako bi se uskladili sa bezbednosnim standardima.
BONUS VIDEO:
