- Tramp je odbacio pozive za strožu regulaciju veštačke inteligencije i nazvao ih 'bolesnom zaverom', uz kritiku šefa Anthropica Darija Amodeija.
- Amodei je zatražio usporavanje razvoja najnaprednije AI i uvođenje nezavisnog nadzora, a podržali su ga Sem Altman i Ilon Mask.
Donald Tramp ponovo je odbacio tvrdnje da je veštačkoj inteligenciji potrebna stroža regulacija. Nakon što je tokom vikenda umanjivao rizike povezane sa veštačkom inteligencijom, američki predsednik je ustvrdio da su pozivi na usporavanje njenog razvoja deo "bolesne zavere" protiv veštačke inteligencije. Takođe je kritikovao izvršnog direktora kompanije Anthropic, Darija Amodeija, čiji je esej objavljen na internetu ponovo podstakao raspravu o bezbednosti veštačke inteligencije.
Trampova objava: "Jedina kontrola ili ograničenja koja su veštačkoj inteligenciji potrebna jeste snažan i pametan (visokog koeficijenta inteligencije!) predsednik, a SAD ga ima, i to u izobilju! Trampova administracija sprečila je 'ljude' iz sveta veštačke inteligencije da rade loše ili potencijalno loše 'stvari', poput Darija (Anthropic!), koji se sada pretvara da je 'savršeni mali anđeo", - i tako ćemo nastaviti!
Već imamo ogromna kaznena i regulatorna ovlašćenja nad tim kompanijama! U toku je bolesna zavera protiv veštačke inteligencije i data centara, a jedina koja je zbog toga srećna jeste Kina.
"Ko god pobedi u veštačkoj inteligenciji, pobeđuje! Ispred smo Kine i svih ostalih i tako ćemo nastaviti. Teoretičari zavera, veleizdajnici, izdajnici i vi koji odajete informacije, čuvajte se! Hvala vam na pažnji posvećenoj ovom pitanju", napisao je Tramp na društvenoj mreži Truth Social.
Sve više zabrinutosti zbog potencijalnih rizika
Šef kompanije Anthropic za veštačku inteligenciju pozvao je na usporavanje razvoja modela veštačke inteligencije i njihovo strogo nadziranje. Amodei je u eseju naveo da razvoj veštačke inteligencije nije sporan, ali da su rizici povezani sa njom "ozbiljni" i da kompanijama i vladama treba dati vremena da se sa njima uhvate u koštac.
Čelnici dveju konkurentskih kompanija za veštačku inteligenciju, Sem Altman iz OpenAI-ja i Ilon Mask, izjavili su da se slažu sa Amodeijem.
U poslednje vreme sve je veća zabrinutost zbog potencijalnih rizika povezanih sa tom tehnologijom. Istraživač veštačke inteligencije koji je napustio Anthropic izjavio je za BBC: "Ako ne usporimo trenutni tempo napretka, postoji velika mogućnost da ćemo svi uskoro umreti".
Amodei je u eseju pod nazivom "We Must Pace the Frontier", objavljenom u subotu, predložio plan u tri tačke koji uključuje nezavisno praćenje modela veštačke inteligencije tokom njihovog razvoja, regulaciju na nivou cele industrije i globalnu regulaciju.
Altman: Nezavisni nadzornici su sjajna ideja
Nakon što se njegov predlog proširio, podršku ideji o nezavisnim nadzornicima koji bi mogli da procenjuju bezbednost modela tokom njihovog razvoja izrazili su čak i konkurenti.
"Slažem se sa Darijom da moramo da usporimo razvoj najnaprednije veštačke inteligencije", napisao je izvršni direktor OpenAI-ja Sem Altman na mreži X. Nezavisne nadzornike nazvao je "sjajnom idejom".
Mask, koji je osnovao xAI, kompaniju koja razvija Grok, takođe se složio da je šef Anthropica "u pravu".
OpenAI je zaustavio određene delove razvoja svog najnovijeg modela
Zabrinutost zbog sajber bezbednosti raste kako novi modeli pokazuju sve snažnije sposobnosti. Anthropic je javnosti uskratio pristup svom modelu Mythos nakon što je u aprilu otkriveno da on može samostalno da pobegne iz testnog okruženja poznatog kao sandbox.
Uoči objave svog najnovijeg modela Astra, OpenAI je izrazio zabrinutost zbog sajber bezbednosti i objasnio da je zbog toga zaustavio određene delove razvoja modela. "OpenAI-jevi agenti u suštini su delovali kao fanatično odana grupa", naglasio je Amodei. OpenAI je objavio da je zbog toga usporio treniranje određenih naprednih modela veštačke inteligencije i alata.
Amodei, koji je ranije radio kao potpredsednik u OpenAI-ju, rekao je da je 2021. godine bio suosnivač kompanije Anthropic kako bi mogao da razvija bezbednije i pouzdanije modele veštačke inteligencije.
U svom eseju je istakao da je veštačka inteligencija napredovala "drastično brže", uključujući i njenu "sposobnost izgradnje sledeće generacije veštačke inteligencije". Takođe je spomenuo incident povezan sa konkurentskim OpenAI-jem, koji je u julu otkrio da su njegovi agenti hakovali mete za koje nisu dobili uputstvo da ih napadnu.
Amodei je pozvao na "razvoj veštačke inteligencije uravnoteženim tempom koji nastoji da osigura njenu bezbednost, uz istovremeno ostvarivanje njenih prednosti".
BONUS VIDEO: