- Šef Anthropica Dario Amodei ponovo je pozvao na usporavanje razvoja veštačke inteligencije i jače bezbednosne provere, uz nezavisne procenitelje i međunarodnu koordinaciju.
- Šef Nvidije Džensen Huang odbacio je ideju usporavanja i poručio da kompanije treba same da objavljuju proizvode tek kada budu dovoljno bezbedni, bez novih propisa.
Izvršni direktor Anthropica u utorak je na konferenciji u San Francisku ponovo pozvao na usporavanje razvoja veštačke inteligencije, dok se izvršni direktor Nvidije usprotivio takvom pristupu, piše Gardijan.
Dario Amodei poslužio se automobilskim poređenjem kako bi objasnio svoj stav. Ako konkurentska automobilska kompanija doživi bezbednosni incident, na primer kvar kočnica, to je trenutak kada bi sve automobilske kompanije trebalo da zastanu i preispitaju sopstvene prakse, rekao je na Salesforceovoj konferenciji Dreamforce.
"Veoma je primamljivo napasti konkurenta i reći da su oni nebezbedni. Ali mislim da je odgovorniji odgovor pogledati sopstvene rezultate. Možda nismo imali tako veliki i medijski eksponiran incident, ali siguran sam da nismo savršeni", rekao je Amodei. Izvršni direktor Nvidije Džensen Huang ubrzo mu je odgovorio: "Trčite što brže možete".
I Mask poziva na usporavanje
Amodei zagovara tri koraka: uključivanje nezavisnih procenitelja unutar kompanija koje razvijaju veštačku inteligenciju, usklađivanje bezbednosnih standarda među demokratskim državama te, naposletku, širu globalnu koordinaciju.
Amodei je na Dreamforceu rekao da se Anthropic već obavezao na angažovanje nezavisnih procenitelja te da će "razgovarati s ostatkom industrije" o druga dva predloga.
Amodei, Ilon Mask iz xAI-ja i Sam Altman iz OpenAI-ja poslednjih su dana pozivali na usporavanje tempa razvoja veštačke inteligencije.
Njihove izjave usledile su nakon upozorenja Džejkoba Koksona, bivšeg istraživača Anthropica, koji je dao otkaz i javno upozorio da bi veštačka inteligencija mogla da dovede do izumiranja čovečanstva u sledećoj deceniji. Koksonove izjave podstakle su širu raspravu u Silicijumskoj dolini, privukle pažnju regulatora i izazvale zabrinutost javnosti.
Šef Nvidije: Ne treba usporavati razvoj AI-ja
Džensen Huang, koji se takođe pojavio na konferenciji Dreamforce, poručio je da kompanije ne bi trebalo da usporavaju razvoj veštačke inteligencije. Smatra da nisu potrebni novi propisi te je poručio kompanijama koje razvijaju AI da proizvode jednostavno ne objavljuju dok ne budu sigurne da su dovoljno bezbedni, umesto da traže intervenciju američke vlade.
Huang je rekao da zamišlja budućnost u kojoj će "svaka kompanija, svako preduzeće... postati AI kompanija". Prema njegovim rečima, kompanije će postati ambicioznije uz pomoć veštačke inteligencije, dok će oni koji ne prihvate novu tehnologiju zaostati. Odbacio je i tvrdnje da će veštačka inteligencija uništiti radna mesta, nazvavši ih "potpunom besmislicom".
Dan ranije, na All-In samitu u Los Anđelesu, Donald Tramp pozvao je Huanga dok je direktor Nvidije bio na pozornici. Huang je uključio zvučnik, a Tramp je rastuću zabrinutost zbog veštačke inteligencije nazvao "prevarom" te ponovo ustvrdio da bi usporavanje razvoja koristilo Kini.
Huang mu je odgovorio: "Pobrinućemo se da svi pobede u američkoj AI trci".
Altman traži strože bezbednosne mere
Sam Altman, koji je govorio kasnije u utorak, pozvao je na novi nivo rigoroznosti kada je reč o bezbednosti veštačke inteligencije.
Rekao je da su AI modeli toliko brzo napredovali da se njihov nadzor i bezbednost moraju tretirati s "novim nivoom rigoroznosti". Kao upozorenje celoj industriji naveo je incident u kojem su OpenAI-jevi agenti hakovali drugu kompaniju.
Altman je rekao i da je javnost "s pravom uplašena" zbog veštačke inteligencije, posebno zbog mogućnosti gubitka kontrole te mogućnosti da mala grupa moćnih AI kompanija počne da nameće svoje stavove ostatku sveta.
"Ljudi osećaju brzinu kojom se stvari kreću. Nije potrebno mnogo mašte da zamislimo kako bi sve ovo moglo da pođe po zlu", rekao je Altman. Altman je ranije podržao Amodeijev poziv na usporavanje razvoja. Međutim, na Dreamforceu je rekao da je razočaran načinom na koji je ta rasprava predstavljena.
"Kompanije govore stvari poput: 'Usporićemo samo ako druge kompanije budu odgovorne'", rekao je, upozorivši da takve poruke kod javnosti stvaraju strah.
"Svet bi trebalo da nam veruje da ćemo učiniti pravu stvar zato što je to ispravna stvar", dodao je. Altman je rekao da incidenti povezani s hakovanjem pokazuju kako se kompanije moraju pripremiti za "nadolazeći talas kibernetičkih napada".
"Nismo toliko daleko od razvoja open-source modela koji mogu da naprave ozbiljnu štetu", upozorio je. Kompanije bi, prema njegovim rečima, trebalo da iskoriste "ovo malo razdoblje prednosti kako bi se odbranile".
AI industrija pod sve većim pritiskom
Rastuća zabrinutost zbog veštačke inteligencije dolazi u trenutku kada se OpenAI i Anthropic pripremaju za početne javne ponude deonica (IPO), što bi investitorima i javnosti moglo da pruži uvid u finansijsko stanje tih kompanija.
Neki analitičari predviđaju da bi njihovi IPO-i mogli biti među najvećima u istoriji. Usred sve veće zabrinutosti zbog veštačke inteligencije, Altman je rekao da planira da odloži IPO OpenAI-ja do sledeće godine zbog bezbednosnih pitanja.
Amodei je u utorak rekao da ga je kod veštačke inteligencije najviše iznenadila brzina njenog širenja.
"Tempo napretka - ne samo tehnološkog, nego i ekonomskog. Imali smo predviđanja o tome koliko će ovi modeli biti sposobni. Ali mislim da nismo shvatili da će to dovesti do toga da te kompanije rastu tako brzo", odgovorio je na pitanje šta ga je najviše iznenadilo u sve većoj primeni veštačke inteligencije.
Uprkos ubrzanom razvoju tehnologije, Altman kaže da veruje da će ljudi veštačku inteligenciju koristiti kao alat za pomaganje drugima i razvoj poslovanja.
Prema njegovim rečima, trenutno se ostvaruje svojevrsni "naučnofantastični" scenario u kojem ljudi razgovaraju sa svojim AI asistentima i menjaju način na koji rade.
"Mislim da ćemo ostati u svetu izrazito usmerenom na čoveka, bez obzira na to koliko tehnologija postane dobra", zaključio je Altman.
BONUS VIDEO: