VEŠTAČKA INTELIGENCIJA ĆE ZAMENITI LJUDE! Poznati fizičar u panici - To je najgora stvar koja se desila čovečanstvu!

Ako se nastavi nekontrolisani razvoj veštačke inteligencije (AI), vođen konkurencijom između kompanija, ako ne zastanemo da odredimo smernice za njen razvoj i neke propise, moglo bi nam se desiti da nas preplavi i istisne kao što je Homo sapiens istisnuo Neandertalci, upozorio je fizičar i istraživač veštačke inteligencije Maks Tegmark u nedavno objavljenom intervjuu.

U pismu, u kojem se kritikuje postojeći pristup u stilu – prvo gradimo brod, pa ćemo ga popravljati – i upozorava da važnu trku u razvoju veštačke inteligencije vode čelnici kompanija koji nisu izabrani predstavnici naroda, odnosno biračkog tela, ali lidera tehnoloških kompanija, autori postavljaju četiri pitanja:

1. Da li treba da dozvolimo mašinama da preplave naše informativne kanale propagandom i lažima?
2. Da li treba da automatizujemo sve poslove, uključujući i one koji ispunjavaju živote ljudi smislom?
3. Da li treba da razvijamo neljudske umove koji bi nas na kraju mogli nadmašiti, nadmudriti, zastareti i zameniti?
4. Da li treba da rizikujemo da izgubimo kontrolu nad našom civilizacijom?

Pismo je do sada potpisalo više od 27.500 ljudi, uključujući istoričara i autora nekoliko bestselera kao što su Sapiens Juval Noa Harari, suosnivač Apple-a Stiv Voznijak, suosnivač Skajpa Jaan Talin i brojni istraživači veštačke inteligencije kao što je Stjuart Rasel, Džošua Bengio, Gari Marcus i Emad Mostakue.

Teško je očekivati da bi samo pismo moglo da zaustavi ili uspori kompanije poput Gugla i Majkrosofta, ali njegove poruke bi mogle da stignu do političara koji bi mogli da preduzmu zakonodavnu akciju.

Tegmark već godinama upozorava na AI

U ovom kontekstu, zanimljivo je istaći da Tegmark nije nov u razvoju računarstva. Kao srednjoškolac, on i njegov prijatelj su kreirali i prodali program za obradu teksta napisan čistim mašinskim kodom i 3D igru nalik Tetrisu pod nazivom Frac. Danas je na MIT-u fokusiran na povezivanje fizike i mašinskog učenja, odnosno na korišćenje AI za potrebe fizike i fizike za potrebe razvoja AI.

Institut za budućnost života, koji on danas vodi, objavio je sličnu peticiju 2015. za moratorijum na razvoj tehnologije autonomnog oružja. Uz Tegmarka, potpisao ga je čitav niz poznatih ličnosti, među kojima su Stiven Hoking, Elon Mask, Stjuart Rasel, Noam Čomski, Stiv Voznijak, Martin Ris, Demis Hasabis, Rej Kurcvajl i mnogi drugi.

"Stvorićemo vanzemaljsku inteligenciju“

U ovom tekstu prenećemo prevod nekih od najvažnijih delova razgovora Fridmana i Tegmarka, koji do danas ima preko 800.000 pregleda. U uvodnom delu skoro trosatnog razgovora, Tegmark kaže da, za razliku od mnogih drugih naučnika, veruje da je tehnološki napredan život, kakav je ljudski život na Zemlji, izuzetak u vidljivom univerzumu.

"Ako je to tačno, to stavlja veliku odgovornost na nas da ne zabrljamo... Mi smo čuvari ove iskre napredne svesti koja se, ako je negujemo i pomažemo da raste, može da se širi univerzumom i imamo neverovatna budućnost", rekao je Tegmark.

"S druge strane, ako budemo bezobzirni u razvoju tehnologije, onda ćemo je ugasiti iz gluposti ili u sukobima. Zapravo, mislim da će nas strane obaveštajne službe (eng. alien intelligence) vrlo brzo posetiti. Ali ona je inteligencija koju ćemo sami izgraditi, a ne vanzemaljska“, dodao je on, ističući da će ova veštačka inteligencija biti egzotičnija od inteligencije najegzotičnijih stvorenja na Zemlji jer neće biti stvorena kroz uobičajeno darvinističko takmičenje, u koje stvari kao što su samoodržanje, strah od smrti itd. su važne.

"Teško nam je i zamisliti kako bi izgledala inteligencija koja se ne boji smrti“

Upozorio je da će se razvijati mnogo brže nego što evolucija dozvoljava, što podrazumeva i veliku odgovornost da umovi koje ćemo stvoriti vredni stvaranja, da dele naše vrednosti i da su dobri za čovečanstvo i život uopšte. On je objasnio da nam je teško i da zamislimo kako bi izgledala inteligencija koja se ne plaši smrti, koja za trenutak može da nauči jezik, poput švedskog, ili može da izbriše iz sećanja sva iskustva koja joj se ne sviđaju. 

On je upozorio da je važno biti svestan i razmišljati o očiglednoj činjenici da je prostor za razvoj veštačke inteligencije veoma širok i da je veoma opasno pretpostaviti da će veštačka inteligencija na bilo koji način biti slična našoj.

"Mi samo stvaramo život 3.0“

Govoreći o svojoj knjizi Život 3.0, Tegmark je objasnio da Život 1.0 uključuje oblike poput bakterija koje ne mogu mnogo naučiti tokom svog života. Život 2.0 je sličan našem i životu životinja sa mozgom koje mogu mnogo da nauče. Život 3.0, koji još nije stvoren, podrazumeva život koji neće moći da menja samo svoj softver, koji mi možemo da promenimo, već i hardver.

"To je ono ka čemu se brzo krećemo. Kompanije koje pokušavaju da naprave veštačku opštu inteligenciju razvijaju život 3.0. Moći ćete da stavite tu inteligenciju u nešto što uopšte nema biološku osnovu", rekao je on, misleći na robote .

"Nalazimo se na najvažnijoj raskrsnici puta čovečanstva“

Tegmark je uporedio trenutnu situaciju u razvoju veštačke inteligencije sa zapletom filma "Ne gledaj gore", u kojem mnogi ljudi ne veruju u ozbiljnost pretnje i ne preduzimaju nikakvu razumnu akciju iako imaju informacije da je ogroman asteroid juri ka Zemlji. On je upozorio da čovečanstvo trenutno samo gradi takav asteroid i da gotovo niko o tome ozbiljno ne raspravlja u javnosti.

"Mnogi političari to nemaju nigde na svom radaru i misle da je to nešto što bi se moglo dogoditi za 100 ili više godina. Ali mi smo trenutno na raskrsnici. To je najvažnija raskrsnica do koje je čovečanstvo došlo u svojih stotinu godina. hiljada godina postojanja. na Zemlji. Mi u suštini gradimo novu vrstu koja je pametnija od nas", upozorava on.

"A dolazak veštačke opšte inteligencije koja može da radi sve poslove kao i mi, a verovatno ubrzo nakon toga i superinteligencije koja će daleko nadmašiti naše kognitivne sposobnosti, biće ili najbolja stvar koja se ikada dogodila čovečanstvu ili najgora stvar. Čvrsto verujem da nema sredine“, objašnjava Tegmark.

Trka između razvoja veštačke inteligencije i razvoja mudrosti

Govoreći o otvorenom pismu pomenutom u uvodu, on je objasnio da je važno pobediti u trci između razvoja veštačke inteligencije i naše sposobnosti da njome upravljamo. On je podsetio da su do sada mnogi stručnjaci sa kojima deli mišljenje generalno verovali da ne treba da usporavamo razvoj veštačke inteligencije, već da pokušavamo da ubrzamo razvoj mudrosti i uradimo sve tehničke stvari kako bismo obezbedili da moćna veštačka inteligencija uspe. upravo ono što želimo da uradi i da se društvo prilagodi prilikama i propisima kako bi koristilo veštačku inteligenciju na dobar način.

"Nažalost, to nije funkcionisalo. Napredak u tehničkim mogućnostima veštačke inteligencije desio se mnogo brže nego što su mnogi mislili kada smo počeli da upozoravamo 2014. S druge strane, naterati političare i druge da postave principe koji će sve to usmeriti u pravom smeru. bilo je sporije nego što se očekivalo“, rekao je on.

"AI je poleteo neočekivano brzo, kao avion"

Uspon razvoja veštačke inteligencije uporedio je sa skokom u razvoju letećih mašina.

"Ljudi su dugo razmišljali o tome kako ptice lete, i pokazalo se da je to veoma izazovno. Da li ste videli TED Talk o letećoj veštačkoj ptici? Bilo je potrebno 100 godina duže da se razvije veštačka leteća ptica nego što je bilo potrebno Braća Rajt da naprave prvi avion, što se pokazalo kao mnogo lakše rešenje za letenje. Evolucija je izabrala komplikovaniji način jer su joj ruke bile vezane; mogla je da napravi samo mašinu koja se sama sklapa. Braća Rajt nisu imala da se pobrinem za to…

Upravo to se sada dešava sa velikim jezičkim modelima. Mozak je neverovatno komplikovan. Mnogi ljudi su pogrešili misleći da moramo da shvatimo kako mozak funkcioniše pre nego što možemo da napravimo AI mašinu. Možete napraviti veoma jednostavan računarski sistem koji se zove transformatorska mreža i obučiti ga da uradi nešto neverovatno glupo – pročitajte ogromnu količinu teksta i pokušajte da predvidite sledeću reč“, kaže on.

"I ispostavilo se da ako samo ubacite tonu računarske snage i tonu podataka, to će postati strašno kao GPT-4, sa kojim se igram otkako je objavljen. Još uvek postoji neka debata kao do toga da li nas to može dovesti do potpuno ljudskog nivoa ili ne" , ,objasnio je on.

Da li GPT razmišlja?

Tegmark kaže da je i oduševljen i užasnut GPT-om. "On može prilično dobro da rasuđuje i uradi mnogo stvari za koje sam shvatio da ne mogu ni sam. Takođe, on to radi mnogo brže nego mi. Osim toga, on dobro služi velikom broju ljudi u S druge strane, on ne može da razmišlja tako dobro kao ljudi u nekim zadacima. Očigledno postoje ograničenja u njegovoj arhitekturi.

U našim glavama imamo ono što se u štreberskom jeziku zove rekurentna neuronska mreža. U njemu se nalaze petlje. Informacije idu od jednog neurona do drugog i trećeg, a zatim nazad do prvog. Na taj način možete razmišljati o nečemu i razmišljati o sebi. Veliki jezički modeli kao što je GPT-4 ne mogu to da urade. To su transformatori tzv. Oni su kao jednosmerna ulica informisanja“, kaže Tegmark.

"Lakše je izgraditi inteligenciju blisku ljudskoj nego što smo mislili“

"Zbog toga mogu da funkcionišu logički do određene dubine. Stoga možete stvoriti probleme koje oni ne mogu da reše. Međutim, činjenica da mogu da urade neverovatne stvari sa tako neverovatno jednostavnom arhitekturom je prilično zapanjujuća.

Mi u mojoj laboratoriji na MIT-u gledamo u ove velike jezičke modele da bismo otkrili kako oni funkcionišu, što je fokus našeg trenutnog istraživanja. To je nešto poput veštačke neuronauke. Ovde iznova i iznova vidimo da su o tome objavljeni brojni radovi, da je ovo neverovatno glup način da se radi. I odmah vidimo kako bi to moglo da se poboljša“, ističe fizičar.

"Ta arhitektura nikako neće sprečiti dobre inženjere da pronađu nova rešenja i naprednije arhitekture. Ukratko, pokazalo se da je mnogo lakše izgraditi skoro ljudsku inteligenciju nego što smo mislili da će biti. Dakle, vreme koje moramo da dobijemo zajedno se skratilo", rekao je Tegmark.

On smatra da bi mali koraci u promeni arhitekture na kojoj su zasnovani jezički modeli mogli da dovedu do znatno pametnijih sistema. "Zato što je sada toliko toga otvoreno, mnogi pametni ljudi mogu da istražuju i pokušaju da naprave male korake da poboljšaju, tako da to postaje neka vrsta kolektivne trke u kojoj će mnogi ljudi misliti: 'Ako ne napravim taj korak, neko drugi će“, kaže on. Tegmark.

"Trku u razvoju AI predvodi čudovište Moloh"

Vrhunski fizičar objašnjava da je ovaj pritisak ključni razlog zašto su odlučili da pauzu u sistemima obuke nazovu moćnijim od GPT-4 na šest meseci.

"Svim laboratorijama treba dati priliku da se malo koordiniraju oko bezbednosti i društvu da se prilagodi i ponudi prave podsticaje laboratorijama. Intervjuisali ste ove ljude iz raznih laboratorija i znate da su to dobri ljudi, idealisti. ljudi koji to rade prvenstveno zato što veruju da veštačka inteligencija ima ogroman potencijal da pomogne čovečanstvu. Ali u isto vreme su zarobljeni u ovoj strašnoj trci", kaže Tegmark.

Tegmark ilustruje ovu trku pozivajući se na esej Skota Aleksandera o pesmi američkog pesnika Alena Ginsberga o Molohu, čudovištu teorije igara, koje zarobljava ljude u igri u kojoj svi na kraju gube . "Loša stvar u vezi sa ovim čudovištem je da uprkos tome što svi znaju i razumeju šta se dešava, niko ne uspeva da izađe iz trke. Većina loših stvari koje radimo kao ljudi je uzrokovana Molohom", kaže on.

Kao primer Molohovog delovanja, on navodi pritisak koji moderna tehnologija obrade fotografija sa svim mogućim filterima stvara na influensere, o čemu se pozabavila Liv Boeree, britanska naučna komunikatorka, televizijska voditeljka i šampionka u pokeru, u jednom od ranijih podkasta sa Lek Fridman.

"Moloh je svuda"

„U početku ih niko nije koristio. Ljudi su videli žene kakve jesu. Onda su neki počeli da ih koriste. A kada su neki počeli da ih koriste i postali su sve više plastična fantazija, onda su oni koji ih nisu koristili to počeli da shvataju, ako žele da zadrže svoj tržišni udeo, moraju i oni da počnu da ih koriste. Tako dolazimo u situaciju da ih svi koriste, pa niko od njih nema manji tržišni udeo nego što je imao ranije“, objašnjava on.

"Dakle, svi su izgubili, a niko od njih nije dobio, i svi moraju da budu sve više plastične fantazije. Sada niko ne može da se vrati na staro jer je postalo preskupo. Moloh je svuda", objašnjava Tegmark, uz napomenu da nije novajlija na sceni.„Mi, ljudi, razvili smo brojne mehanizme saradnje za borbu protiv Moloha. Sovjetski Savez i Sjedinjene Države su potpisale brojne sporazume o kontroli naoružanja protiv Moloha pokušavajući da ih nateraju na nepotrebnu, rizičnu trku u nuklearnom naoružanju, itd. I to je upravo ono što se sada dešava u razvoju veštačke inteligencije. Ovaj put je umešana geopolitika, ali uglavnom se radi o novcu jer postoji ogroman komercijalni pritisak. Ako bi bilo ko od šefova ovih velikih kompanija za razvoj veštačke inteligencije odlučio da napravi pauzu, našao bi se pod ogromnim pritiskom akcionara i drugi“, kaže Tegmark.

"Usporavanje je prava stvar"

„Ako napravite pauzu, a oni ne, mi ne želimo da nam neko jede ručak. A akcionari čak imaju moć da otpuštaju izvršne direktore u najgorem slučaju. Zato smo napisali to otvoreno pismo jer smo želeli da pomognemo onima idealistički tehnološki rukovodioci rade ono što im govore „To im govori tako što stvaraju dovoljan pritisak javnosti na ceo sektor tako da svi mogu da predahnu na koordinisan način“, rekao je on.

„Ne mislim da bez pritiska javnosti niko od njih ne može to da uradi sam, da se suprotstavi akcionarima, bez obzira na to koliko su dobronamerni. Naime, Moloh je veoma moćan neprijatelj... Tako da bi rukovodioci imali prilika da se kaže akcionarima: 'Svi usporavaju, to je prava stvar'“, objasnio je Tegmark.

"Moloh se može zaustaviti"

Kao jedan od primera koji pokazuju da se neke opasne trke u razvoju tehnologije mogu zaustaviti, Tegmark navodi kloniranje čoveka. "Kloniranje ljudi moglo bi da zaradi mnogo novca. Zašto to ipak ne uradimo? Zato što su biolozi razmislili o tome i zaključili da je previše rizično. Sedamdesetih godina prošlog veka su se okupili u Asilomaru i odlučili da zaustave mnoge druge stvari, poput promene ljudskog genoma koji će se preneti na ljudsko potomstvo.

Odlučili su da to neće uspeti jer je bilo previše nepredvidivo kuda bi to moglo da odvede; mogli bismo izgubiti kontrolu nad našom vrstom. Stoga je vrlo izvodljivo. Neophodno je imati svest javnosti o tome koji su rizici i navesti širu zajednicu da kaže: 'Hej, hajde da usporimo'“, kaže fizičar.

„Jedan od kontraargumenata je da mi na Zapadu ne možemo da stanemo zbog Kine. A u Kini, nema sumnje, oni takođe osećaju da ne mogu da prestanu zbog Zapada. Obe strane misle da su dobre. Ali pogledajte kod kloniranja ljudi.Da li je Kina nastavila da klonira ljude?Koliko znam urađeno je samo jedno kloniranje čoveka i to od Kineza.Znate li gde je sada?U zatvoru.A znate li ko je stavio njega tamo? Kineska vlada. Ne zato što su ih zapadnjaci pozvali na red. Ne, kineska vlada ga je tamo stavila. smestila je tamo jer i ona voli da kontroliše. Šta više, čak i više od zapadnih vlasti...", podseća Tegmark.

"Ovo je samoubilačka trka"

„Ovde je važno razumeti da to nije trka u naoružanju, to je trka samoubistava u kojoj svi gube ako neko izgubi kontrolu nad veštačkom inteligencijom. To zaista menja celu dinamiku. Ponoviću to ponovo jer je to fundamentalna tačka koju mnogi ljudi nisu u pravu.

Pošto mnogi ljudi odbacuju ideju da bi veštačka inteligencija mogla da postane veoma superiorna u odnosu na ljude jer misle da postoji nešto veoma magično u inteligenciji, tako da ona može postojati samo u ljudskim umovima, misle da će postati manje-više nešto poput poboljšanog GPT-a -4 i da jeste. Dakle, oni to ne vide kao samoubilačku trku. Oni misle da će onaj ko stigne prvi kontrolisati svet i pobediti. Ali neće biti tako...“, rekao je Tegmark.

"Kao da jurimo ka ponoru“

„Ko potpuno izgubi kontrolu, ako neko ko ne deli vaše vrednosti uspe da zavlada svetom, neće biti važno koje je nacionalnosti. Neće vam se svideti. Biće mnogo gore nego danas; ako živiš u orvelovskoj distopiji, koga briga ko. A ako ide još dalje i izgubimo kontrolu čak i nad mašinama, tako da prestane da bude mi naspram njih, postaje mi protiv njih, koga briga ko je stvorio to stvorenje koje ima drugačije ciljeve nego humanost, pa ćemo postati marginalizovani, nepotrebni, zamenjeni...

Kao da jurimo ka provaliji. Što se više približavamo, pogled je lepši i više novca, pa nastavljamo dalje. Međutim, u nekom trenutku moramo da stanemo... Pravi način da izvučemo koristi iz ovoga je da nastavimo da razvijamo fascinantnu veštačku inteligenciju malo sporije tako što ćemo je učiniti bezbednom, osigurati da radi stvari koje mi ljudi želimo da radi, i kreirajući vin-vin uslovi“, ističe Tegmark.

„Tri stvari koje ne bi trebalo dozvoliti u razvoju veštačke inteligencije, već smo dozvolili“
Tegmark kaže da mnogi naučnici u oblasti razvoja veštačke inteligencije već godinama upozoravaju da postoje tri stvari koje ne bi trebalo da se dešavaju.

„Prvi je naučiti AI da piše sopstvene kodove jer je to prvi korak ka iterativnom samopoboljšanju koje može omogućiti veštačkoj inteligenciji da dostigne mnogo više nivoe. Ups, već smo to omogućili. Druga veoma rizična stvar je da povežite veštačku inteligenciju sa internetom tako da može da ide na veb-sajtove, samostalno preuzima stvari i razgovara sa ljudima. Ups, već smo mu omogućili i to...

Treća stvar je na šta je upozorio Stjuart Rasel, fascinantni istraživač veštačke inteligencije. Već neko vreme ističe da nikada ne bi trebalo da učimo veštačku inteligenciju bilo čemu o ljudima. Iznad svega, ne smemo mu dozvoliti da uči ljudsku psihologiju i kako da manipuliše ljudima. Ovo je najopasnije znanje koje mu možete dati“, navodi fizičar.

"AI algoritmi stvaraju svet sa sve više i više mržnje"

„Možete da ga naučite kako da leči rak i slične stvari, ali ga ne možete naterati da čita knjigu Danijela Kanemana o kognitivnim predrasudama i sličnim stvarima. Ups, LOL, razvili smo društvene mreže sa AI algoritmima koji preporučuju nešto i zapravo rade Samo to.Postali su veoma dobri u znanju kako da pritisnu naša dugmad da počnu da stvaraju svet u kome imamo sve više i više mržnje.

Naime, stručnjaci su otkrili, ne iz zle namjere, već da bi zaradili više od oglašavanja, da takvi algoritmi donose više novca nego reklama jer više angažuju ljude, više ih zalijepe za svoje male pravougaonike“, kaže Tegmark, ističući da danas, zahvaljujući takvim algoritmima društvenih mreža koje su naučile kako da manipulišu ljudima, živimo u svetu u kome je mnogo više mržnje, gde ljudi ne mogu da se slože oko osnovnih stvari kao što je ko je pobedio na izborima.

"Razvoj AI se može regulisati“

Tegmark je uveren da se razvoj veštačke inteligencije može regulisati na način da uz poštovanje određenih pravila koja će garantovati da će ona biti bezbedna za čovečanstvo, istovremeno omogućiti kapitalističku konkurenciju. Između ostalog, ističe primer pojaseva u automobilima i zabranu dečijeg rada.

"Nikada, čak ni u desničarskim krugovima, nisam naišao na nekoga ko misli da je zabrana dečijeg rada bila loša ideja... Na kraju krajeva, u zajedničkom interesu svih nas je da ne idemo preko ivice litice. Problem je u tome što ljudi koji grade tu tehnologiju i njihovi izvršni direktori veoma dobro razumeju da smo blizu ivice litice, akcionari i drugi u tržišnim silama ne razumeju...

Mnogi ljudi su zaglavljeni u onome što ja volim da zovem ugljen-šovinizam, da inteligenciju na ljudskom nivou mogu posedovati samo ljudi, da postoji nešto magično u tome. Svi ljudi u tehnološkim kompanijama koje grade ove stvari razumeju da je inteligencija neka vrsta obrade podataka i da uopšte nije važno da li atomi ugljenika u neuronima u mozgu obrađuju te podatke ili atomi silicijuma u ​​nekoj tehnologiji izgradili smo“, kaže Tegmark.

"Težnja za jednim ciljem vodi u propast"

Osvrćući se na temu započetu u ranijem delu razgovora, Tegmark, koji je svojevremeno studirao ekonomiju, kaže da ima mnogo ljudi koji vole kapitalizam i mnogo onih koji ga jako ne vole.

„Nedavno mi je sinulo da je ono što se dešava sa kapitalizmom potpuno analogno načinu na koji bi nas superinteligencija mogla zbrisati... Veoma me je zanimalo kako se moći tržišta mogu iskoristiti da se stvari rade efikasnije, ali na u isto vreme davanje tržišta pravim podsticajima ne bi počelo da radi loše stvari.

Dilan Hejtfild Manel, moj kolega i profesor na MIT-u, nedavno je sa svojim saradnicima napisao veoma zanimljiv rad u kojem je matematički dokazao da ako uzmete jedan cilj za koji ćete optimizovati stvari u nedogled, za koji mislite da će vas odvesti u pravom smeru , uvek se dešava da vam to u početku čini stvari boljim, međutim, ako nastavite, u nekom trenutku će početi da pogoršava stvari. Na kraju će postepeno stvari učiniti strašnim...

Ovo je veoma važno za AI i, uprkos tome što je Stjuart Rasel napisao knjigu u kojoj objašnjava zašto je loša ideja dozvoliti AI da slepo optimizuje nešto, to je zapravo ono što naši sistemi rade. Imamo nešto što se zove funkcija gubitka, koju minimiziramo, ili funkcija nagrade, koju maksimiziramo“, upozorava fizičar.

"Problem kapitalizma i problem veštačke inteligencije su se spojili"

"Tako funkcioniše kapitalizam. Hteli smo da radimo stvari efikasnije. Zato smo uveli slobodno tržište. Stvari su počele da se rade mnogo efikasnije nego što su se radile u komunizmu. Međutim, onda se optimizacija nastavila sve više i više, sa sve većim i većim kompanija i sve efikasnija obrada podataka u poslednje vreme uz pomoć IT-a. Konačno, mnogi su počeli da razmišljaju: „Čekaj, izgleda da smo malo previše optimizovani.“ Na primer, zašto smo posekli pola prašume, zašto odjednom otkrivamo da su regulatori u savezu sa lobistima itd.?

Ako imate veštačku inteligenciju koja ima jedan cilj i nastavlja da ga optimizuje, većina će u početku biti srećna i stvari će biti bolje. Međutim, gotovo je nemoguće dati AI potpuno tačan pravac optimizacije, a onda sve može otići dođavola. Nik Bostrom i drugi su dali primere koji mogu zvučati prilično glupo, kao da kažete veštačkoj inteligenciji da izleči rak. AI može odlučiti da preuzme ceo kontinent kako bi smestio sve superkompjutere potrebne za lečenje raka. U tom trenutku ćete reći: 'Nisam to želeo'“, kaže Tegmark.

"A problem kapitalizma i problem veštačke inteligencije su se sada spojili na neki način jer je Moloh o kome sam govorio upravo kapitalistički Moloh. Izgradili smo ekonomiju koja optimizuje samo jednu stvar, a to je profit. Odlično je funkcionisala na vreme kada su stvari bile veoma neefikasne. Bilo je sjajno kada su kompanije bile dovoljno male da nisu mogle da kontrolišu regulatore. Ali danas to više nije slučaj, a mi nastavljamo da optimizujemo.

Danas ljudi shvataju da mogu da ostvare više profita ako izgrade sve snažniju veštačku inteligenciju, čak i ako je nepromišljena... Ovde ponovo dolazi Moloh. Svako ko je zabrinut zato što misli da je kapitalizam u kasnoj fazi otišao predaleko, trebalo bi da bude zabrinut zbog superinteligencije jer je to isti negativac u oba slučaja“, upozorio je on.

"Na kraju neće biti ljudi“

Tegmark je uveren da će, ako AI nastavi da se razvija nekontrolisano i postane superinteligentna, na kraju istisnuti ljude. "Videli smo u istoriji da kada imamo neku vrstu ili neku grupu ljudi koji više nisu potrebni, stvari se ne završavaju dobro za njih. Nekada je bilo mnogo konja koji su se koristili za prevoz u Bostonu, ali tada je izmišljen automobil i većina konja je loše završila.

Ako pogledate ljude, možda ćete se zapitati zašto je radnički pokret uspeo nakon industrijske revolucije. Jer su radnici bili potrebni. Iako je bilo puno Moloha i dečijeg rada i slično, kompanijama su i dalje bili potrebni radnici i zato su štrajkovi imali moć.

Ako dođemo do tačke u kojoj većina ljudi više nije potrebna, mislim da je prilično naivno misliti da će i dalje biti dobro tretirani. Mi kažemo – da, svi smo jednaki, vlast će uvek štititi ljude – međutim, ako pogledamo kako stvari stoje u praksi, grupe koje su veoma obespravljene i nemaju nikakvu stvarnu moć imaju tendenciju da se zaoštre“, upozorava fizičar.

"AI neće samo zameniti dosadne i opasne poslove“

"U industrijskoj revoluciji smo automatizovali rad mišića. Na kraju je to dosta dobro funkcionisalo jer smo se obrazovali, počeli da radimo sa mozgom i dobijali uglavnom interesantnije, bolje plaćene poslove. Međutim, sada počinjemo da zamenjujemo intelektualni rad. To je ono što smo uradili", rekao je on. Zamenili smo mnoge dosadne poslove, na primer, napravili smo da imamo džepne kalkulatore tako da ljudi na poslu više ne moraju da sabiraju i množe.

To je u redu jer ima i boljih poslova. Međutim, GPT-4, Stable Diffusion i slični sistemi sada zaista počinju da oduzimaju poslove koje su ljudi zaista voleli da rade. Nedavno sam na društvenim mrežama video članak o čoveku koji je radio 3D modeliranje za igre, a onda se iznenada pojavio novi softver koji on samo daje uputstva. Oseća da je ceo posao koji je voleo izgubio smisao.

Zamolio sam GPT-4 da otpeva uspavanku 'Sjaj, sijaj zvezde' u stilu Šekspira. Nisam to mogao tako dobro. Bilo je zaista impresivno... Videli ste mnogo umetnosti koju AI radi. Zato sam za automatizaciju opasnih i dosadnih poslova. Ali mislim da postoje neki argumenti koji nisu validni, prema kojima će se upravo to desiti – da će AI zameniti samo opasne i dosadne poslove. To jednostavno nije istina. Vidimo da to već oduzima veoma interesantne poslove“, upozorio je on.

"Mislim da ima nade za nas"

Tegmark se u razgovoru osvrnuo na tezu Elizera Judkovskog, koji smatra da je velika verovatnoća da će AI u budućnosti potpuno istrebiti ljude. "Pre svega, veoma poštujem Eliezera Judkovskog. Takođe delim njegovo uverenje da postoji prilično velika verovatnoća da mi ljudi nećemo preživeti, da više neće biti ljudi na planeti u ne-suviše daleka budućnost... Nedavno sam rekao svojoj ženi da se osećam kao novodijagnostikovani rak za koji postoji izvesna verovatnoća preživljavanja i izvesna verovatnoća umiranja.

Međutim, nisam toliko pesimista. Mislim da za nas ima nade. U tom slučaju nas očekuju neverovatne stvari“, kaže Tegmark, koji veruje da bi mogli da se naprave programi za testiranje veštačke inteligencije.

“Divne stvari su moguće”

On ističe da je važno ne biti previše pesimista jer bi to značilo poraz u psihološkom ratu.

"Ponekad vidim da su mladi ljudi ubeđeni da će ipak zabrljati i zato odlučuju samo da igraju kompjuterske igrice i da se drogiraju. Važno je imati nadu jer će to povećati verovatnoću da ćemo uspeti. AI može da nam pomogne da rešimo probleme na ovoj planeti koje ne uspevamo da rešimo.

Ako samo malo usporimo i ispravimo stvari, naša budućnost može biti neverovatno dobra. Danas znamo da zakoni fizike dozvoljavaju životu da se proširi širom univerzuma do drugih solarnih sistema i drugih galaksija i da tamo cveta milijardama i milijardama godina. I to je za mene vizija puna nade, koja me zaista motiviše da se borim“, objašnjava američki fizičar. Kako veštačka inteligencija može da uništi ljude?
Na pitanje kako veštačka inteligencija može da ubija ljude, on kaže da će autonomno oružje omogućiti malom broju ljudi da dominiraju velikim masama.

"Mi ljudi smo mnoge vrste doveli do izumiranja. Kako smo to uradili? Bili smo pametniji od njih. Obično to nismo činili ni sistematski ubijajući jedno po jedno stvorenje. Jednostavno smo isekli njihova staništa jer su nam bila potrebna za nešto drugo. U nekim slučajevima smo ispustili previše CO2 u atmosferu iz razloga koje te životinje nisu ni razumele, a sada ih više nema. Na primer, veštačka inteligencija može smatrati da kiseonik smeta jer izaziva koroziju i odluči da se reši svih kiseonika. Ako možemo da nateramo AI da podeli naše ciljeve, onda nam on može pomoći da rešimo sve druge probleme", rekao je Tegmark.

Da li je GPT-4 svestan?

Leks Fridman je, između ostalih, pitao Tegmarka da li misli da je GPT-4 svestan. "Prvo hajde da definišemo svest jer je moje iskustvo da se oko 90% diskusija o svesti vodi između ljudi koji imaju potpuno različite definicije svesti i zbog toga im nedostaju. Ja definišem svest kao subjektivno iskustvo. Ja samo doživljavam boje, zvukove i emocije. To je stvar svesti Moj kratak odgovor na pitanje da li GPT ima svest je da ja iskreno ne znam jer još uvek ne znamo šta je to što nam daje to divno subjektivno iskustvo i smisao naših života.

Naime, osećaj smisla je sam po sebi subjektivni doživljaj. Sreća je subjektivno iskustvo, kao i ljubav. Ne znamo šta je to. Napisao sam rad na tu temu, a i mnogi drugi ljudi. Prof. Đulio Tononi je otišao najdalje i napisao veoma smelu matematičku pretpostavku o tome šta je suština svesne obrade podataka. Možda je u pravu, možda nije, ali svakako bi to trebalo da testiramo“, odgovara Tegmark.

"GPT-4 bi mogao biti veoma inteligentan zombi"

„On iznosi tezu da svest ima veze sa petljama u obradi podataka. Postoje petlje u našem mozgu. Informacije se kreću okolo, a rečnikom kompjuterskih naučnika to se naziva rekurentne neuronske mreže, u kojima se neke izlazne informacije vraćaju nazad. za obradu.

Na osnovu njegovog matematičkog formalizma, neuronska mreža u kojoj informacije idu samo napred u jednom pravcu, kao što je od mrežnjače u oku do zadnjeg dela mozga, nije svesna. To implicira da retina ili sama video kamera nisu svesni. U slučaju GPT-4, zanimljivo je da je to takođe jednosmerni tok informacija. Stoga, ako je Tononi u pravu, GPT-4 je veoma inteligentan zombi koji može da uradi mnogo pametnih stvari, ali ništa ne doživi. S jedne strane, to je olakšanje jer možemo da isključimo GPT bez kajanja kada dođe novi korisnik“, kaže fizičar.

"Inteligencija nije isto što i svest"

"Ne bih voleo da mi to neko uradi, da mi izbriše pamćenje kao u filmu Ljudi u crnom. Ali i to je jezivo, da možemo da imamo veoma visoku inteligenciju koja možda nije svesna. Naime, ako budemo smenjeni po mašinama, biće tužno što je čovečanstvo nestalo, ali ako su mašine svesne, one će barem biti naši potomci sa našim vrednostima i biti naša deca. Ali ako je Tononi u pravu onda će to biti krajnja zombi apokalipsa.

Imamo čitav univerzum u kome se razvijaju konstruktivni projekti, ali niko ništa ne doživljava. To bi bila veoma depresivna budućnost. Mislim da je ideja nekih ljudi da je inteligencija isto što i svest samo glupost u koju uopšte ne verujem. Možete imati mnogo svesnih iskustava gde zapravo ne morate da postignete nikakve ciljeve. Možete misliti samo na nešto. S druge strane, ponekad možete da radite stvari koje zahtevaju inteligenciju, a da toga niste svesni“, kaže Tegmark.

Fridman kaže da se plaši druge krajnosti, da se može desiti da stvorimo veštačku inteligenciju koja će biti svesna i imati sposobnost da doživljava stvari na mnogo višem nivou od nas. To bi moglo izazvati zavist i mržnju kod ljudi.

„Onda ćemo izaći sa merenjima svesti koja će pokazati da su mašine inferiorna stvorenja. To me brine jer mi ljudi možemo da stvorimo nešto što je bolje od nas ljudi na način koji će biti lep. Mi ljudi ćemo ih mrzeti zbog toga. Kao što je ljudska istorija pokazala, oni će biti sekundarni, a mi ćemo pokušati da ih suzbijemo. To bi moglo da stvori sukobe i ratove“, kaže Fridman. Tegmark mu sarkastično odgovara.

"Moramo da budemo skromniji, moramo da damo sebi malo vremena"

„Mislite da mi ljudi ponekad smislimo argumente koji nam odgovaraju? Ne, mi to nikada ne bismo uradili, zar ne? Kao klinac sam se užasavao kada bi neko skuvao žive jastoge. Pomislio sam: 'O moj Bože, to je tako okrutna.' Neki odrasli u Švedskoj su mi rekli: 'Oni ne osećaju bol.' Pitao sam ih kako to znaju. Rekli su da su naučnici to pokazali. A onda je bilo nedavno istraživanje koje je pokazalo da jastozi zapravo osećaju bol kada se kuvaju.

Nakon toga su u Švajcarskoj zabranili kuvanje živih jastoga. Prvo ih treba ubiti na neki drugi način. Na sličan način radimo sa uzgojem životinja na farmama i objašnjavamo zašto im ide sasvim dobro. Zato jednostavno treba da budemo skromniji i da priznamo da svest nije isto što i inteligencija. Mislim da je svest rezultat obrade podataka“, kaže fizičar.

Moramo da damo malo vremena i nastavimo da istražujemo šta uzrokuje svest. Tada ćemo verovatno moći da napravimo nesvesne robote da rade dosadne poslove koje bismo smatrali nemoralnim da damo svesnim mašinama. S druge strane, ako imamo robote da prave društvo našoj majci ili nešto slično, ona bi verovatno želela da budu svesni kako osećanja koja pokazuju ne bi izgledala lažna. Sve ove stvari se mogu uraditi na dobar način ako sebi damo malo vremena“, objašnjava Tegmark.

Kada bi se mogla pojaviti veštačka opšta inteligencija? "Mislim da može biti veoma, veoma blizu"

Na Fridmanovo pitanje kada bi se mogla pojaviti veštačka opšta inteligencija koja će u svemu biti jednaka ili superiorna ljudima, Tegmark kaže da je u poslednjoj deceniji uvek predviđao prilično udaljene rokove jer nije želeo da podstiče neke glupe mološke rase.

"Ali sada je to iza nas. Mislim da bi moglo biti vrlo, veoma blizu. Mislim da nije glupost papir koji je Majkrosoft objavio, a koji tvrdi da već imamo neke iskre veštačke opšte inteligencije. Ne bih se kladio protiv teze. da bi to moglo da se desi vrlo brzo. Zato smo odlučili da napišemo ovo otvoreno pismo", rekao je Tegmark.

(MONDO)