Kako bi veštačka inteligencija mogla da ubije sve ljude? Ovo je 5 glavnih scenarija koja su potpuno neverovatna

Početkom septembra, istraživač veštačke inteligencije (AI) Džejkob Kokson dao je otkaz u kompaniji Anthropic nakon samo četiri meseca. U objavi na društvenoj mreži X, napisao je:

Razumljivo, ove izjave su izazvale veliku pažnju. Sada se mnogo govori o usporavanju istraživanja veštačke inteligencije i povećanju "ljudske kontrole" nad ovom tehnologijom.

Ali kako bi nas tačno AI mogla sve ubiti? Scenarija ne manjka, a većina njih uključuje koncept "superinteligentne" AI – to jest, AI koja je sposobnija od ljudi.

Prema pisanju Conversation-a, ovo je pet glavnih scenarija prema kojima bi veštačka inteligencija mogla da ubije ljude.

Na listi su poređani od najmanje verovatnog do najverovatnijeg.

1. Nikada nećemo saznati

Zagovornici scenarija AI apokalipse često opravdavaju svoju zabrinutost pomoću paradoksa "Kvaka 22" - kako uopšte možemo zamisliti šta bi superinteligencija mogla da uradi da bi eliminisala manje inteligentna bića poput nas?

Morali bismo i sami biti superinteligentni da bismo predvideli šta bi superinteligencija bila u stanju da uradi. To je kao da tražite od svog psa da zamisli termonuklearni rat.

Dobra vest je da je superinteligencija možda još uvek prilično daleko. Trenutni AI modeli su izuzetno dobri u rešavanju specifičnih problema, ali to nije isto što i biti inteligentniji od čoveka u svim domenima.

Međutim, AI je nedavno rešila jedan od sedam najtežih poznatih matematičkih problema. Izgleda da se približava rešavanju i drugih, što bi vas moglo učiniti manje optimističnim po ovom pitanju.

2. Argument spajalice

Superinteligentna AI bi verovatno bila izuzetno sposobna u ostvarivanju svojih ciljeva. Ali bi mogla biti ravnodušna prema opstanku čovečanstva.

Klasičan primer takve ravnodušnosti potiče od oksfordskog filozofa Nika Bostroma, koji je zamislio superinteligentnu AI dizajniranu da optimizuje proizvodnju spajalica za papir. Da bi proizvela svoj omiljeni kancelarijski materijal, ona brzo pretvara svu dostupnu materiju, uključujući ljude, planete i zvezde - u spajalice.

Ovde imamo savršeno izvršenje loše definisanih ciljeva. AI ne mrzi čovečanstvo; ona jednostavno prepoznaje da smo sastavljeni od atoma koji bi se mogli bolje iskoristiti za spajalice. Ništa lično.

Dobra vest je da ovaj scenario meša inteligenciju sa moći. Superinteligentna AI ne mora nužno imati moć da ostvari svoje ciljeve. Pretvaranje planete u fabrike spajalica zahtevalo bi građevinske dozvole.

Čak i kada bi dobila dozvole, izgradnja previše fabrika spajalica dovela bi do neizbežnog negodovanja javnosti. Interesne grupe bi blokirale postupke pred sudovima. Aktivisti za zaštitu životne sredine blokirali bi buldožere.

U svetu postoji mnogo otpora i prepreka koji sprečavaju čak i veoma inteligentne da nametnu svoju volju ostalima. Zapravo, na centre podataka možete gledati kao na trenutno uobličenje teorijskog scenarija sa spajalicama. A ljudi se sve više protive pretvaranju planete u centre podataka.

Ukratko, što AI-ju damo više mogućnosti da utiče na svet, to greška u definisanju cilja potencijalno postaje ozbiljnija.

AI može da pronađe rešenja koja su nama potpuno suluda, formalno je ostvarila cilj ali nije uradila ono što smo zapravo mislili.
To je primer problema koji se zove poravnanje ciljeva: kako napraviti AI koja će zaista raditi ono što želimo, a ne samo ono što smo joj doslovno naredili.

Primera radi, ako joj zadamo zadatak "Učini me najbogatijim čovekom na svetu", AI bi mogla da ubije sve ljude koji su siromašniji od mene je nije dovoljno specifično zadat promt.

3. Biološko oružje

Čovečanstvo bi moglo nastradati tako što bi superinteligentna AI napravila i pustila neko opasno novo biološko oružje u atmosferu. Ovo je, zapravo, jedan od ishoda scenarija "AI 2027" projekta AI Futures Project, neprofitne organizacije posvećene predviđanju uticaja napredne veštačke inteligencije.

Ovaj rizik postao je konkretniji prošlog meseca, kada su istraživači sa Univerziteta Stanford objavili da su koristili AI model za genetički jezik kako bi sintetisali 16 novih virusa.

Zabrinuće vas činjenica da su genetske sekvence jednostavno poslali laboratoriji koja vrši narudžbine poštom, a ona im je vratila viruse u epruvetama. Ceo eksperiment je koštao najviše par stotina hiljada dolara.

Dobra vest je da je izuzetno teško ubiti sve ljude novim virusom. Za to vam je potreban virus koji je veoma prenosiv, tako da se širi daleko i brzo. Ali to je pravilo biologije – virusi koji se lako šire obično su manje smrtonosni. Nasuprot tome, ako je virus veoma smrtonosan, prenosivost opada, jer većina zaraženih umre pre nego što stigne da prenese infekciju.

Kovid je ubio manje od 1% čovečanstva. Najsmrtonosnija pandemija u zabeleženoj istoriji bila je "Crna smrt", kada je kuga u 13. veku ubila više od trećine evropskog stanovništva. Međutim, čak bi i kuga danas verovatno bila daleko manje smrtonosna zahvaljujući našem naprednijem medicinskom znanju i boljoj sanitariji.

4. Nuklearni rat

Šta ako bi AI ušla u lanac komandovanja i kontrole nuklearnim oružjem i započela nuklearni rat? U proteklih 50 godina nekoliko puta smo greškom bili blizu nuklearnog rata.

Govore nam da su sistemi za nuklearno komandovanje i kontrolu potpuno odsečeni od interneta. Međutim, kao što smo videli 2010. godine, iranske nuklearne centrifuge onesposobljene su računarskim crvom pod nazivom Stuxnet, za koji se veruje da je unesen putem USB fleš memorije. AI takođe može dati vojsci lažne obaveštajne podatke, što bi moglo dovesti do nepopravljivih poteza.

Dobra vest je da su zalihe nuklearnog naoružanja smanjene. Ali ih i dalje ima dovoljno da verovatno unište polovinu nas. I to ne od same nuklearne eksplozije, već od gladi tokom nuklearne zime koja bi usledila.

5. Drugi ljudi

Možda je najverovatniji rizik da sami sebe uništimo. A AI bi mogla to da ubrza.

Zamislite – a za to nije potrebno mnogo mašte – da AI izazove masovne gubitke radnih mesta, zagadi informacioni prostor dezinformacijama, razbije našu politiku i uništi ljudske odnose lažnim, sintetičkim oblicima druženja.

Društvo bi lako moglo da se slomi. Polako ali sigurno, više ne bismo bili u stanju da podržavamo ljudski život u bilo kojoj razmeri.

Šta, dakle, možemo da zaključimo iz svih ovih scenarija? Svakako postoje stvari zbog kojih bi trebalo da budemo zabrinuti. Ali verovatno ne i preterano zabrinuti.

BONUS VIDEO:

(MONDO)