- Džared Kaplan iz Anthropica upozorava da bi AI koja sama sebe trenira mogla da izazove "eksploziju inteligencije" i gubitak kontrole.
- Prema njegovoj proceni, prelomna tačka mogla bi da nastupi između 2027. i 2030. godine, dok sistemi već danas pomažu u stvaranju novih modela.
- Na oprez pozivaju i drugi lideri iz industrije, uz sve glasnije zahteve za strožom regulacijom i mehanizmom za gašenje sistema.
Niko zapravo ne zna šta će se dogoditi ako veštačka inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe da trenira, upozorava Džared Kaplan, suosnivač i glavni naučni direktor kompanije Anthropic, koja razvija model Claude.
Kaplan, fizičar koji je prešao u svet veštačke inteligencije i postao jedan od ključnih ljudi Silicijumske doline, izjavio je da bi prepuštanje sistema samom sebi moglo da izazove pravu "eksploziju inteligencije".
Ali to je, ističe, ujedno i najveći mogući rizik i verovatno najstrašniji potez koji čovečanstvo može da povuče. Prema njegovim procenama, ta prelomna tačka mogla bi da nastupi između 2027. i 2030. godine, a najnapredniji sistemi već danas pomažu programerima u stvaranju novih modela, piše *Business Insider*.
Naučnik koji stoji iza temelja ChatGPT-a
Kaplan nije spoljni teoretičar ili paničar - on je čovek koji je postavio matematičke temelje današnjeg buma veštačke inteligencije. Dok je radio u OpenAI-ju, vodio je istraživanje koje je dokazalo da veći modeli i više računarske snage daju dramatično bolje rezultate, a učestvovao je i u stvaranju modela GPT-3, na kom je nastao ChatGPT.
Zajedno sa kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, upravo zato što su smatrali da moraju da se pripreme za trenutak kada će čovečanstvo početi da prepušta kontrolu mašinama. Njegov posao je danas da osigura da razvoj ne ode u pogrešnom smeru.
Njegova upozorenja sve češće odjekuju među samim inženjerima. Džejkob Kokson, istraživač koji je ovog meseca dao otkaz u Anthropic-u, javno je poručio da se vodeće tehnološke kompanije "kockaju s našim životima" jer dozvoljavaju da se modeli sami usavršavaju.
Strah od gubitka kontrole
Na oprez poziva i izvršni direktor kompanije Anthropic Dario Amodei, koji je nedavno upozorio da bi razvojne laboratorije morale da uspore tempo. Amodei ističe da veštačka inteligencija napreduje drastično brže prvenstveno zato što već sada sama pomaže u stvaranju sledeće generacije sistema. Ako se to ne stavi pod strogi nadzor, upozorio je, tehnologija bi mogla da pregazi čovekovu sposobnost razumevanja i upravljanja tim procesima.
Iako su u stalnom poslovnom i tehnološkom sukobu, sa takvim crnim procenama slažu se i šef OpenAI-ja Sem Altman i Ilon Mask. Obojica su u više navrata podržala teze da nekontrolisani razvoj veštačke inteligencije i stvaranje sistema koji samostalno donose odluke predstavljaju egzistencijalnu pretnju po čovečanstvo, zbog čega traže strogu regulaciju i uvođenje sigurnosnih kočnica.
Inženjeri traže uvođenje "dugmeta za gašenje"
Rasprava je stigla i do američkih zakonodavaca u Vašingtonu, koji sve glasnije razmatraju donošenje novih zakona o bezbednosti. Bivši inženjeri iz kompanije navode da je važno da javnost i političari čuju stvarne stručnjake koji grade sisteme, a ne samo ljude iz odnosa sa javnošću.
Nekadašnji članovi tima ističu da pozivi čelnika kompanije na uvođenje mehanizma za gašenje sistema u slučaju opasnosti pokazuju koliko je situacija ozbiljna.
Kako za Biznis Insajder navodi jedan od bivših istraživača koji je radio sa Kaplanom, dopustiti veštačkoj inteligenciji da se automatski sama unapređuje suludo je kockanje, čak i ako tim procesom upravljaju najrazumniji ljudi na svetu.
BONUS VIDEO:
(Index/MONDO)