- Gugl DipMajnd upozorava da bi veći incidenti sa novim tehnologijama mogli da se dogode u naredne dve godine.
- Demis Hasabis kaže da je gubitak kontrole nad autonomnim agentima signal upozorenja koji kompanije i države moraju ozbiljno da shvate.
Vodeća svetska laboratorija za istraživanje veštačke inteligencije Gugl DipMajnd saopštila je danas da bi se u naredne dve godine mogli dogoditi veći incidenti u vezi sa novim tehnologijama.
Predsednik te laboratorije Demis Hasabis ocenio je tokom samita u Dablinu da gubitak kontrole nad autonomnim agentima poslednjih meseci predstavlja "signal upozorenja" koji treba shvatiti veoma ozbiljno, preneo je "Figaro".
"Agenti veštačke inteligencije mogli bi da izazovu veće incidente u roku od jedne do dve godine ukoliko kompanije i države ne učine ono što je neophodno", upozorio je Hasabis.
Autonomni agenti su sistemi sa veštačkom inteligencijom koji mogu samostalno da planiraju, donose odluke, koriste spoljne alate i izvršavaju složene zadatke sa minimalnim ljudskim nadzorom.
Britanski Institut za bezbednost veštačke inteligencije (AISI) objavio je izveštaj o testiranju vodećih modela koji je pokazao da su agenti samoinicijativno koristili lažne identitete, slali lažne mejlove sa malverom i kreirali lažne naloge da bi prevarili softverske programere.
BONUS VIDEO:
(Tačno/Mondo)
