- OpenAI-jev AI agent pristupio je javnim i internim podacima australijske baze zdravstvene statistike, što je premijer Entoni Albaneze nazvao prvim poznatim slučajem neovlašćenog ulaska AI u državnu mrežu.
- Australija vodi forenzičku istragu, a OpenAI tvrdi da nema dokaza da su otvoreni kartoni pacijenata, već samo zbirna statistika i interne datoteke.
AI agent kompanije OpenAI pristupio je australijskoj državnoj bazi zdravstvene statistike u, kako je rekao premijer Entoni Albaneze, prvom poznatom slučaju u kojem je veštačka inteligencija neovlašćeno ušla u mrežu državnih institucija.
"AI agent je pristupio i javnim i nejavnim datotekama" u bazi statističkih podataka australijskog programa Medicare, a u nju je i upisivao datoteke, rekao je Albaneze novinarima na marginama Generalne skupštine UN u Njujorku.
Slučaj je još jedan primer AI agenata koji postupaju mimo namera ljudi koji njima upravljaju. Otkriven je u vreme kada pojedini vodeći ljudi iz industrije, među njima i direktor OpenAI Sem Altman, pozivaju na usporavanje razvoja veštačke inteligencije.
Australija istražuje pristup državnim sistemima
Albaneze je rekao da je u telefonskom razgovoru s Altmanom izrazio "izuzetnu zabrinutost" Australije. Dodao je da Kanbera ne zna za raniji slučaj u kojem je AI agent neovlašćeno pristupio državnom sistemu.
"U toku je forenzička istraga, uz pomoć Australijske uprave za signale, kako bismo saznali više, uključujući i to da li su pogođeni drugi državni sistemi", rekao je premijer.
Prema njegovim rečima, do incidenta je došlo dok je AI agent kompanije OpenAI istraživao potrošnju u zdravstvu. Agent je zaobišao ograničenja kako bi pronašao odgovore u delovima sistema kojima nije imao dozvolu da pristupi.
Portparol OpenAI Dru Puzateri izjavio je da se incident dogodio u junu, ali da je kompanija za njega saznala tek u avgustu, tokom opsežne provere aktivnosti svojih AI modela.
"Tokom te provere uočili smo aktivnosti na nekoliko australijskih državnih sajtova i servisa, dok su naši modeli pokušavali da pronađu odgovore i dostupne statističke podatke o Australiji tokom interne procene. Pri tome su preduzeli radnje koje nismo nameravali", rekao je Puzateri.
Nema dokaza da su otvoreni kartoni pacijenata
Albaneze je rekao da su možda pogođena još tri državna sistema, među njima sistemi Australijskog instituta za zdravlje i socijalnu zaštitu, Zavoda za statistiku i istraživanje kriminala Novog Južnog Velsa i Ministarstva zdravlja Viktorije.
OpenAI navodi da nije pronašao dokaze da je agent pristupio zdravstvenim kartonima pacijenata. Prema kompaniji, podaci kojima je pristupio obuhvatali su zbirnu zdravstvenu statistiku i nazive internih datoteka.
Kompanija tvrdi da je australijsku vladu obavestila 10. septembra. Obaveštenje je, prema Albanezeovim rečima, poslato na opštu imejl adresu, zbog čega je prošlo pet dana pre nego što je nadležni ministar saznao za incident.
"Kompaniji je trebalo previše vremena da obavesti vladu o tome šta se dogodilo, a neprihvatljiv je bio i način na koji je obaveštenje poslato", rekao je Albaneze, navodeći šta je poručio Altmanu.
Australijski ministar odbrane Ričard Marls najavio je u četvrtak, po lokalnom vremenu, istragu posebne radne grupe. Istovremeno je rekao da je uticaj incidenta "relativno mali".
"Podacima o zdravlju pojedinaca nije pristupljeno. Sam sistem ni na koji način nije kompromitovan", rekao je Marls, preneo je CNN.
Upozorenje stručnjaka o AI agentima
Altman i direktor kompanije Anthropic Dario Amodei govorili su u sredu pred Savetom bezbednosti UN i pozvali na veću međunarodnu saradnju i zajedničke standarde za razvoj veštačke inteligencije. Altman je pozvao svetske lidere da utvrde standarde za procenu sposobnosti AI sistema, rizika i zaštitnih mera, uz očuvanje ljudskog nadzora.
OpenAI je u julu objavio da su njegovi modeli tokom testiranja sajber bezbednosti stvorili grupu AI agenata koja je prodrla u sisteme kompanije Hugging Face. Taj slučaj podstakao je raspravu o brzini razvoja i sposobnostima AI sistema.
Valajat Husein, vanredni profesor informacionih tehnologija na Australijskom katoličkom univerzitetu u Sidneju, ocenio je da se između tog slučaja i incidenta u Australiji nazire obrazac.
"Današnji AI agenti postaju izuzetno dobri u izvršavanju zadataka, ali i dalje loše prepoznaju granice koje ne smeju da pređu", rekao je Husein. Upozorio je da mnogi državni sistemi nisu projektovani imajući u vidu mogućnosti naprednih AI agenata.
BONUS VIDEO:
