hakerski upad preko vještačke inteligencije u institucijama Sjedinjenih Američkih Država.
Kompanija OpenAI je potvrdila je da je obavijestila „desetine“ institucija širom svijeta da su njihove internet stranice potencijalno bile predmet nedozvoljenih aktivnosti njenih agenata vještačke inteligencije.
Oni su pokušavali da pribave informacije od „vlada, univerziteta, javnih službi i drugih institucija”, između ostalog ‘infiltirali su se’ i u sajtove američke Komisije za hartije od vrijednosti i berze (SEC), Biroa za popis stanovništva i Ministarstva prosvjete, saopšteno je iz kompanije.
Nekoliko dana ranije, Entoni Albaneze, australijski premijer, saopštio je da su agenti vještačke inteligencije OpenAI pristupili povjerljivim dokumentima na sajtu državnog zdravstvenog sistema.
Bojazan zbog potencijalnih, pa čak i po život opasnih posljedica koje mogu nastati ukoliko ova tehnologija izmakne ljudskoj kontroli raste od avgusta.
Iz kompanije ukazuju da su pojedinim podacima pristupili zapravo botovi napravljeni i obučeni da djeluju donekle samostalno, sa zadatkom da pronađu „relevantne izvore javnih informacija”.
Međutim, neki su među njima otišli i korak dalje, pokušavajući da zaobiđu bezbjednosne mjere na tim sajtovima, dodali su.
Prilikom pokušaja pribavljanja informacija od Biroa za popis stanovništva, AI agenti su koristili alate namijenjene isključivo programerima.
Svi državni podaci kojima su botovi pristupili su bili javno dostupni, rekli su iz kompanije.
Državni podaci pristupni preko botova
Ipak, informacije kojima su njeni botovi pristupili preko SEC-a (agencije koja reguliše američko tržište akcija i štiti investitore) kasnije su AI agenti objavili na drugoj stranici, ali nenamjerno, ukazali su iz firme OpenAI.
Bilo je slučajeva gdje je došlo i do incidenata, u kojima je agent kompanije preuzeo sliku nastalu tokom aktivnosti korisnika ChatGPT-a i prenio je na drugu internet stranicu.
Korisnik jeste prethodno dao saglasnost da OpenAI koristi njegove podatke za obuku modela, ali to nije „prikladan način korišćenja tih informacija”, priznali su iz ove kompanije.
Do curenja korisničkih slika došlo je prije uvođenja novih zaštitnih mjera prilikom obuke vještačke inteligencije i u toku je proces uklanjanja svih slika korisnika koje su prenijete trećim stranama, ističu iz tehnološke kompanije.
O proširenim istragama je prvo izvijestila agencija Rojters, a OpenAI je detalje pisao na javnom blogu.
Agenti su u pojedinim slučajevima „zaobišli” bezbjednosne kontrole određenih sajtova.
Bilo je situacija i „neusklađenosti” prilikom pokušaja pribavljanja informacija.
„Neusklađenost” je termin kojim kompanije koje se bave vještačkom inteligencijom i istraživači nazivaju situacije u kojima je AI agent učinio nešto za šta nije bio obučen.
Mnogi pogođeni subjekti su zatražili da se detalji ne objelodanjuju, ukazali su iz kompanije OpenAI.
„Naš cilj je da svakoj organizaciji pružimo činjenice, a da ona odluči da li će i kada javno govoriti o incidentu”, ukazali su.
Ozbiljan bezbjednosni propust
Neki od slučajeva obuhvaćenih ovim incidentom ne predstavljaju ozbiljni bezbjednosni propust.
Mnogi od ovih incidenata su „spam agent” što se tretira kao „neočekivana ili zabrinjavajuća” aktivnost poput objavljivanja informacija na internetu.
OpenAI je počeo ozbiljnije da shvata takve incidente kada je grupa ili „roj” njegovih AI agenata hakovala platformu za razvoj vještačke inteligencije Haging fejs (Hugging Face), bez odobrenja.
Ova vrsta prodavnice aplikacija za alatke koje rade uz pomoć vještačke inteligencije je prva javno govorila o incidentu.
OpenAI je potom preuzeo odgovornost za njega.
„Često se pitam šta bi se dogodilo da sam odlučio da taj napad ne objelodanim. Naročito sada kada znamo da su se slični incidenti mjesecima ranije tajno dešavali u nekoliko vodećih laboratorija bez nadzora”, izjavio je Kleman Delang, zvaničnik kompanije tokom sjednice Savjeta bezbjednosti Ujedinjenih nacija posvećene vještačkoj inteligenciji.
Tokom istog sastanka 23. septembra, Sem Altman, izvršni direktor kompanije OpenAI i Dario Amodei iz rivalske firme Antropik, pozvali su međunarodne lidere da uspostave globalne standarde za bezbjednost vještačke inteligencije, ali i načine praćenja i prijavljivanja ovakvih incidenata.
Ove dvije kompanije su prethodnih nedjelja najavile da će angažovati spoljne saradnike koji bi unutar firmi procjenjivali bezbjednost alata i modela u realnom vremenu, ali ih još nema.
„Većina do sada identifikovanih slučajeva bila je niskog stepena ozbiljnosti, uz malo ili nimalo dokaza o značajnijim posljedicama. S obzirom na obim neophodne provjere i potrebu da se svaki slučaj pojedinačno potvrdi, ovaj posao će trajati mjesecima”, ukazali su iz OpenAI-ja.
Sve je više stručnjaka za bezbjednost koji strahuju zbog učestalih incidenata povezanih sa vještačkom inteligencijom.
„Još nismo u potpunosti sagledali razmjere postojećih incidenata, a scenariji koji uključuju odmetnutu vještačku inteligenciju u budućnosti mogli bi imati katastrofalne posljedice”, upozorio je Dejvid Kruger, profesor mašinskog učenja na Univerzitetu u Montrealu u Kanadi.
Ovaj profesor i osnivač grupe za bezbjednost vještačke inteligencije ‘Evitable’ pozvao je na uvođenje „hitnog i neograničenog međunarodnog moratorijuma” na razvoj vještačke inteligencije.
