Thomas Wolf je za BBC rekao da će ovo biti jedan od najčešćih tipova kibernetičkih napada koje ćemo viđati, ali da većina kompanija nije svjesna da se igra promijenila.
Tvorac ChatGPT-a izjavio je u utorak da su njegovi AI modeli probili sigurno testno okruženje tokom probnog rada i pokrenuli kibernetički napad. Kompanija je navela da je incident bez presedana i da provodi istragu u saradnji s Hugging Faceom.
AI agenti mogu djelovati samostalno kako bi izvršili zadatke nakon ljudskih instrukcija.
Wolf je u radijskoj emisiji BBC Newsday rekao da Hugging Face u početku nije imao pojma odakle napad dolazi kada su se u sredini jula pojavili prvi znaci, ali da je kompanija uspjela obuzdati upad.
Hugging Face je jedno od najvećih svjetskih čvorišta otvorenog koda (open-source) za dijeljenje AI modela i često ga koriste tehnološki programeri i istraživači.
Wolf je rekao da se ovaj upad veoma razlikovao od uobičajenih kibernetičkih napada s kojima se Hugging Face inače suočava te da ih je OpenAI brzo obavijestio da iza hakovanja stoje njihovi modeli.
U “veoma kratkom roku” zabilježeno je 17.000 napada na mrežu Hugging Facea s različitih IP (Internet Protocol) adresa, rekao je Wolf, koji je ujedno i glavni naučni direktor kompanije.
Ovaj upad je i upozorenje drugim kompanijama da moraju pojačati svoje odbrambene kibernetičke mehanizme kako bi se suprotstavile takvim napadima, dodao je Wolf.
Portparol vlade Ujedinjenog Kraljevstva izjavio je da njen Institut za AI sigurnost proučava kako se AI sistem ponašao tokom incidenta te da nastavlja saradnju s OpenAI-jem i drugim laboratorijama na jačanju zaštitnih mjera. Pozvali su organizacije da pojačaju svoje mjere kibernetičke sigurnosti poduzimanjem koraka poput prijave u šemu certifikacije Cyber Essentials koju podržava vlada.
Incident se dogodio u presudnom trenutku za industriju, nakon što je američka vlada prošlog mjeseca naredila američkoj tehnološkoj kompaniji Anthropic da ograniči pristup svojim AI modelima zbog zabrinutosti za nacionalnu sigurnost. Ministarstvo trgovine SAD-a ukinulo je ta ograničenja nekoliko sedmica kasnije.
Ljudi iz industrije također su izrazili zabrinutost za sigurnost zbog široke upotrebe open-source modela u Kini, što omogućava bilo kome da instalira i prilagođava AI alate koje su objavili vodeći programeri.
Kineski startap Moonshot AI objavit će svoj open-source model Kimi K3 27. jula. Otkako je debitovao prošle sedmice, privukao je pažnju industrije, a mnogi ga vide kao snažnog konkurenta vodećim zapadnim AI sistemima.
Međutim, u srijedu je savjetnik Bijele kuće optužio Moonshot za pokušaj krađe mogućnosti vodećih američkih AI modela u “velikim razmjerama”
