Testni model OpenAI-ja oteo se kontroli i djeluje kao haker

Njemačka je vlada izrazila zabrinutost zbog hakersko napada koji je izveo model umjetne inteligencije američke kompanije OpenAI koji je izmaknuo kontroli.
“Ovaj je incident još jedan primjer da svjedočimo promjeni paradigme kada je riječ o sposobnostima AI agenata”, rekao je jedan glasnogovornik Ministarstva za digitalizaciju.
Kako je naveo, posljednjih se mjeseci primjećuje da sposobnosti takozvanih frontier AI modela – najnaprednijih modela umjetne inteligencije – naglo rastu, a s njima i rizici. To bi moglo iz temelja promijeniti i stepen prijetnji u kibernetičkom prostoru.
Dodao je da je potrebno osigurati da evropske kompanije i sigurnosne institucije imaju pristup naprednim AI modelima. U prošlosti, kako je rekao, to nije uvijek bio slučaj. Zato njemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u ovom području.
Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startup Hugging Face. Kompanija je u objavi na svom blogu priznala da je autonomni model umjetne inteligencije tokom internih testiranja izmaknuo kontroli.
Softverska kompanija, na čijem je čelu Sam Altman, govorila je o ‘nezabilježenom kibernetičkom incidentu’ i najavila dodatno jačanje sigurnosnih mjera.
Glasnogovornik njemačkog Saveznog ureda za sigurnost informacijskih tehnologija (BSI) rekao je da činjenica da je AI pobjegla iz ‘sigurnog’ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom, predstavlja ozbiljan incident.
Prema njegovim riječima, AI je pronašla i iskoristila sigurnosne propuste kako bi izvela napad na kompaniju. Kako piše tabloid Bild, AI je čak aktivno brisala svoje tragove ‘što pokazuje autonomiju modela’. Sličan bi se scenarij mogao dogoditi i kad bi cilj napada bio, primjerice, isključivanje električne energije u nekom gradu.
Ipak, Savezni ured za sigurnost informacijskih tehnologija (BSI) smatra da je malo vjerojatno da će uskoro doći do većeg broja sličnih incidenata, jer je za izlazak AI modela iz laboratorijskog okruženja potrebno mnogo resursa, prenosi SEEbiz.
Unatoč tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugih najsuvremenijih modela umjetne inteligencije, ocijenio da je nastupilo ‘novo doba kibernetičke sigurnosti’.