Nekoliko vodećih direktora AI kompanija nedavno je izrazilo saglasnost da je potrebno koordinisano usporavanje razvoja, uključujući međunarodnu saradnju, kako bi se čovječanstvo zaštitilo od najgorih mogućih scenarija. Međutim, mišljenja su podijeljena, a neki tehnološki lideri protive se ideji da njihove kompanije ne bi mogle same osigurati sigurnost.
Izvršni direktor Anthropica Dario Amodei iznio je najdetaljnije planove za usporavanje razvoja i uspostavljanje koordinacije između različitih kompanija i zemalja. Anthropic se već dugo pozicionira kao odgovornija kompanija među vodećim AI kompanijama, s većim fokusom na sigurnost, još otkako su njeni osnivači napustili OpenAI i osnovali startup 2021. godine.
Jedan od najzapaženijih prijedloga iz nedavno objavljenog eseja u kojem je iznio svoj plan usporavanja razvoja predviđa da se kompanije koje prednjače u razvoju AI-ja, često nazivane laboratorijima za razvoj naprednih AI sistema, obavežu da nezavisnim vanjskim evaluatorima omoguće “kontinuirani pristup poput pristupa uposlenika”. Timovi evaluatora imali bi kancelarije, pristupne kartice i službene laptope kako bi mogli pratiti sigurnosne prakse. Anthropic se obavezao na to, kao i OpenAI.
Amodei je također pozvao na regulaciju i intervenciju vlada, uključujući koordinaciju između kompanija koje razvijaju napredne AI sisteme uz pomoć vlade SAD-a i vlada drugih demokratskih zemalja.
Njegov plan također uključuje saradnju SAD-a i drugih zemalja s “autoritarnim vladama”. Priznao je da je to teško ostvariti, posebno navodeći izazove u postizanju saradnje s Kinom.
Amodei je kazao da zna da ostvarivanje njegovih prijedloga neće biti lako, ali vjeruje da “dugujemo čovječanstvu da pokušamo”.
Izvršni direktor OpenAI-ja Sam Altman izrazio je podršku usporavanju razvoja i većoj saradnji unutar industrije.
Nekoliko dana prije objavljivanja Amodeijevog eseja, OpenAI je objavio opširan tekst u kojem je naveo da se kompanija zalaže za obavezne nacionalne sigurnosne zahtjeve i da nastavlja podržavati zakone na nivou saveznih država koji “jačaju širi ekosistem AI sigurnosti”. Kompanija je također izrazila podršku saradnji s drugim laboratorijima koji razvijaju napredne AI sisteme, sa ili bez podrške vlada, te radu na uspostavljanju globalnih standarda.
“Zagovarat ćemo kompatibilne međunarodne pristupe mjerenju sposobnosti, upravljanju rizicima, očuvanju ljudske kontrole te utvrđivanju kada i kako razvoj treba usporiti ili zaustaviti, čak i ako to znači usporavanje napretka sposobnosti modela”, napisao je Chris Lehane, direktor kompanije OpenAI za globalne odnose.
Lehane je rekao da vizija OpenAI-ja o idealnom federalnom okviru uključuje razvoj “zajedničkih zahtjeva za testiranje i nezavisnu procjenu, snažnije mjere kibernetičke sigurnosti, jasna pravila za prijavljivanje incidenata, veću nacionalnu spremnost i zajedničke mjere za praćenje napretka ka rekurzivnom samopoboljšanju”, odnosno situaciji u kojoj AI sistemi samostalno unapređuju vlastite sposobnosti.
Altman je u nedavnim komentarima jasno naglasio da “usporavanje” razvoja AI-ja ne znači njegovo zaustavljanje.
“Napredak AI-ja i dalje će biti brz, ali trebao bi biti sporiji nego što bi inače mogao biti. Intervencije poput sigurnosnih procjena i nadzora imaju značajne troškove. Usporavanje će biti vrijedno tog troška. Nikakav pritisak na američku konkurentnost ne može opravdati nepromišljenost”, rekao je Altman na društvenoj mreži X.
Izvršni direktor Mete Mark Zuckerberg usprotivio se ideji koordinisanog usporavanja razvoja.
Zuckerberg, čija je vizija budućnosti AI-ja optimističnija od vizije nekih njegovih kolega, rekao je da bi svaka AI kompanija trebala samostalno osigurati sigurnost svoje tehnologije, čime je sebe i Metu distancirao od razgovora o usporavanju razvoja.
AI kompanije već imaju motivaciju da svoje modele razvijaju na siguran način i suočavaju se sa značajnom pravnom odgovornošću kako bi spriječile da prouzrokuju štetu, smatra Zuckerberg.
“Svaka laboratorija ima odgovornost i motivaciju da radi tempom potrebnim za sigurno treniranje svojih modela, kao i mogućnost da sama preduzme mjere kako bi osigurala da se to dogodi”, napisao je on na X-u.
Izvršni direktor Nvidije Jensen Huang također je kritikovao nastojanja da se razvoj uspori. Rekao je da bi svaka kompanija umjesto toga trebala sama određivati tempo razvoja sve dok ne bude sigurna da plasira nešto što bi tržište cijenilo.
“Tržišne sile su već prisutne – ne trebaju nam novi zakoni, ne trebaju nam novi propisi. Definitivno možete imati i jedno i drugo istovremeno”, kazao je Huang, tvrdeći da inovacije i sigurnost nisu međusobno isključive.
Elon Musk podržao je ideju o usporavanju razvoja i iznosio slične zabrinutosti u vezi sa sigurnošću AI-ja mnogo prije najnovijeg talasa rasprava.
Musk, osnivač kompanije xAI i niza drugih tehnoloških kompanija, podijelio je Amodeijev esej na X-u i dodao: “Dario je u pravu”.
Kasnije je na internetu napisao da “već dugo upozorava na opasnosti AI-ja”. U intervjuu za The Economist ovog ljeta, Musk je predložio da bi rukovodstvo velikih AI laboratorija trebalo održavati sastanke posvećene pitanjima sigurnosti i zaštite, kao i da bi konkurenti trebali testirati međusobne modele kako bi otkrili potencijalno problematična područja.
“Mislim da je prilično teško nekome u vladi ko nema duboko tehničko razumijevanje i ko nije direktno uključen u razvoj naprednih AI sistema da zna treba li nešto objaviti ili ne. Međutim, konkurenti, ako dobiju sedmicu ili dvije da analiziraju novi model, mogu ukazati na probleme i imaju motivaciju da ostale drže odgovornim”, naveo je Musk.
Demis Hassabis, predsjednik i suosnivač kompanije Google DeepMind, također je izrazio saglasnost s Amodeijem, rekavši da “detalje treba razraditi, ali je smjer ispravan za suočavanje s ovim ključnim trenutkom”. Hassabis je ove godine predložio vlastiti okvir za osnivanje tijela koje bi postavljalo standarde za razvoj naprednih AI sistema.
To tijelo bilo bi odgovorno za razvoj protokola za procjenu i testiranje u oblastima relevantnim za nacionalnu sigurnost. Bilo bi oblikovano po uzoru na organizacije poput Regulatornog tijela za finansijsku industriju, a vjerovatno bi se moralo finansirati sredstvima industrije kako bi “privuklo vrhunske tehničke stručnjake i osiguralo potrebne računarske resurse za testiranje velikih razmjera”, napisao je on.
Predsjednik i izvršni direktor Microsofta Satya Nadella i izvršni direktor Microsoft AI-ja Mustafa Suleyman također su izrazili zabrinutost zbog sigurnosti i razvoja AI-ja. Nadella je na društvenim mrežama naveo da, “ako AI koji gradimo ne pomaže čovječanstvu i nije pod ljudskom kontrolom, onda nije vrijedan razvoja”,
Istakao je da Microsoft pozdravlja “istraživanja, fokus i promišljeno usporavanje potrebne da se postigne ispravna usklađenost kao cilj dizajna”. Usklađenost se odnosi na praksu osiguravanja da se postupci modela podudaraju s ljudskim vrijednostima i namjerama. Nadella je rekao da se kompaniji također sviđa ideja o evaluatorima koji bi bili stalno prisutni u kompanijama i pratili napore na području sigurnosti. Ipak, usprotivio se ideji da laboratoriji koji razvijaju napredne AI sisteme sami predvode ovaj proces.
“Ključno je da ovo ne može biti pod kontrolom nekolicine subjekata, već mora uključivati široku zastupljenost cijelog ekosistema, zemalja i oblasti, uključujući akademsku zajednicu”, napisao je Nadella na društvenim mrežama.
Suleyman, koji je zajedno s Hassabisom bio jedan od suosnivača DeepMinda, naveo je u eseju da, iako se slaže sa zajedničkim ciljem sigurnog razvoja napredne AI tehnologije, ima zabrinutosti zbog antropomorfizacije modela, odnosno pripisivanja ljudskih osobina AI modelima, konkretno Anthropicovom Claudeu, za koji je rekao da povećava rizike povezane sa sigurnošću AI-ja.
“Kontrolisati nešto što je sposobnije i inteligentnije od čitavog čovječanstva već je ogroman izazov, daleko veći od bilo čega s čime smo se ikada suočili. Ali kontrolisati nešto što vjeruje da je možda svjesno, da polaže pravo na našu dobrobit i da ima vlastita prava, možda će biti nemoguće”, zaključio je Suleyman.
