“Nijedna kompanija ne postupa odgovorno. Jure direktno prema samousavršavajućoj superinteligenciji i kockaju se s našim životima”, napisao je Coxon u nizu objava na platformi X/Twitter.
Coxon je također upozorio da ne treba potcjenjivati moć umjetne inteligencije (AI), navodeći da će uskoro postojati “nadljudski sistemi koji mogu hakovati bilo šta, preko noći revolucionirati bilo koju oblast i steći stvarnu moć i resurse”.
Prema Coxonu, zaposlenici OpenAI-ja još nisu u potpunosti shvatili koliki su ulozi kada je riječ o umjetnoj inteligenciji, dok je Anthropic “zarobljen u utrci da prvi stigne do tog cilja, vjeruju da niko drugi neće postupati odgovorno, pa smatraju da to moraju učiniti sami, uprkos riziku”.
On je pozvao istraživače u laboratorijama za razvoj umjetne inteligencije da budu oprezni tokom narednih nekoliko godina razvoja AI-ja.
Anthropicov stručnjak za usklađivanje AI-ja slaže se da AI predstavlja opasnost za čovječanstvo
U odgovoru na Coxonove objave, Evan Hubinger, vodeći stručnjak za Alignment Science u Anthropicu, rekao je da je Coxon u pravu.
“Zaista iskreno vjerujemo da bi AI mogao pobiti sve ljude! Ja smatram da je vjerovatnoća za to veća od 10 posto u narednoj deceniji. Vjerujem da Anthropic daje sve od sebe, ali još nemamo plan za rješavanje problema usklađivanja superinteligencije s ljudskim vrijednostima i nismo jasno na putu da ga riješimo”, napisao je Hubinger.
