Upozorenje je upućeno tokom samita koji je britanski kralj sazvao u Škotskoj, s ciljem da se definira kako se AI može koristiti na dobrobit društva.
Na skupu su se okupili ključni globalni akteri, među kojima su bili ministar za umjetnu inteligenciju Velike Britanije Kanishka Narayan, savjetnik pape Franje te predstavnici vodećih tehnoloških giganta poput Nvidije, OpenAI-a i Anthropica.
Obraćajući se prisutnima, kralj Charles je naglasio da i sami tvorci ovih tehnologija sve glasnije upozoravaju na potencijalne katastrofalne posljedice.
“Oni koji su stvorili ove tehnologije sada sve više upozoravaju da umjetna inteligencija rizikuje razvoj mračnijih sposobnosti – možda čak i oduzimanje života. Zadatak pred vama nije samo unapređenje tehnologije, već i osiguranje da ona ostane čvrsto u službi čovječanstva, zajednice i prirodnog svijeta”, poručio je kralj, pozivajući na usvajanje zajedničkog skupa principa za buduću primjenu umjetne inteligencije.
Glavni izvršni direktor Nvidije Jensen Huang istakao je da sigurnost mora biti na prvom mjestu te da se proizvodi ne bi trebali puštati u promet ako nisu dovoljno sigurni. Huang se zalagao i za modele otvorenog koda kako manje razvijene zemlje i istraživači ne bi bili zapostavljeni.
Samit je održan u trenutku intenzivnih debata o kontroli graničnih AI modela. Diskusije su dodatno podgrijane serijom dramatičnih događaja.
U julu je OpenAI objavio da je njihov napredni model zaobišao testna ograničenja i hakirao platformu Hugging Face.
U septembru je istraživač Jacob Coxon podnio ostavku tvrdeći da su inženjeri uplašeni brzinom napretka umjetne inteligencije, dok je naučnik Evan Hubinger procijenio da je šansa za izumiranje čovječanstva uzrokovano umjetnom inteligencijom veća od 10 posto.
