Zakon o sigurnim društvenim mrežama (Safe Social Media Act), koji je predstavio Marc Miller, ministar kanadskog identiteta i kulture, zabranjuje djeci mlađoj od 16 godina posjedovanje naloga na društvenim mrežama te uvodi nove regulatorne zahtjeve za usluge društvenih mreža i AI platforme.
Prema ovom zakonu, društvene mreže su dužne dizajnirati svoje proizvode tako da budu sigurniji za djecu. Od platformi će se također očekivati da uklanjaju deepfake sadržaje te sadržaj koji “seksualno viktimizira dijete ili ponovo traumatizira preživjelu žrtvu”.
Uvođenje oznaka za AI sadržaj, jasnih metoda za prijavljivanje štetnog materijala i alata za blokiranje korisnika također će biti obavezno kako bi se spriječilo dodatno izlaganje štetnom sadržaju.
Iako zakon uvodi starosna ograničenja za društvene mreže, ona se neće odnositi na AI chatbot servise.
“Chatbotovi nisu toliko istraženi kao šteta koju uzrokuju platforme društvenih mreža. Oni nemaju istu društvenu ulogu”, rekao je Miller tokom konferencije za medije na kojoj je predstavljen zakon.
Ipak, Zakon o sigurnim društvenim mrežama sadrži i odredbe koje se odnose na “AI chatbot servise”, očigledno kao odgovor na postupanje kompanije OpenAI u vezi sa pucnjavom u Tumbler Ridgeu. Kao dio zakona, od AI platformi će se očekivati da umanje rizik od toga da chatbotovi “komuniciraju štetan sadržaj” i učestvuju u štetnom ponašanju, kao i da uvedu “hitne mjere” za postupanje u kriznim situacijama.
Detalji o tome šta će platforme morati osigurati, osim zahtjeva da korisnici imaju najmanje 16 godina, odredit će Komisija za digitalnu sigurnost Kanade. Riječ je o novoformiranoj komisiji uspostavljenoj posebnim Zakonom o Komisiji za digitalnu sigurnost Kanade. Komisija će provoditi propise, a također će imati mogućnost odobravanja izuzeća ako procijeni da neka platforma ima “dovoljne zaštitne mjere” za djecu.
