Kako je saopćeno, OpenAI će od sada obavještavati roditelje i staratelje s povezanim računima ako je njihovom djetetu ukinut pristup ChatGPT-u zbog kršenja njegovih pravila koja se odnose na prijetnje nasiljem ili činove nasilja na internetu.
Kompanija je prošle godine uvela roditeljske kontrole za ChatGPT, omogućivši roditeljima da povežu svoje lične račune s računima svoje tinejdžerske djece. To im omogućava da odrede periode kada se ChatGPT ne može koristiti, smanje prikaz osjetljivog sadržaja te da budu obaviješteni ako chatbot prepozna znakove da njihovo dijete možda razmišlja o samopovređivanju.
Sada je OpenAI proširio sistem obavještenja kako bi roditelje upozorio i ako njihovo dijete predstavlja moguću opasnost za druge.
U primjeru koji je kompanija objavila, OpenAI je roditelju poslao upozorenje o “važnom ažuriranju” u vezi s računom njegovog djeteta.
Nakon toga, roditelj može kliknuti na opciju “Learn More” kako bi vidio dužu poruku u kojoj se navodi da je račun njegovog djeteta deaktiviran zbog kršenja pravila korištenja koja se odnose na “činove nasilja”.
Kompanija je sarađivala s kompanijom Moonshot specijaliziranom za praćenje i suzbijanje nasilja na internetu, kako bi razvila ovu funkciju.
“Obavještavanje roditelja kada se pojavi ozbiljna zabrinutost, uz mogućnost da dobiju više konteksta, predstavlja ključni prvi korak koji porodicama daje priliku da reaguju na vrijeme i potraže pomoć. Ovakav pristup samo je jedna od brojnih mjera koje će biti potrebne kako bi mladi bili sigurniji tokom korištenja ChatGPT-a”, rekla je osnivačica kompanije Moonshot Vidhya Ramalingam.
OpenAI se obavezao da će dodatno ojačati svoje sigurnosne protokole nakon što je otkriveno da je osumnjičeni za masovnu pucnjavu u Tumbler Ridgeu u Britanskoj Kolumbiji 2025. godine koristio ChatGPT.
Kanadske vlasti pozvale su predstavnike kompanije nakon što su se pojavili izvještaji da OpenAI nije obavijestio nadležne organe kada je zabranio korištenje računa osumnjičenog napadača.
Izvršni direktor OpenAI-ja Sam Altman se i izvinio zbog tog propusta.
Pored uvođenja novog sistema obavještavanja, OpenAI je omogućio i direktno uključivanje režima “Study Mode” putem roditeljskih kontrola. Ovaj režim omogućava ChatGPT-u da daje nagovještaje prije nego što odgovori na pitanja kako bi pomogao učenicima i studentima u učenju.
Osim toga, chatbot će tinejdžerima koji provode duže vrijeme koristeći ChatGPT češće prikazivati podsjetnike da naprave pauzu kako bi razvili zdravije navike u korištenju tehnologije.
