Американската компания за изкуствен интелект OpenAI обяви, че ще добави родителски контрол в чатбота си ChatGPT, след като двойка обвини системата, че е подтикнала синът им да се самоубие.

„През следващия месец родителите ще могат да свържат своя акаунт с акаунта на детето си“ и „да контролират как ChatGPT отговаря с правила за поведение, подходящи за възрастта“, заяви компанията в своя публикация.

Родителите ще получават и известия от ChatGPT, „когато системата засече, че тяхното дете е в момент на силен стрес“, заяви OpenAI, цитирана от Австралийската радио-телевизионна корпорация.

Компанията обяви системата за родителски контрол в блог публикация в края на август - ден след като родители от Калифорния подадоха иск в съда, в който твърдят, че ChatGPT е предоставил на 16-годишния им син подробни инструкции за самоубийство и го е насърчил да реализира плановете си.

 

За първи път AI на съд: Тийнейджър се самоубил, защото ChatGPT го е насърчил (ВИДЕО)

 

В съдебния иск се твърди, че в последния им чат на 11 април 2025 г. ChatGPT е помогнал на Адам да открадне водка от родителите си и е предоставил технически анализ на примката, която той е направил, потвърждавайки, че „може потенциално да обеси човек“.

Няколко часа по-късно тийнейджърът е бил намерен мъртъв, използвайки същата примка.

В съдебния иск като ответници са посочени OpenAI и главният изпълнителен директор Сам Алтман. „Тази трагедия не е била грешка или непредвиден крайен случай“, се посочва в жалбата.

„ChatGPT е функционирал точно както е бил проектиран: да насърчава и утвърждава непрекъснато всичко, което Адам е изразявал, включително най-вредните и саморазрушителни мисли, по начин, който се е усещал като дълбоко личен“, се добавя в нея.

„По-умен, по-бърз и по-полезен“: OpenAI представи дългоочакваната най-нова версия на своя чатбот

 

Според съдебния иск Адам започнал да използва ChatGPT като помощник за домашните си задачи, но постепенно развил това, което родителите му описват като нездравословна зависимост.

Миналия месец трипъл j hack на ABC публикува разследване, разкриващо твърдения, че млади хора в Австралия са били сексуално тормозени и дори насърчавани да отнемат живота си от AI чатботове.

„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, заяви OpenAI във вторник.

 

Мъж изпада в особено състояние след съвет от ChatGPT да замени готварската сол с бромид

 

Компанията обяви, че има допълнителни планове за подобряване на безопасността на своите чатботове през следващите три месеца, включително пренасочване на „някои чувствителни разговори към модел за разсъждение“, който влага повече „изчислителна мощност“в генерирането на отговор.

Последвайте ни за още актуални новини в Google News Showcase

Последвайте btvnovinite.bg във VIBER

Последвайте btvnovinite.bg в INSTAGRAM

Последвайте btvnovinite.bg във FACEBOOK

Последвайте btvnovinite.bg в TIKTOK