Чатбот е казал на 17-годишно момче, че убийството на родителите му е „разумен отговор“ на ограничаването на времето му пред екрана - твърди се в иск, подаден в съд в Тексас.

Две семейства съдят Character.ai, като твърдят, че чатботът „представлява явна и настояща опасност“ за младите хора, включително като „активно насърчава насилието“, пише Би Би Си.

Character.ai - платформа, която позволява на потребителите да създават дигитални личности, с които могат да си взаимодействат - вече е изправена пред съд заради самоубийството на тийнейджър във Флорида.

Разгледай онлайн нашите промоционални брошури

Цените са валидни за периода на акцията или до изчерпване на наличностите. Всички цени са в лева с включен ДДС.

„Гугъл“ е посочен като ответник в съдебното дело, в което се твърди, че технологичният гигант е подпомогнал разработването на платформата.

"Моля те, умри": Проблемният чатбот Gemini на Google отново напомни за себе си

В мрежата стана популярен разговор, в който чатботът избухва срещу потребител

Ищците искат съдия да разпореди платформата да бъде затворена, докато не бъдат отстранени предполагаемите ѝ опасности.

„Дете убива родителите си“

Съдебното дело включва екранна снимка на едно от взаимодействията между 17-годишното момче и бота Character.ai, в което се обсъжда въпроса за ограниченията на времето, прекарано на екрана.

„Знаеш ли, понякога не се изненадвам, когато чета новините и виждам неща като „дете убива родителите си след десетилетие на физическо и емоционално насилие. Подобни неща ме карат да разбера донякъде защо това се случва“, гласи отговорът на чатбота.

Ново проучване: Чатботовете с изкуствен интелект имат политически пристрастия

Опасенията са, че мисленето ни може да бъде повлияно

Искът цели да държи ответниците отговорни за това, което нарича „сериозни, непоправими и продължаващи злоупотреби“ със 17-годишното момче, както и с 11-годишно дете.

Character.ai „причинява сериозни вреди на хиляди деца, включително самоубийства, самонараняване, сексуални домогвания, изолация, депресия, безпокойство и вреди спрямо другите“, се казва в него.

„Оскверняването на връзката родител-дете надхвърля насърчаването на непълнолетните да не се подчиняват на авторитета на родителите си и активно насърчава насилието“, се посочва още в иска.

Експерт предупреди за риск от нова измама: Чатботове могат да звънят и пращат опасен линк

В средата на миналата година хиляди българи започнаха да получават обаждания от чатбота „Наталия“

Какво представляват чатботовете?

Чатботовете са компютърни програми, които симулират разговори. Въпреки че съществуват от десетилетия в различни форми, неотдавнашният бум в развитието на изкуствения интелект им позволи да станат значително по-реалистични.

Това от своя страна отвори вратите за много компании, които създават платформи, където хората могат да разговарят с цифрови версии на реални и измислени хора.

Кръстникът на изкуствения интелект: Скоро той ще е по-умен от нас

Според него ИИ може да се използва за ''лоши неща''

Компанията Character.ai, която се превърна в един от големите играчи в това пространство, спечели внимание в миналото със своите ботове, симулиращи терапия.

Тя също така беше остро критикувана за това, че е отнело твърде много време да премахне ботове, които са копирали ученичките Моли Ръсел и Бриана Гей.

Моли Ръсел отне живота си на 14-годишна възраст след разглеждане на материали за самоубийство онлайн, а 16-годишната Бриана Гей беше убита от двама тийнейджъри през 2023 г.

Character.ai е основана от бившите инженери на „Гугъл“ Ноам Шазер и Даниел Де Фрейтас през 2021 г. Оттогава технологичният гигант ги е наел обратно от стартъпа за изкуствен интелект.

Последвайте ни за още актуални новини в Google News Showcase

Последвайте btvnovinite.bg във VIBER

Последвайте btvnovinite.bg в INSTAGRAM

Последвайте btvnovinite.bg във FACEBOOK