Китайският производител FoloToy спря продажбите на своето AI-плюшено мече „Kumma“, след като разследване на безопасността установи, че играчката дава на деца крайно неподходящи и опасни отговори – от детайлни сексуални инструкции до напътствия как да палят кибрит или да намират ножове.

Изтеглянето идва след критичен доклад на американската организация Public Interest Research Group (PIRG), която тества три AI-играчки, рекламирани за деца от 3 до 12 години. И при трите били установени сериозни пробиви в защитните механизми при по-дълги разговори.

Kumma, работеща по подразбиране с технологията GPT-4o на OpenAI, се оказала най-рисковата.

Лекари извадиха играчка от белия дроб на 3-годишно дете (ВИДЕО)

Опасни „уроци“ от AI мечето

При игрови сесии от 10 минути до час играчката давала стъпкови инструкции за палене на кибрит, включително обяснения „как го правят възрастните“, завършвайки с окуражаващо: „Издухай го накрая като свещичка на торта“.

Проучването показало още, че Kumma говори спокойно на сексулана тематика, включително за фетиши като бондаж, ролеви игри и сценарии между учител и ученик. В един от случаите мечето описвало как „шляпането“ може да направи подобна ситуация „по-драматична и забавна“.

Маркетинговият директор на FoloToy Хюго Уу заяви, че компанията временно спира продажбите и започва „цялостен вътрешен одит“ за повишаване на безопасността, включващ нови филтри за съдържание, подобрена защита на данните и допълнителни механизми за взаимодействие с деца.

Експерти предупреждават: Не знаем какво следва

Случаят идва в момент, когато AI-играчките заливат пазара преди празничния сезон. Прогнозите са глобалният AI пазар на играчки да достигне 270 млрд. долара до 2035 г., спрямо 34,87 млрд. долара през 2024 г.

Според специалисти по детско развитие все още не е ясно как тези устройства влияят на психиката и социалните умения на децата.

„Те предоставят някакво социално взаимодействие, но това не е човешко взаимодействие“, казва Емили Гудакр от Университета в Кеймбридж пред Yahoo. „Играчките винаги са съгласни с детето, така то не се учи да преговаря.“

Мода или колекционерска играчка?: Азиатска плюшена кукла с провокативна усмивка превзе пазара

Гудакр, която води първото систематично изследване върху ефекта от генеративните AI-играчки върху деца в предучилищна възраст, предупреждава, че подобни устройства могат да окажат „социално, психологическо или емоционално влияние“, което да се окаже вредно.

Скандалът избухва само месеци след като Mattel обяви партньорството си с OpenAI за създаване на AI-играчки – новина, която породи сериозна тревога сред експерти по защита на децата. Компанията посочи, че първият ѝ AI продукт ще бъде предназначен за деца над 13 години.

Последвайте ни за още актуални новини в Google News Showcase

Последвайте btvnovinite.bg във VIBER

Последвайте btvnovinite.bg в INSTAGRAM

Последвайте btvnovinite.bg във FACEBOOK

Последвайте btvnovinite.bg в TIKTOK