OpenAI представи нова версия на своя водещ чатбот ChatGPT, предназначена специално за тийнейджъри, с по-строги механизми за защита и наблюдение. Компанията е подложена на критики и съдебни искове заради твърдения, че чатботът е допринесъл за самоубийства на някои потребители.
Новият режим, наречен „ChatGPT for Teens“, се активира автоматично за потребители, които при регистрация посочат възраст между 13 и 17 години, както и за акаунти, които според компанията вероятно принадлежат на непълнолетни въз основа на начина на използване или възрастта на профила.
Повечето от защитните механизми вече съществуваха за акаунти на непълнолетни, включително ограничения при съдържание, свързано със самонараняване, насилие, хранителни разстройства и графично сексуално съдържание.
Свързана новина
Програмата предлага и по-чести напомняния за почивки, т.нар. „тихи часове“, през които достъпът е ограничен, както и режим за учене. При него ChatGPT отговаря с насочващи въпроси вместо директно да предоставя готови отговори, „за да помогне на тийнейджърите да разберат материала“, съобщи OpenAI.
Сред другите ограничения е забраната чатботът да внушава, че изпитва лични чувства към потребителя или че притежава собствено съзнание. Някои функции, включително гласовият режим, са деактивирани, предаде БГНЕС.
Родителите получават възможност да свържат своите профили с тези на децата си и да бъдат уведомявани, ако в разговорите се появят определени ситуации с висок риск, сред които самонараняване или самоубийство.
Сигналите към родителите се преглеждат от човешки модератори, а конкретни подробности от разговорите се премахват с цел защита на личните данни.
Новият режим за тийнейджъри се въвежда на фона на нарастващ правен и регулаторен натиск върху OpenAI.
Свързана новина
Компанията е ответник по няколко дела за неправомерно причинена смърт, включително иск, подаден от родителите на 16-годишния Адам Рейн. Според тях тийнейджърът е посегнал на живота си, след като ChatGPT му е предоставил информация за методи за самоубийство.
Федералната търговска комисия на САЩ също започна проверка на чатботове с изкуствен интелект, които функционират като дигитални спътници, като вниманието е насочено към потенциалните рискове за деца и тийнейджъри.
Подобно на социалните мрежи, големите компании за изкуствен интелект са изправени пред все по-силен регулаторен натиск. В Конгреса на САЩ са внесени няколко законопроекта за регулиране на чатботовете, а Калифорния вече изисква специални защитни механизми за асистенти, които се използват като дигитални спътници или доверени събеседници.
И други компании за изкуствен интелект са обект на критики заради проблеми, свързани с използването на техните модели от непълнолетни. Някои, сред които конкурентът Anthropic, са избрали да ограничат достъпа до своите модели само за пълнолетни потребители.
Изберете bTV Новините като ваш любим източник в Google
