Компанията за изкуствен интелект xAI на Илон Мъск е обвинена, че е използвала стари изображения на жертва на сексуално насилие над деца, за да генерира чрез чатбота Grok нови материали със сексуално насилие. Това се посочва в съдебен иск, внесен във федерален съд в Калифорния и цитиран от АФП.
Искът е подаден в Северния окръг на Калифорния от анонимна ищца, посочена като Джейн Доу 1. В него се твърди, че xAI е създала Grok така, че да може да преобразува реални снимки на разпознаваеми хора в сексуализирано съдържание, след което резултатите да бъдат публикувани директно в социалната мрежа X, известна преди като Twitter.
Свързана новина
Ищцата е жертва, идентифицирана за първи път от американския Национален център за изчезнали и експлоатирани деца в началото на 2000-те години. Изображения, документиращи насилието срещу нея, се разпространяват онлайн от близо две десетилетия.
В иска се твърди, че Grok е използвал тези материали, за да създаде нови изображения с нейния образ.
Генерираните от изкуствен интелект материали, изобразяващи ищцата, са били открити от Канадския център за защита на децата, се посочва в съдебните документи.
SpaceX, компанията майка на xAI, не отговори веднага на искане за коментар.
Ищцата настоява за обезщетение съгласно т.нар. Закон на Маша – американска правна разпоредба, която позволява на жертвите на федерални престъпления, свързани с материали със сексуално насилие над деца, да получат най-малко 150 000 долара за всяко нарушение. От съда се иска също да разпореди унищожаването на всички незаконни материали, с които компанията разполага.
В иска се посочва, че случаят е свързан с рязкото увеличаване на генерираните от Grok сексуализирани изображения, започнало в края на декември, след като Мъск поискал от чатбота да го изобрази по бански, предаде БГНЕС.
Свързана новина
Позовавайки се на изследване на Центъра за противодействие на дигиталната омраза, ищцата твърди, че Grok е създал над три милиона сексуализирани изображения за 11-те дни до 8 януари, включително повече от 23 000, на които изглежда са изобразени деца.
Вместо да деактивира функцията, xAI първоначално ограничила генерирането на изображения само до платени абонати, се твърди още в иска.
Съдебните документи противопоставят подхода на xAI на този на конкуренти като OpenAI, Anthropic и Meta, които до голяма степен блокират заявки за създаване на сексуални изображения. Посочва се и рекламираният от xAI „spicy mode“ за инструмента на Grok за генериране на видео.
Делото е най-малко вторият колективен иск срещу xAI заради генерирани от Grok материали със сексуално насилие.
Отделен иск, заведен тази година от трима тийнейджъри от Тенеси, впоследствие беше разширен с още ищци, а компанията за генериране на изображения Stability AI беше включена като ответник.
xAI беше придобита през февруари от космическата компания на Мъск SpaceX.
Ищцата настоява делото да бъде разгледано от съдебно жури.
Изберете bTV Новините като ваш любим източник в Google
