Трендът „облечи я в бикини“ в AI инструмента Grok предизвика истински фурор. Масово потребители започнаха да манипулират снимки на жени без тяхно съгласие. Само за дни заявките към изкуствения интелект ескалираха от сравнително „безобидни“ промени до крайно унизително и насилствено съдържание, включително изображения с насилие и такива, засягащи деца.

Една от жертвите – 22-годишната фотографка Иви – открива, че нейни снимки, на които е напълно облечена са били преработени от Grok така, че да изглежда по бикини. След като споделя случая, за да предупреди за опасностите, срещу нея започва още по-тежка вълна от злоупотреби и все по-екстремни фалшиви изображения.

„Туитът просто избухна“, казва тя. „Оттогава са направени още толкова много изображения с мен и всяко следващо е по-лошо от предишното. Хората видяха, че това ме разстройва, и продължиха още повече. Има изображение, на което съм напълно гола, с едва една връв около кръста, друго – с топка в устата и извърнати очи. Фактът, че тези неща могат да бъдат генерирани, е безумен“, споделя жената.

Писал си на Grok? Чатът ви може да е станал публичен

Според анализ на в-к Guardian, в пика на скандала към чатбота са отправяни хиляди подобни искания на час. Съдържанието става все по-деградиращо – с расистки символи, сексуално насилие и дори манипулирани образи на реални жертви на убийства. Част от изображенията могат да се определят като материали със сексуално насилие над деца, но въпреки това остават видими онлайн.

Исканията стават все по-екстремни. Някои потребители настояват да се добавят синини, кръв по жени, както и да генерират сцени с вързани и запушени усти. Чатботът изпълнява тези заявки незабавно. До четвъртък Grok вече е използван за добавяне на рани от куршум по лицето на Рене Никол Гуд - жената, убита от агент на ICE в САЩ.

Първите подобни искания към Grok се появяват в началото на декември. До края на месеца броят им експлодира, достигайки близо 200 000 заявки на 2 януари, според анализ на Peryton Intelligence.

Реакцията на платформата и на Elon Musk идва със закъснение. Едва след дни обществен натиск X ограничава частично функцията за генериране на изображения, като я прави достъпна основно за платени потребители – ход, който засегнатите жени определят като половинчата и вероятно финансово мотивирана мярка.

Френски министри докладват за сексуално съдържание от чатбота Grok

Случаят разкри сериозни пропуски в регулацията на AI технологиите и трудностите на правителствата да реагират навреме. Във Великобритания регулаторът Ofcom започна проверка, а ЕС, САЩ и Индия поискаха обяснения и действия. Въпреки това много от жертвите казват, че щетите вече са нанесени – чувството за унижение и нарушено лично пространство остава, а доверието в способността на платформите да защитят потребителите е сериозно разклатено.

Последвайте ни за още актуални новини в Google News Showcase

Последвайте btvnovinite.bg във VIBER

Последвайте btvnovinite.bg в INSTAGRAM

Последвайте btvnovinite.bg във FACEBOOK

Последвайте btvnovinite.bg в TIKTOK