Порнографски снимки на Тейлър Суифт, създадени от изкуствен интелект, се разпространяват онлайн.

Последва вълна от недоволство от нейни фенове, както и призиви за спешни мерки за регулация на ИИ.

„Провери фактите“: Дийпфейк технологиите – между фалшивото и реалното

Какво се случи?

През изминалата седмица фалшивите голи снимки на Тейлър Суифт обиколиха платформата Х (бившият Туитър). Феновете на известната певица бързо се мобилизириха и започнаха офанзива с хаштаг #ProtectTaylorSwift. Идеята – буквално да наводнят социалната мрежа с нейни истински снимки.

Започна се и организирана кампания по докладване на профилите, от които се появяваха фалшивите снимки на Суифт.

„Неотличими“: САЩ стартират 24-часовa телевизия с водещи и журналисти, генерирани изцяло от AI

Организацията за засичане и следене на дийпфейк видеоклипове и снимки Reality Defender обяви, че е засекла огромни количества порнографски материали с образа на Тейлър Суифт, най-вече в Х. Някои от снимките стигнаха и до Фейсбук. „За жалост те стигнаха до милиони потребители преди някой да се заеме да ги свали“, каза шефът на организацията Мейсън Алън.

Снимка: Getty Images

След разследване бяха открити над дузина вариации на Тейлър Суифт. На някои от кадрите тя е напълно гола и в порнографска ситуация. На други певицата е окървавена – жертва на побой.

Тейлър Суифт е гола, Ружа Игнатова има бебе: Как да разпознаем дийпфейк

„Ако Суифт реши да предяви съдебни претенции заради разпространението на тези фалшиви кадри, това може да се превърне в много ключово дело“, коментира Британи Спанос, която е редактор в списание Rolling Stone и води курс по Тейлър Суифт в университета в Ню Йорк. Тя ще получи и огромна подкрепа от феновете си, които се мобилизират много бързо в подобни ситуации.

Мегадело: New York Times съди OpenAI и Microsoft за нарушени авторски права

Дийпфейк порнографията с Тейлър Суифт е вероятно да доведе до дело. През 2017 г. певицата осъди радио водещ, за който се твърди, че я е обарвал по време на гостуване. Тогава Суифт получи един долар обезщетение – сума, която нейният адвокат нарече „това е символичен един долар – стойността на случилото се е неизмерима за всички жени в подобни ситуации“.

Как реагираха технологичните компании?

От Асошиейтед прес са се свързали с ръководството на социалната мрежа.

„Екипите ни работят по премахването на всички идентифицирани изображения. Предприети са и стъпки към профилите, които ги разпространяват. Следим ситуацията“, коментираха от Х.

Съчетанието на думите Taylor Swift, Taylor Swift AI и Taylor AI са временно ограничени в Х, съобщиха още от компанията.

Снимка: Getty Images

От Meta, компанията собственик на Фейсбук“, също коментираха случилото се. „Продължаваме да следим нашите социални платформи и ще предприемем нужното ако тези изображения се появят“, каза техен представител.

Според анализите фалшивите кадри са създадени от програми с ИИ, като най-разпространените са Stable Diffusion, Midhourney и DALL-E на OpenAI (компанията, собственик на ChatGPT).

И изкуственият интелект има халюцинации

От OpenAI коментираха, че техният алгоритъм има защити, които предотвратяват създаването на подобни изображения на публични фигури, сред които и Тейлър Суифт.

От компанията Microsoft също коментираха, че е започнало разследване дали техният алгоритъм не е отговорен за създаването на тези изображения.

Midjourney и Stable Diffusion все още не са коментирали случилото се.

Излезе новата песен на

Борбата с дийпфейк порнографията

Случилото се с Тейлър Суифт може да бъде повратна точка в развитието на ИИ и дийпфейк изображенията, както и тяхната регулация. В Съединените щати вече се говори за сериозно ограничение на създаването на подобни изображения, особено тези в порнографския спектър.

 

Появата на дийпфейк изображения през последните години нараства експоненциално, след като алгоритмите с изкуствен интелект станаха масово достъпни. За сравнение през 2019 г. CountDetector.AI са засекли 14 678 дийпфейк видеоклипа онлайн, докато през 2023 г. тази бройка е достигнала 95 820.

Снимка: Getty Images

С дийпфейк масово се създава порнография – 96% от фалшивото съдържание е порнографското, а жертвите са 100% жени. Сайтовете с подобно съдържание са най-разпространени в Съединените щати и Южна Корея.

Порнографското съдържание се концентрира предимно върху известни личности – 99% от всички изображения са с известни актриси и певици.

Случилото се с Тейлър Суифт предизвика коментари и в американския Конгрес.

Тъмната страна на изкуствения интелект: Педофили създават изображения с деца, разкри Би Би Си

„Разпространението на порнографски изображения, генерирани от ИИ, може да причини необратими емоционални, финансови и репутационни щети на жертвите. За жалост – това са масово жени“, коментира демократът Джо Морел.

„Това, което се случи с Тейлър Суифт не е нещо ново. Жените са жертви на тези технологии от години, а с напредъка на ИИ създаването на дийпфейк става все по-лесно и евтино“, коментира също демократът Ивет Кларк.

Стотици жертви на „дийп фейк“: Снимките ви олицетворяват спомени, но за други те са информация

„Очевидно е, че тези технологии се развиват много бързо. Независимо дали жертвата е Тейлър Суифт или някоя друга млада жена, трябва да създадем необходимата законодателна рамка, за да прекъснем този тренд“, коментира конгресменът Том Кийн.

Снимка: Getty Images

По-големият проблем

Отново според статистиката на ContentDetector.AI по-големият проблем се крие на друго място – в световен мащаб 71% от хората нямат представа какво е дийпфейк. Въпреки това 57% твърдят, че могат да ги разпознаят.

Масово дийпфейк видеоклипове, както и клонирани гласове, се използват с цел финансови измами. Един от известните примери е на базирана във Великобритания енергийна фирма, която преведе 243 000 долара на фалшива сметка, след като им беше наредено да го направят с клониран глас на изпълнителния директор.