Малко след като стартира свой канал в YouTube, украинска студентка открива, че нейният образ е взет и обработен чрез изкуствен интелект.

Така Олга Лойек получава алтер его, което се разпространява в китайските социални медийни платформи, разказва Ройтерс.

„Около месец след като стартирах канала си в YouTube, започнах да получавам съобщения от хора, които ми казваха, че ме виждат онлайн да говоря мандарин. Те коментираха, че според тях някой е откраднал самоличността ми“, споделя Олга.

Украинската студентка иска да създаде своя аудитория в интернет пространството. Но не и по този начин.

Снимка: Ройтерс

Оказва се, че образът, за който ѝ съобщават – на рускиня с името Наташа, е само един от дигиталните двойници Лойек. С лицето на Олга, която владее китайски език, създадената изкуствено Наташа иска да благодари на Китай за подкрепата, която страната оказва на Русия.

„Видях как лицето ми говори мандарин, на заден план бяха Кремъл и Москва. Сякаш говорех за това колко велики са Русия и Китай. А моят клонинг рекламираше различни руски продукти“, споделя Олга.

Фалшивите акаунти с образа на украинката имат стотици хиляди последователи в Китай, много повече от оригиналния профил на Олга в Youtube.

Снимка: Ройтерс

Според Ройтерс тези проекти са за десетки хиляди долари. Нито един от двойниците на украинката не съществува.

Според експерти този тип видеа са генерирани от изкуствен интелект, като са използвани клипове на истински жени, намерени онлайн, често без тяхното знание.

 

Някои от публикациите дори включват отказ от отговорност, че може да са създадени с помощта на AI.

Снимка: Ройтерс

Аватари като този на Лойек изразяват любовта си към Китай и казват, че искат да се усетят подкрепата им за Русия във войната.

„Китай и Русия са добри съседи. Приятелството на Китай и Русия трае вечно“, казва глас с образа на Олга.

След това тя показва руски бонбони и онлайн връзка, която да се последва, за да се направи поръчка.

Експертите казват, че видеоклиповете, използващи фалшивите аватари, често предлагат продукти на самотни китайци.

Снимка: Ройтерс

„Ако клонингът бъде представен като рускиня, тя ще говори за това как иска да си намери китайски съпруг, да отиде в Китай, да остане да живее там до края на живота си, като създаде семейство, защото „тази страна е толкова страхотна“, посочват анализаторите.

Джим Чай е главен изпълнителен директор на XMOV - компания, която разработва усъвършенствана AI технология. Ройтерс подчертава, че той не е замесен в профилите с образа на украинката.

По думите на Джим Чай технологията, която създава такива дълбоки фалшификати, е „много разпространена“ в Китай.

 

„Например, за да създам свой собствен 2D дигитален човек, просто трябва да заснема 30-минутен видеоклип на себе си. След като го преработя, образът изглежда много реален. Ако променяте езика, единственото нещо, което трябва да коригирате, е синхронизирането на устните. Всъщност единствената технология, използвана тук в AIGC, е за синхронизирането на устните“, посочва Джим Чай.

Историята на Олга Лойек показва рисковете от потенциално незаконните или неетични приложения на изкуствения интелект.

Снимка: Ройтерс

През януари Китай представи проект на насоки за стандартизиране на AI индустрията, като предложи да се формират повече от 50 национални и индустриални стандарти за AI до 2026 г.

В Европа новият Закон за AI на Европейския съюз налага строги задължения за прозрачност на високорисковите системи с AI.

И все пак много правителства по света се борят да наваксат темпото на приложенията с AI.

А някои като Олга Лойек остават хванати по средата.

„Наистина не харесвам факта, че някой може да използва лицето на някой друг и да изрази каквото си поиска с един чужд образ. И наистина не ми харесва, че образът ми може да бъде представен като нещо напълно различно. Аз не съм човек, който не би казал представените в клиповете твърдения и не искам никой да повярва, че бих го направила“, коментира украинката.