Европейският съюз постигна споразумение за забрана на системи с изкуствен интелект, които създават порнографски deepfake изображения без съгласие.
Решението идва след международното възмущение по-рано тази година заради такива изображения, генерирани от чатбота Grok на Илон Мъск.
„Днес ЕС постави червена линия. Изкуственият интелект никога не трябва да бъде използван за унижаване, експлоатация или застрашаване на хора. За първи път европейското законодателство изрично забранява приложенията за създаване на фалшива голота“, заяви пред АФП центристкият евродепутат Майкъл Макнамара, цитиран от .
Новата забрана ще бъде включена в промените към правилата на ЕС за изкуствения интелект, приети през 2024 г.
Преговарящите от Европейския парламент и държавите членки се договориха също да отложат прилагането на правилата за високорискови системи с изкуствен интелект. Те засягат модели, които могат да представляват опасност за сигурността, здравето или основните права на гражданите.
Първоначално правилата трябваше да влязат в сила през август 2026 г. за самостоятелните AI системи и година по-късно за инструменти с изкуствен интелект, вградени в други продукти. Сега сроковете се изместват съответно за декември 2027 г. и август 2028 г.
Европейската комисия предложи промените миналата година с аргумента, че те ще облекчат бизнеса и няма да спъват иновациите. Брюксел обаче настоява, че ще продължи да насочва безопасното развитие на технологията чрез други разпоредби в Акта за изкуствения интелект.
Мощните AI модели отново са под засилен контрол в ЕС през последните седмици, след като американската компания Anthropic ограничи достъпа до Mythos. Самата компания се опасява, че моделът може да бъде използван от хакери.
Европейската комисия е провела няколко срещи с Anthropic, но досега не е получила достъп до модела. Това може да се промени по-късно тази година.
„След като правомощията на Службата за изкуствен интелект започнат да действат през август 2026 г., ще гарантираме, че при необходимост ще получим достъп до модела“, заяви говорител на ЕС.
Службата за изкуствен интелект, в която работят технологични експерти, юристи и икономисти, ще има „уникален достъп до вътрешните практики на доставчиците за безопасност и сигурност“, добави говорителят.
Евродепутати предупредиха за „нарастваща заплаха за европейската киберсигурност“ и заявиха, че блокът е „слабо подготвен“ да се справи с напреднали AI инструменти като Mythos.
Тридесет евродепутати от различни политически групи призоваха ЕС да преразгледа правилата си за киберсигурност в писмо до Европейската комисия.
