Изкуствен интелект, който се използва за „избистряне“ на снимки с лошо качество показа вградени расови предразсъдъци, след като направи бившия американски президент Барак Обама бял. Това илюстрира дълбоко вкоренените склонности при изработката и работата с изкуствен интелект, пише „Уайърд“.

Как работи?

Използваният софтуер носи името „ПУЛС“ и използва техника на мащабиране, за да подобрява качеството на изображения. Визуално изглежда като добре познатите ефекти от Холивуд на „приближаване и избистряне“, но работи по коренно различен начин.

За да превърне една пикселизирана снимка в такава с високо качество, алгоритъмът използва изкуствен интелект, за да „запълни празнините“ в информацията. При подаване на начален кадър с лошо качество, изчислителните му процеси създават изцяло ново лице, което – ако бъде пикселизирано, изглежда като оригиналния подаден кадър.

„ПУЛС“ използва технология на NVidia с името StyleGAN, която е добре позната в технологичния свят. Същите алгоритми се използват от сайтове като ThisPersonDoesNotExist.com, който генерира снимки на несъществуващи хора.

„ПУЛС“ използва тази технология, за да си „представя“ как биха изглеждали хората на пикселизираните снимки.

Заложени расови предразсъдъци?

Експериментът със снимка на Барак Обама не е единственият, който дава подобен резултат.

В „Туитър“ програмист публикува резултатите от своя собствена снимка, такава на съпругата си и една на американския конгресмен Александа Окасио-Кортез.

Той повтаря това и със снимка на актрисата от азиатски произход Луси Лиу.

На примерите ясно се вижда как и в четирите случая алгоритъмът превръща пикселизираната снимка в образ по-близък до този на човек с европеидни бели черти.

Създателите на „ПУЛС“ признаха, че получените резултати по-често водят до снимки на хора с европеидни черти и бял цвят на кожата.

„Този предразсъдък на „ПУЛС“ може да се дължи на първоначалните данни, заложени в StyleGAN, върху които е трениран алгоритъмът. Може и да има друга причина, за която не знаем“, пише един от създателите.

Това е често срещан проблем в света на изкуствения интелект и лицевото разпознаване. Повечето такива алгоритми се тестват върху информация за конкретна демографска група – най-често бели мъже. И когато програмата попадне на снимка на човек с различен цвят на кожата или жена, тя не може да се справи толкова добре.

Според ученият Дебора Раджи, която изследва изкуствен интелект, това се дължи на социалното неравенство. „Съществуването на хора с различен цвят на кожата и тяхното неприлагане към подобни данни показа липсата на разнообразие сред хората, които строят подобни системи“, казва тя и посочва, че технологичният свят масово е доминиран от бели мъже.

Случаят със снимката на Барак Обама илюстрира проблеми с предразсъдъците, които излизaт извън използваните данни и алгоритми, казва още тя.