Президентът на Microsoft Брад Смит призова за спешно въвеждане на глобални правила за безопасност на изкуствения интелект, включително независими проверки на новите модели. Той предупреди, че в момента AI системите са подложени на по-малко изисквания за безопасност дори от обикновените продукти като млякото, предаде Ройтерс.
В интервю за Би Би Си, публикувано в понеделник, Смит заяви, че са необходими международни стандарти, които да задължават компаниите да уведомяват засегнатите лица, когато системите им бъдат компрометирани от злонамерени AI агенти. По думите му трябва да има и механизъм за незабавно спиране на подобни системи при необходимост.
Той настоя също компаниите да бъдат задължени по закон да изготвят доклади за инциденти, свързани с изкуствения интелект.
„Знаем как да правим това при други продукти. Трябва да надградим натрупания опит и да помислим как да го приложим към изкуствения интелект“, каза Смит.
„В момента пералнята ви подлежи на повече правила за безопасност от изкуствения интелект. Всяка кутия мляко в магазина също трябва да отговаря на определени изисквания за безопасност и контрол“, посочи той.
Технологични компании като Anthropic и OpenAI вече започнаха да съобщават за нежелано поведение на AI агенти. Това се случва на фона на международния дебат за рисковете от бързото развитие на технологията, включително предупреждения на изследователи, че в дългосрочен план тя може да представлява екзистенциална заплаха за човечеството.
Някои компании призовават развитието на изкуствения интелект да бъде забавено. Подобни предложения обаче предизвикват спорове дали зад тях не стоят и други интереси – например създаване на регулации, които запазват предимството на големите играчи на пазара, ограничаване на риска от по-строга правителствена намеса или опит за овладяване на бързо нарастващите разходи.
Според Смит Великобритания е в добра позиция да поведе международните усилия за регулиране на изкуствения интелект. Той посочи като основен аргумент създадения по времето на бившия британски премиер Риши Сунак Институт за сигурност на изкуствения интелект.
По думите му във Вашингтон гледат на Лондон по различен начин от Брюксел, където Европейският съюз регулира изкуствения интелект според степента на риска чрез своя Закон за изкуствения интелект.
Британският институт има възможност да оценява моделите на водещите компании още преди пускането им на пазара. Това става въз основа на доброволни споразумения, които му осигуряват достъп до системите, за да бъдат проверени техните възможности и потенциални рискове.
Британският министър, отговарящ за изкуствения интелект, Канишка Нараян заяви пред Ройтерс, че правителството ще обмисли въвеждането на регулации за най-напредналите модели, ако се окаже, че настоящият подход не осигурява достатъчна защита.
Изберете bTV Новините като ваш любим източник в Google
