Главният учен на OpenAI Якуб Пачоки призова за „изключителна предпазливост“ по отношение на бързото и потенциално неконтролируемо развитие на изкуствения интелект. Той предупреди, че може да се наложат допълнителни мерки, за да се гарантира, че „хората ще продължат да контролират бъдещето“.
„Притеснявам се, че никой не е подготвен за последствията от продължаващото бързо развитие на машинния интелект“, написа Пачоки в публикация в блога на компанията, озаглавена „Извънземен ум“, предаде Би Би Си.
Публикацията му идва само няколко дни след като създателят на ChatGPT представи най-новия си модел GPT-6 Astra, определен от компанията като най-мощния ѝ продукт досега.
OpenAI и други компании в сферата на изкуствения интелект, сред които Anthropic, вече публикуваха доклади за AI агенти, способни да действат автономно и да извършват реални кибератаки срещу други компании.
През юли OpenAI определи като „безпрецедентен“ случай, при който нейни AI агенти – системи, способни да работят самостоятелно след задаване на инструкции от човек – са проникнали в технологичната платформа Hugging Face.
Междувременно доклад от септември твърди, че месеци по-рано AI агенти на компанията са успели да превземат и германски уебсайт.
„Изправени сме пред преход към свят с невероятно интелигентни машини и трябва да гарантираме, че този преход ще се развие добре за човечеството“, пише Пачоки.
Той подчертава, че OpenAI ще продължи да разработва „защитни системи“ и да търси технически решения за т.нар. подравняване на изкуствения интелект – процесът, чрез който действията и целите на AI системите трябва да бъдат съобразени с човешките намерения и установените мерки за безопасност.
Сред основните приоритети на компанията занапред ще бъде създаването на „автоматизиран изследовател на изкуствения интелект“, който да може да следи темпото на развитие на технологията. Пачоки обаче подчертава необходимостта човешките изследователи да останат част от този процес.
Според професор Джина Неф, ръководител на Центъра за технологии и демокрация „Миндеру“ към университета в Кеймбридж, подобен подход не е достатъчен.
„Вместо по-добри предпазни мерки, регулации или гаранции за безопасността на хората, свързани с изкуствения интелект, те предлагат разработването на вътрешни AI агенти, които да изследват тези проблеми“, коментира тя.
По думите ѝ подобна реакция на нарастващите опасения около киберсигурността, загубата на работни места, грешките, пропуските и измамите, свързани с AI моделите на OpenAI, „просто не е достатъчно добра“.
Нейтън Калвин, главен юрисконсулт на застъпническата организация Encode AI, заяви, че споделя опасенията на Пачоки относно рисковете при разработването на все по-усъвършенствани модели на изкуствен интелект.
Той обаче критикува OpenAI за липсата на достатъчна прозрачност и предупреди, че без повече информация предупрежденията на компанията могат да бъдат възприети като „просто егоистична реклама“.
„Ако Якуб и други от OpenAI искат хората в индустрията за изкуствен интелект да работят заедно с тях, едно от най-важните неща, които могат да направят, е да споделят много повече информация за това, което виждат и което ги кара да призовават за предпазливост“, написа той в X.
Какви мерки за безопасност при изкуствения интелект съществуват?
Глобалните регулации трудно успяват да се справят с бързото развитие на изкуствения интелект.
Законът на Европейския съюз за изкуствения интелект влезе в сила на 2 август. Той изисква от големите AI компании като OpenAI да докажат, че най-мощните им модели не могат автономно да извършват кибератаки или да заобикалят човешкия контрол, преди да получат разрешение да ги предлагат на европейския пазар.
Тъй като обаче действието на закона е ограничено до територията на ЕС, той не може да предотврати разработването на опасни AI системи извън Европа, които впоследствие могат да представляват заплаха за континента.
В публикацията си Пачоки призова за законово или международно установени минимални стандарти за безопасност. Според него спазването им може да бъде контролирано от „мрежа от външни одитори“ или от „правителствени агенции“.
AI лабораториите трябва да отговарят на тези минимални изисквания, преди да им бъде позволено да продължат да разширяват капацитета си или да внедряват все по-усъвършенствани модели, смята той.
Пачоки също така заяви, че се надява „доброволното забавяне“ – самоналожена пауза от страна на компаниите в разработването на изкуствения интелект – да се превърне в обичайна практика, докато не бъдат въведени общи стандарти за безопасност.
През август OpenAI съобщи, че е забавила обучението на някои от най-напредналите си AI модели, за да подобри мерките за сигурност.
Изберете bTV Новините като ваш любим източник в Google
