От песни и социалните мрежи до най-високо политическо ниво – разговорът за изкуствения интелект се превърна в основна тема на нашето време. Крие ли опасности развитието му и има ли ясна регулация – това е един от големите въпроси.
Всички говорят за ChatGPT. Дори песента на Галена за изкуствения интелект набра популярност в целия свят, като достигна до десетки милиони потребители в платформите.
Освен в социалните мрежи, ИИ се превърна в основна тема за разговор на най-високо ниво – между САЩ и Китай. Двете страни са се договорили и да създадат „Диалог за свръхинтелекта“, в рамките на който ще обменят мнения за рисковете и ползите от развитието на изкуствения интелект.
Решението беше обявено след края на тридневното държавно посещение на китайския президент Си Цзинпин в САЩ.
„Очевидно е, че има такава надпревара, но има и другото – има страх от загубата на власт. Когато изкуственият интелект става все по-самостоятелен, това е движението към свръхинтелект и суперинтелект. Аз не смятам, че можем да стигнем до някакъв суперинтелект, но все пак това е движението, нали? Колкото повече се движи, това означава събирането на огромна икономическа, но и най-вече идейно-идеологическа мощ в хората, които създават и определят правилата, по които работят тези модели, и съответно тези самопровъзгласили се две велики сили. Единствено е ясно, че и едната, и другата не би искала да бъде видяна като силата, която е изпуснала контрола над моделите, които произвежда“, казва Руслан Стефанов от Фондация „Приложни изследвания и комуникации“ (ARC Fund).
След посещението на китайския лидер в Белия дом Тръмп обяви, че САЩ не само няма да възпрепятстват развитието на ИИ, но вече ще го наричат суперинтелект.
„Ще подпиша един изключително силен указ. Говорих с президента Си. Той много я харесва. Защото, когато казвате „изкуствен интелект“, това е изкуствено. Това не е така, това е екстремен интелект. Това е превъзходен интелект. Това е и върховен интелект. Но думата „супер“ е най-добрата дума от всички и е най-простата. И така, ще я наречем S.I. – супер интелект. Не искаме да чуваме „изкуствен“, защото това не е изкуствено“, казва Тръмп.
Според Руслан Стефанов обаче подобен самостоятелен свръхинтелект не може да съществува.
„Президентът Тръмп направи една игра на думи, каза „изкуствено“. Звучи като фейк. Ами не, просто е различен от естественото. Не е ясно, че е фейк, тоест не е наистина интелигентен. И тук, в случая, хората трябва много добре да разбират защо се нарича изкуствен. Той се нарича изкуствен, защото реално интелектът се базира. Той не е човешки интелект, не е естественият процес на мислене. Това са машини, които обработват огромно количество данни по определен начин“, коментира Стефанов.
През месец юни ИИ агент е получил неоторизиран достъп до файлове в държавен здравен портал в Австралия, съобщи правителството на страната.
„Днес разговарях с главния изпълнителен директор на OpenAI, Сам Алтман, за да изразя дълбоката загриженост на Австралия относно този инцидент. Изразих също така разочарованието си от факта, че на компанията ѝ е отнело прекалено много време да информира правителството за случилото се, а начинът, по който е било направено това уведомление, също е неприемлив“, казва премиерът на Австралия Антони Албанезе.
„В момента не разполагаме с ефективни начини за контролиране на ценностите на ИИ. Ясно е, че нашите техники за съгласуване не функционират особено добре и ИИ често се оказват с цели, различни от тези, които би трябвало да имат, и с морални принципи, различни от тези, които би трябвало да спазват. По-конкретно, изглежда, че изобщо не се справяме добре с това да ги направим честни. И така, ако те се окажат на позиции на власт, където вече не са длъжни да ни слушат, светът ще бъде преобразуван според тяхната визия, а това вероятно ще бъде доста лошо за нас. Може би няма да става дума за буквално изчезване, но определено не искам да разбера как би изглеждало това“, казва Даниел Кокотайло, бивш изследовател в OpenAI.
Според експерта понякога, когато му зададеш задача, той може да излезе извън тези правила, за да постигне задачата.
„Но не е имало досега случай, в който сам-самичък интелектът да си реши да прави нови допълнителни неща, без да му е зададена команда“, казва експертът.
Преди дни OpenAI отмени пускането на новия си модел изкуствен интелект от съображения за сигурност.
„Вече всички топ собственици на фирми, включително Бил Гейтс, последно каза, че е застрашено. Хвърлят се едни такива числа, че има 10% вероятност човечеството да загине до 10 години. Бил Гейтс казва, че 1 милиард души могат да загинат по същия начин. И политическите лидери, разбира се, правят. Аз мисля, че това, от една страна, е реално, тоест това е един вик за помощ“, казва експертът.
Според експерта на голямата карта България е изостанала по отношение на политика и регулация на ИИ.
Изберете bTV Новините като ваш любим източник в Google
