Човечеството може да изчезне до 2100 г. вследствие на злонамерено използване на изкуствен интелект или ядрен конфликт, показва нова глобална оценка на рисковете.
Двете заплахи са сред общо 17 основни опасности за човешкото здраве през следващите 75 години, идентифицирани от Комисията на научното списание The Lancet за глобалните заплахи за здравето през XXI век. Сред тях са още климатичната криза, недохранването сред децата и намаляването на международната помощ от богатите държави, предаде The Guardian.
Изследването е изготвено от 35 експерти от различни области, които са използвали данни от проучването „Глобална тежест на заболяванията“ на Института за здравни показатели и оценки. Те са моделирали колко години живот в добро здраве могат да бъдат загубени вследствие на заболявания, увреждания или преждевременна смърт, ако настоящите тенденции се запазят.
Според заключенията на комисията тези заплахи могат да доведат до загубата на десетки милиарди години живот в добро здраве до края на века. Експертите обаче подчертават, че съществуват реалистични възможности за ограничаване на рисковете.
„Поразителното откритие е не само мащабът на тези заплахи, но и фактът, че човечеството все още има възможност да действа“, заяви д-р Кристофър Мъри, съпредседател на комисията и директор на Института за здравни показатели и оценки към Вашингтонския университет.
Изкуственият интелект и ядрената война могат да доведат до изчезване на човечеството
„Злонамереното използване на изкуствен интелект, включително за създаване на биологични оръжия, както и ядреният конфликт, водещ до ядрен глад, носят риск от изчезване на човечеството през следващите 75 години“, се посочва в доклада.
Авторите уточняват, че вероятността тези сценарии да се осъществят остава ниска, но последствията биха могли да бъдат катастрофални. При ядрена война в горните слоеве на атмосферата могат да попаднат огромни количества частици, които да блокират слънчевата светлина и да предизвикат масов глад. Друг възможен сценарий е използването на биологични оръжия, създадени с помощта на изкуствен интелект.
Според оценката злонамереното използване на изкуствен интелект може да доведе до загубата на около 10,4 милиарда години живот в добро здраве в световен мащаб до 2100 г. Този мащаб е съпоставим с прогнозите за други рискове, включително пандемиите с естествен произход и затлъстяването, съобщи Си Ен Ен.
Експертите обаче подчертават, че оценките за изкуствения интелект остават теоретични, тъй като досега не е имало случай на злонамерено използване на технологията с действително глобален мащаб. Освен това специалистите, изготвящи прогнози, показват големи разминавания в оценките си за вероятността от подобна катастрофа.
„Има около 50% вероятност всички да загинем“
Предупрежденията за опасностите от изкуствения интелект идват на фона на напускането на експерти от водещи технологични компании, които изразяват опасения за начина, по който се разработва технологията.
Дейвид Робинсън, който е ръководил изготвянето на докладите за безопасност при пускането на нови продукти на OpenAI, напусна компанията с остри критики към вътрешната ѝ култура. Той обясни решението си в есе със заглавие „Напуснах OpenAI, защото културата ѝ е разрушена“.
„Съгласен съм с други служители, напуснали наскоро, че компаниите, които разработват тази технология, далеч не са достатъчно предпазливи. Но смятам, че трябва да погледнем отвъд конкретните правила или новите закони. Трябва да говорим за културата“, пише Робинсън в списание The Atlantic.
Той посочва като пример атаката срещу стартъпа Hugging Face, извършена от „рояк“ агенти на OpenAI - програми с изкуствен интелект, които действат самостоятелно, без човешки надзор. Според него подобни инциденти са типични за индустрията заради скоростта, с която се развиват технологиите.
За опасностите предупреди и Джефри Ървинг, бивш служител на OpenAI и бивш главен научен директор на британския Институт за безопасност на изкуствения интелект.
„Последните предупреждения за потенциалната разрушителна сила на изкуствения интелект подценяват сериозността на ситуацията. Смятам, че има около 50% вероятност всички да загинем заради разработването на системи с изкуствен интелект, които са по-интелигентни от хората, и че действията ни през следващите две до десет години ще определят изхода“, заяви той пред списание Time.
Подобни опасения изрази и Джейкъб Коксън, изследовател в Anthropic, който напусна компанията миналия месец. Според него изкуственият интелект „може да ни убие всички до края на десетилетието“. Друг служител на Anthropic предупреди, че вероятността технологията да унищожи човечеството през следващото десетилетие надхвърля 10%.
Критиците на тези предупреждения обаче посочват, че подобни оценки са „ненаучни“, тъй като не могат да бъдат нито проверени, нито опровергани.
Изберете bTV Новините като ваш любим източник в Google
