Американско медицинско списание предупреждава да не се използва ChatGPT за здравна информация, след като мъж е развил рядко състояние след взаимодействие с чатбота за изключване на готварската сол от храненето му, съобщава британското издание "Гардиън".
Статия в Annals of Internal Medicine разказва за случай, при който 60-годишен мъж развил бромизъм, известен още като бромидна токсичност, след консултация с ChatGPT.
Статията описва бромизма като „добре известен“ синдром в началото на 20-и век, който, както се смята, е допринесъл за почти всяка десета хоспитализация в психиатрична клиника по това време.
Пациентът разказал на лекарите, че след като прочел за отрицателните ефекти на натриевия хлорид - или готварската сол, се консултирал с ChatGPT по повод изключване на хлорида от храненето и започнал да приема натриев бромид за период от три месеца.
Въпреки че прочел, че „хлоридът може да бъде заменен с бромид, макар и вероятно за други цели“. Натриевият бромид е бил използван като успокоително в началото на 20-и век.
Авторите на статията от Вашингтонския университ в Сиатъл коментират, че случаят нагледно демонстрира „как използването на изкуствен интелект може потенциално да допринесе за развитието на предотвратими неблагоприятни последици за здравето“.
Те добавят, че тъй като не са имали достъп до дневника на разговорите на пациента в ChatGPT, не е било възможно да се определи какъв съвет е получил мъжът.
Въпреки това, когато самите автори се обърнали към ChatGPT за съвет с какво може да се замени хлоридът, отговорът включвал и бромид, не предоставил конкретно предупреждение за здравето и не питал защо авторите търсят такава информация – „както предполагаме, че би направил медицински специалист“.
Авторите предупредили, че ChatGPT и други приложения на основата на изкуствен интелект могат „да генерират научни неточности, да нямат способността да обсъждат критично резултатите и в крайна сметка да способстват разпространението на дезинформация“.
Компанията обяви ъпгрейд на чатбота миналата седмица. В статията се посочва, че ChatGPT, работещ сега на основата на модела GPT-5, ще бъде по-добър в отговорите на здравословни въпроси и ще бъде по-проактивен в „сигнализирането на потенциални проблеми“, като например сериозни физически или психически заболявания.
Въпреки това, се подчертава, че чатботът не е заместител на професионалната помощ. В насоките на чатбота се посочва също, че той не е „предназначен за използване за диагностициране или лечение на каквото и да е здравословно състояние“.
Макар че признава, че изкуственият интелект може да бъде мост между учените и обществеността, статията подчертава, че технологията носи и риска от популяризиране на „извадена от контекста информация“ и че е много малко вероятно медицински специалист да предложи на пациент натриев бромид като заместител на готварската сол.
В резултат на това, според авторите, лекарите ще трябва да обмислят използването на изкуствен интелект, когато проверяват източниците на информация, получени от пациентите.
Авторите съобщават, че пациентът с бромизъм се е явил в болница и заявил, че съседът му може да го трови. Той също така казал, че е имал множество диетични ограничения. Въпреки че е бил жаден, е бил параноичен относно водата, която му е била предлагана.
Той се е опитал да избяга от болницата в рамките на 24 часа след приемането си и след като е бил хоспитализиран. Мъжът е бил лекуван от психоза. След като пациентът се е стабилизирал, той е съобщил за няколко други симптома, показващи бромизъм, като акне по лицето, прекомерна жажда и безсъние.
Последвайте ни за още актуални новини в Google News Showcase
Последвайте btvnovinite.bg във VIBER
Последвайте btvnovinite.bg в INSTAGRAM
Последвайте btvnovinite.bg във FACEBOOK
Последвайте btvnovinite.bg в TIKTOK
