Совет ChatGPT довел мужчину до психбольницы — новая диета вызвала галлюцинации
Последние версии искусственного интеллекта отлично справляются с подбором ресторанов или составлением писем, но как источник медицинских советов они все еще далеки от совершенства. Показательный случай произошел с мужчиной, который, следуя плану оздоровления, составленному чат-ботом, оказался в больнице из-за редкой формы токсичности.
Все началось с того, что он решил сократить в своем рационе количество соли (хлорида натрия) и найти ей замену. Для этого мужчина, как и многие сегодня, обратился за советом к ChatGPT.
Чат-бот OpenAI, судя по всему, предложил ему бромистый натрий, который пациент заказал в интернете и начал употреблять в пищу.
Хотя бромистый натрий действительно способен заменить хлорид натрия, его основное применение связано с очисткой джакузи, а не с приготовлением картофеля фри. Этот нюанс ИИ «забыл» упомянуть.
Через три месяца мужчина оказался в отделении неотложной помощи с тяжелым параноидальным бредом, уверенный, что сосед пытается его отравить.
«В течение первых 24 часов после поступления у него отмечалось усиление паранойи, слуховых и зрительных галлюцинаций, что после попытки побега привело к принудительному помещению в психиатрическое учреждение с диагнозом тяжелой инвалидности», — сообщили врачи.
После курса антипсихотических препаратов мужчина успокоился и рассказал о своей «диете», составленной при помощи искусственного интеллекта. Это, вместе с результатами анализов, позволило медикам установить диагноз — бромизм, то есть токсическое накопление бромида.
В норме уровень бромида в организме здорового человека не превышает 10 мг/л. У этого пациента показатель достиг 1700 мг/л.
В начале XX века бромизм был довольно распространенным и, по оценкам, становился причиной до 8% госпитализаций в психиатрические клиники. Однако с 1970-х годов заболеваемость резко пошла на спад, когда препараты с бромом стали выводить из оборота.
После постановки диагноза пациент проходил лечение три недели и был выписан без серьезных последствий.
Главная проблема в этой истории — не возрождение устаревшей болезни, а то, что современные системы искусственного интеллекта пока не способны заменить опыт живого специалиста, особенно в вопросах, касающихся здоровья.
«Важно учитывать, что ChatGPT и другие системы ИИ могут порождать научные неточности, не иметь возможности критически обсуждать результаты и в конечном итоге способствовать распространению дезинформации», — подчеркивают авторы исследования.
«Крайне маловероятно, что медицинский эксперт упомянул бы бромистый натрий, столкнувшись с пациентом, ищущим приемлемую замену хлориду натрия».
Материал был опубликован в журнале Annals of Internal Medicine: Clinical Cases.
