С момента, когда нейросети стали пользоваться огромной популярностью у массовой аудитории, ChatGPT какую только роль на себя не примерил: к нему обращались и за психологической помощью, и за составлением программы тренировок для наращивания мышц, и даже за медицинской консультацией. В некоторых случаях он даже оказывался прав, но всего одна ошибка может привести к катастрофе.
Реальный случай: ChatGPT довел американца до психоза
Если вдруг вы почувствуете себя неважно, лучше обратитесь к врачу или, в крайнем случае, достаньте с антресолей старые бабушкины медицинские энциклопедии вместо обращения к высокотехнологичным решениям. Недавний случай показал, что они могут довести и до больницы.
Unsplash
Кто бы что ни говорил, нейросети никогда не заменят человека.
Как нейросети довели человека до психического расстройства
5 августа 2025 года ученые из Вашингтонского университета описали уникальный случай, зафиксированный в одной из местных больниц. 60-летний мужчина, не имевший в прошлом проблем с психикой и физическим здоровьем, обратился в отделение неотложной помощи с просьбой взять у него всевозможные анализы, поскольку он считает, что сосед его травит.
При физикальном обследовании медики не выявили ничего подозрительного, кроме того, что пациент испытывал сильную жажду и, как говорится в отчете, «был параноиком в отношении предложенной ему воды».
Сильное обезвоживание действительно может привести к бреду, галлюцинациям и прочим психическим проблемам, однако здесь случай был крайне тяжелым — источник проблем оказался глубже.
После внутривенного введения воды и электролитов врачам удалось оставить паранойю и поговорить с пациентом: оказалось, что, помимо отказа от воды, мужчина еще и придерживался крайне ограничительной вегетарианской диеты — у него выявлен множественный дефицит микроэлементов. На лице американца постоянно появлялись все новые огромные прыщи и гемангиомы, он начал страдать от бессонницы и даже испытывать симптомы атаксии (нарушение равновесия, проблемы с речью и глотанием).
Незадолго до появления этого состояния пациент решил всерьез задуматься об уменьшении количества поваренной соли в своем рационе, поскольку немало исследований демонстрировали губительное влияние хлорида натрия на организм. И поэтому мужчина ничего более умного не придумал, как спросить у ChatGPT, чем можно заменить хлорид. Именно хлорид, не хлорид натрия целиком. На что нейросеть ему выкатила ответ с рекомендацией попробовать бромид натрия.
На протяжении трех месяцев 60-летний пациент добавлял в свои блюда бромид натрия вместо обычной соли, и получил сильный токсикоз.
У недавнего пациента уровень бромидов в организме составил 1700 мг/л — это в 233 раза выше нормы для здоровых людей. К счастью, спустя три недели после отказа от хлоридзаменяющего вещества его состояние улучшилось.
Тем не менее, слушать нейросеть в вопросах здоровья (и не только) — себе дороже, полагаться на нее точно не стоит.