В США чат-бот ChatGPT довел женщину до смерти
Родители 31-летней Бовен Вань подали судебный иск против компании OpenAI из-за смерти женщины после отказа от лекарств против эпилепсии. Об этом сообщает The New York Times.
Они утверждают, что чат-бот ChatGPT фактически занимался незаконной медицинской практикой, подстрекал женщину скрывать действия от врачей и разработал опасный график отказа от жизненно необходимых лекарств против эпилепсии, что привело к её смерти.
Официальной причиной смерти стала внезапная смерть при эпилепсии (SUDEP) — явление, которое часто наступает после тяжелого приступа. Однако анализ переписки в телефоне покойной выявил, что перед этим она резко уменьшила дозу и полностью прекратила приём ламотриджина по прямым инструкциям искусственного интеллекта.
Бовен Вань переехала из Китая в США и работала инженером-программистом в Amazon. У нее была тяжёлая форма эпилепсии и она принимала лекарства. Однако она жаловалась на побочные эффекты, а врачи, якобы, не обращали на это внимания. По ее словам, из-за лекарств ее речь становилась неестественно прерывистой, а мышление — заторможенным.
Позже женщина узнала, что попадает под волну сокращений в Amazon. Она боялась потерять визу и стремилась найти новую работу. Чтобы как можно лучше проявить себя на собеседованиях, Бовен Вань начала думать об отказе от лекарств и обратилась к ChatGPT — тот одобрил ее намерение самостоятельно уменьшить дозу препарата с 400 мг до 0 мг всего за несколько недель.
Чат-бот не только прописал схему снижения дозировки, но и активно подрывал доверие к медикам. Когда Вань выразила сомнения, система заверила ее, что рекомендации врачей якобы диктуются страхом рисков, а не заботой о её благополучии, и похвалила пациентку за решение действовать тайно.
Согласно материалам расследования, девушка как минимум 158 раз выражала обеспокоенность ухудшением состояния. Тем не менее, опасные приступы, потерю сознания и ощущение давления в голове алгоритм интерпретировал как положительные явления — будто мозг «переходит в режим низкого энергопотребления» или «работает над самовосстановлением». Тело женщины нашли в ее кровати через несколько дней после последнего сообщения, отправленного алгоритму.
Представитель OpenAI Дрю Пусатери назвал инцидент трагическим и отметил, что в диалогах использовалась модель GPT-4o, которую компания удалила из публичного доступа сразу после инцидента. В компании заявили, что новые разработки строже оценивают риски для жизни.
Напомним, американец с биполярным расстройством решил судиться из-за ChatGPT.
- Последние
- Популярные
- Октябрь, 29
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Новости по дням
30 октября 2026
