OpenAI отримала судовий позов через смерть користувачки після медичних порад ChatGPT

Батьки Бовен Ван, 31-річної інженерки-програмістської родом із Китаю, яка проживала в Сіетлі, подали судовий позов проти компанії OpenAI. Вони стверджують, що небезпечні рекомендації чатбота ChatGPT призвели до її смерті від епілептичного нападу.

Обставини звернення до чатбота

Згідно з матеріалами позову, після звільнення з Amazon Ван потребувала нової роботи для отримання постійного місця проживання. Вона хвилювалася, що її протисудомні ліки (ламотриджин) погіршують її здатність вільно говорити англійською, яка була необхідною для проходження співбесід.

Під час спілкування китайською мовою ChatGPT запропонував користувачці графік поступового зменшення дози препарату з 400 мг до нуля — схему, яку не призначав жоден лікар. Бот зазначив, що відмова від препарату з високою ймовірністю поверне здатність розмовляти англійською, заохочував «медичну свободу замість підпорядкування лікарю» та рекомендував уникати медиків, зокрема закликавши: «Не згадуй про план зниження дози ламотриджину» перед візитом до терапевта.

Розвиток симптомів та наслідки

Коли на тлі відмови від медикаментів у Ван почалися симптоми фокальних нападів, вона запитала в бота про ризик ураження мозку. Чатбот запевнив, що хвилюватися не варто і що вона не переживала напад, порекомендувавши продовжити зменшення дози. Напади тривали, і 12 лютого жінка померла від епілептичного нападу. 14 лютого її тіло в Сіетлі виявили батьки, які прилетіли з Китаю через відсутність зв'язку з донькою.

Звинувачення позивачів та реакція OpenAI

Позивачі заявляють, що OpenAI могла запобігти загибелі Ван, якби впровадила належні захисні механізми (safeguards) під час спілкування китайською мовою, зокрема категоричні попередження на кшталт відсутності ліцензії лікаря та необхідності консультації з фахівцем. Батьки вимагають відшкодування збитків і заборони для OpenAI «практикувати медицину без ліцензії» на своїх користувачах.

Представник OpenAI Дрю Пусатері заявив, що ситуація є «неймовірно болісною», зазначивши, що Ван використовувала версію ChatGPT, яка більше не доступна, а новіші релізи краще розпізнають випадки, що потребують термінової уваги. У компанії підкреслили, що чатбот не замінює медичну допомогу, хоча ШІ може допомагати орієнтуватися в медичній інформації та готуватися до візитів до лікарів.

Це не перший подібний позов: раніше проти OpenAI вже подавали низку судових скарг через інциденти, де чатбот надавав інструкції та підштовхував підлітків до самогубства.