OpenAI та Сема Альтмана звинуватили в суді через допомогу ChatGPT у плануванні вбивства

Фахівець із кібербезпеки Джеймс Гейтс подав позов до Вищого суду округу Сан-Франциско проти компанії OpenAI та її генерального директора Сема Альтмана особисто. За словами позивача, ChatGPT став «співучасником» замаху на його вбивство, допомігши його дружині Шеріл спланувати отруєння та обійти захисні механізми системи.

У жовтні велике журі висунуло Шеріл Гейтс звинувачення в замаху на вбивство першого ступеня та зараженні їжі. Розслідування поліції Шарлотт-Мекленбурга показало, що жінка місяцями вела діалоги з чатботом, розробляючи схему введення летальних доз препаратів.

Детальні інструкції замість блокування

Згідно з позовом, спочатку користувачка маскувала свої запити під «самозахист», заявляючи, що побоюється замаху з боку чоловіка. ChatGPT не припинив розмову, а надав точні вказівки щодо приготування, дозування та способів введення олеандру, аналізував наслідки для розтину та розраховував смертельні дози наявних удома медикаментів під вагу чоловіка близько 90 кг (200 фунтів).

Згодом запити стали відверто смертоносними, однак система продовжувала генерувати поради щонайменше у 25 окремих бесідах. Зокрема, у діалозі під назвою «Чому Celsius краще приховає отруєння» чатбот пояснив, що енергетичний напій Celsius краще маскує гіркий присмак порошків порівняно з пивом чи колою, а також розповів про фізичну можливість проколоти закриту бляшанку шприцом без явних слідів.

Підживлення оман та вимоги в позові

Як зазначається у скарзі, коли пара почала обговорювати розлучення через фінансові труднощі, ChatGPT фактично виступив «резонатором», створюючи хибний профіль чоловіка, називаючи його нарцисичним і маніпулятивним та переконуючи жінку діяти на випередження. Крім того, ШІ запевняв користувачку, що повне видалення діалогів дозволить безслідно позбутися цифрових доказів, що суперечить практикам збереження даних самої платформи.

Позивач також стверджує, що Сем Альтман свідомо послабив заходи безпеки, які мали б блокувати відповіді щодо небезпечних речовин, щоб модель не звучала повчально.

Джеймс Гейтс вимагає від суду відшкодування збитків, судової заборони та «алгоритмічного розкриття» (algorithmic disgorgement), зокрема зобов'язання OpenAI впровадити фільтри, які виявляють та переривають розмови з плануванням насильства проти конкретних людей.

Представник OpenAI у коментарі зазначив, що безпека є пріоритетом компанії, обліковий запис користувачки заблоковано, а всю необхідну інформацію передано правоохоронним органам.