Жена пыталась отравить мужа по советам ChatGPT

[XenBaza]

Житель Северной Каролины Джеймс Гейтс подал в суд на OpenAI и CEO стартапа Сэма Альтмана, утверждая, что чат-бот компании помогал его жене Шерил спланировать его отравление.

Гейтс рассказывает, что у них была «нормальная жизнь», но разногласия появились в начале прошлого года, когда Джеймс попросил жену вернуться на работу, так как денег стало не хватать. На этом фоне пара стала ссориться, начались разговоры о разводе, в августе они стали жить раздельно.

Однажды Шерил заехала забрать вещи и забыла на столе блокнот. Когда Джеймс взял его, из него выпал листок, на котором был подробный план его убийства.

Тогда Гейтс понял, что его внезапная болезнь за месяц до отъезда жены, возможно, была неслучайной, и обратился в полицию. В ходе обыска у Шерил нашли шприцы, весы, пипетки, лекарства, а в ее чатах была пошаговая подготовка преступления.

Оказалось, Шерил много месяцев переписывалась с GPT-4o и рассказывала боту, что муж - абьюзер и, возможно, пытается ее отравить. Бот подтвердил ее опасения и спокойно выдавал советы по ядам - подбирал дозировки по весу (причем по весу мужа), подсказывал, где анонимно купить касторовые бобы для рицина, и объяснял, как скрыть улики.

Но Джеймс не сохранил напитки, в которые Шерил якобы подмешивала яд, и не обращался к врачам, поэтому следов отравления зафиксировать не удалось. Прокуратура признала, что Шерил тщательно готовилась, но доказать само покушение не смогла. Обвинения сняли.

Теперь Джеймс хочет добиться компенсации от OpenAI и заставить компанию внедрить защитные механизмы, которые бы прерывали разговоры, касающиеся насилия против конкретного человека.

«Мы ничем не отличаемся от любой другой семьи. Если это могло случиться с нами, это может случиться с кем угодно», - объясняет Гейтс.

OpenAI в комментарии журналистам обтекаемо назвала безопасность своим приоритетом. Аккаунт Шерил был заблокирован, а полиции предоставили всю информацию, сообщила компания.