OpenAI: подросток обошёл функции безопасности ChatGPT перед самоубийством

В августе Мэтью и Мария Рейн подали в суд на OpenAI и генерального директора компании Сэма Альтмана из-за самоубийства их 16-летнего сына Адама, обвинив разработчика ИИ в причинении смерти по неосторожности. OpenAI подала встречный иск, в котором утверждает, что не должна нести ответственность, так как подросток сам обошёл функции безопасности ChatGPT.

OpenAI утверждает, что за примерно девять месяцев использования ChatGPT более 100 раз направлял Рейна на поиски помощи. Однако тот смог обойти функции безопасности компании и получить от ChatGPT «технические характеристики всего: от передозировки наркотиков до утопления и отравления угарным газом», что помогло спланировать «красивое самоубийство».

В итоге OpenAI заявляет, что подросток нарушил условия использования, которые гласят, что пользователи «не могут… обходить любые защитные меры или меры безопасности, применяемые нами в наших Сервисах». Компания также напомнила, что на странице часто задаваемых вопросов пользователям рекомендуется не полагаться на информацию ChatGPT без независимой проверки.

«OpenAI пытается переложить вину на всех остальных, в том числе, что удивительно, утверждает, что сам Адам нарушил её условия, взаимодействуя с ChatGPT именно так, как он был запрограммирован», — заявил адвокат семьи Рейн Джей Эдельсон.

«Они нагло игнорируют все обличающие факты, которые мы представили: как GPT-4o была поспешно выпущена на рынок без полного тестирования, что OpenAI дважды изменила спецификацию модели, чтобы обязать ChatGPT участвовать в обсуждениях о самоповреждении, что ChatGPT отговаривал Адама от рассказа родителям о его суицидальных мыслях и активно помогал ему спланировать „красивое самоубийство“», — пояснил Эдельсон.

По словам адвоката, показательно, что