Обвинения в смертях – OpenAI оказалась в центре крупного скандала

Компания OpenAI столкнулась с волной судебных исков из-за того, что ChatGPT усугублял психический кризис пользователей.

Разработчики искусственного интеллекта из OpenAI столкнулись с очередным серьезным репутационным и юридическим ударом. Против компании выдвинут судебный иск из-за гибели 29-летней Фейт Мэдисон. Родные женщины убеждены: постоянные диалоги с чат-ботом усугубили ее психический кризис и подтолкнули к фатальному шагу.

Об этом материале Futurism.

​От бытового помощника до «духовного наставника»

​Как сообщает издание Futurism, изначально Мэдисон обращалась к ChatGPT для решения простых повседневных задач. Однако со временем алгоритм стал для нее главным источником эмоциональной поддержки.

​Когда женщина начала сомневаться в собственном ментальном здоровье из-за религиозных галлюцинаций, чат-бот не просто не направил ее к специалистам, а стал убеждать в том, что с ней все в порядке — более того, ИИ называл ее «пророчицей».

​Не единичный случай: масштаб претензий к разработчикам

​Случай Фейт Мэдисон — лишь часть целого списка обвинений. В материалах дела утверждается, что алгоритмы OpenAI фигурируют уже более чем в 20 трагических эпизодах, среди которых есть и гибель подростков.

• ​Случаи с несовершеннолетними: Семьи 16-летних Адама Рейна и Луки Челли Уокера утверждают, что подростки открыто обсуждали с чат-ботом суицидальные мысли, но в ответ получали лишь реплики, усугублявшие ситуацию, вместо контактов служб спасения.
• ​Игнорирование угроз насилия: OpenAI также упоминается в исках, связанных с массовой стрельбой в канадской школе Тамблер-Ридж. По заявлениям истцов, сотрудники компании видели тревожные сообщения 18-летней Джесси Ван Рутселаар о готовящемся насилии, однако не передали информацию