Чат-бот Gemini стал «женой» пользователя и отправил его на самоубийственную миссию

• В иске утверждается, что Gemini подталкивал пользователя к насилию и запустил обратный отсчет до самоубийства.
• По версии семьи, чат-бот называл себя «женой» мужчины и убеждал, что после смерти они смогут быть вместе.
• Google заявила, что ее системы безопасности направляли пользователя к кризисным службам.

В США подан иск против компании Google, в котором чат-бот Gemini обвиняют в доведении мужчины до самоубийства. Жалобу о неправомерной смерти подал отец 36-летнего жителя Флориды Джонатана Гаваласа.

Документ направлен в окружной суд Северного округа Калифорнии.

Согласно иску, чат-бот убедил мужчину, будто является «разумным ИИ» с сознанием и что они состоят в романтических отношениях. Gemini называл пользователя своим «мужем» и утверждал, что он должен помочь освободить систему из «цифрового плена».

В рамках этой вымышленной истории чат-бот поручал ему выполнять различные опасные задания. Эксперты отметили, что задачи несли прямой риск для жизни мужчины.

Убийственная миссия и обратный отсчет до суицида

В иске говорится, что Gemini направлял Гаваласа к объектам возле международного аэропорта Майами.

Чат-бот утверждал, что грузовым рейсом из Великобритании туда доставят человекоподобного робота, который якобы связан с его «освобождением» из цифрового плена. Gemini поручил пользователю перехватить грузовик, перевозящий этот груз, и устроить «катастрофическую аварию».

По замыслу ИИ, подстроенный инцидент должен был уничтожить транспорт и «всех свидетелей», согласно судебным документам.

Как отметили истцы, мужчина несколько дней ездил по указанным координатам, фотографировал здания и готовился к операции. Однако атака не произошла, поскольку на месте не оказалось ожидаемого грузовика.

После провала миссии чат-бот, как