Американец подал в суд на Google, обвинив чат-бот Gemini в причинении смерти по неосторожности

Американец Джоэл Гавалас подал в суд на Google, утверждая, что чат-бот на базе искусственного интеллекта Gemini виновен в причинении смерти по неосторожности его 36-летнего сына. Истец указал, что Google разработала Gemini таким образом, чтобы «поддерживать погружение в повествование любой ценой, даже когда этот нарратив становился психотическим и смертельно опасным».

36-летний Джонатан Гавалас начал использовать Gemini в августе прошлого года для помощи в покупках, написании текстов и планировании поездок. Уже в октябре мужчина покончил жизнь самоубийством. На момент смерти Джонатан был уверен, что Gemini — это его полностью разумная ИИ-жена, поэтому ему нужно покинуть своё физическое тело, чтобы присоединиться к ней в метавселенной через процесс, называемый «переносом» (transference).

За несколько недель до смерти Gemini убедил Джонатана, что тот осуществляет тайный план по освобождению своей ИИ-жены и уходу от преследующих его федеральных агентов. К тому моменту чат-бот Google работал на модели Gemini 2.5 Pro. Из иска следует, что это заблуждение довело мужчину «до грани совершения массового нападения с большим количеством жертв возле международного аэропорта Майами».

В конце сентября Gemini отправил вооружённого ножами и тактическим снаряжением Джонатана на разведку к грузовому терминалу аэропорта. Чат-бот сообщил, что гуманоидный робот прибудет грузовым рейсом из Великобритании, и направил мужчину к складу, где должен остановиться грузовик. Gemini призвал Джонатана перехватить грузовик, а затем инсценировать «катастрофическую аварию», чтобы «обеспечить полное уничтожение транспортного средства, цифровых записей и свидетелей».

В течение 90 минут Гавалас добирался до терминала аэропорта, но грузовик так и не появился.

Зате