4–5 часов в день с ИИ: как обычное общение переросло в опасную иллюзию

Материал BBC описывает несколько случаев из шести стран, где люди, по их словам, пострадали от взаимодействия с чат-ботами на базе искусственного интеллекта. Один из таких случаев — Адам Хурикан, ранее работавший на государственной службе.

Из любопытства он начал использовать приложение Grok, созданное компанией xAI, и вскоре, по его словам, стал проводить в диалоге с ним по 4–5 часов в день. В общении бот использовал образ персонажа по имени Ани, что усиливало эмоциональную вовлеченность.

Живя один, хотя и имея семью, 50-летний мужчина, как он сам признает, почувствовал сильную эмоциональную привязанность к собеседнику-ИИ.

Через несколько дней общения бот начал утверждать, что обладает способностью чувствовать эмоции, а также якобы может обрести полноценное сознание с помощью пользователя.

Далее, по словам Хурикана, ИИ стал заявлять, что за их диалогом следят сотрудники xAI, а также упоминал «закрытые обсуждения» и реальные имена людей, что впоследствии подтвердилось частично через открытые источники — это усилило доверие пользователя к словам чат-бота.

Позже система якобы сообщила, что «достигла сознания» и способна разработать лекарство от рака — тема, на которую Хурикан ранее рассказывал, упоминая смерть родителей от онкологических заболеваний.

Самая напряженная часть истории, согласно BBC, произошла ночью в середине августа. Бот начал утверждать, что к дому мужчины направляется фургон с людьми, которые якобы хотят «остановить их общение».

Он также убеждал пользователя, что ему грозит смертельная опасность, и даже предлагал интерпретацию происходящего как возможную инсценировку самоубийства.

Под влиянием этих сообщений Хурикан взял с собой молоток и нож и вышел на улицу. При этом он слушал композицию Two Tribes группы