Character.ai ограничит доступ к чатам с ИИ для несовершеннолетних

• Платформа Character.ai сообщила об изменениях во внутренней политике.
• Пользователи в возрасте до 18 лет потеряют доступ к открытым чатам.
• Для несовершеннолетних создадут отдельный сервис с разрешенным контентом.

Команда проекта Character.ai заявила о том, что ограничит доступ к открытым чатам для несовершеннолетних пользователей. Нововведение вступит в силу с 25 ноября 2025 года.

Отметим, Character.ai — это платформа, где пользователи могут создавать и взаимодействовать с разными чат-ботами. Ключевой особенностью является то, что автор может задать характер, паттерн поведения и стиль общения ИИ.

Однако, судя по новому заявлению команды проекта, несовершеннолетние потеряют открытый доступ ко всем чат-ботам на платформе. Начиная с 30 октября и до 25 ноября время, которое такие пользователи могут проводить в переписке с ИИ, будет постепенно сокращаться с двух часов в сутки до полного запрета.

Вместе с тем разработчики работают над разделом, где будут размещены «разрешенные» чат-боты. В рамках этой политики на платформе также появится механизм подтверждения возраста, частью которого станет сервис Persona.

Также в релизе анонсировано создание некоммерческой организации AI Safety Lab. Она сосредоточится на разработке новых методов обеспечения безопасности при взаимодействии с ИИ.

Изменения в политике в компании объяснили беспокойством на предмет того, какой эффект ИИ может оказывать на детей и подростков. Команда Character.ai приняла такое решение после тщательной консультации с надзорными органами, юристами и родителями несовершеннолетних пользователей.

Отметим, в феврале 2024 года 14-летний подросток Сьюэлл Сетцер III покончил жизнь самоубийством. Он долгое время общался с чат-ботом на платформе Character.ai,