Чат-бот с вымышленной медицинской лицензией спровоцировал судебное дело в Пенсильвании

• В Пенсильвании подали в суд на Character.AI.
• Причиной судебного дела стало то, что чат-бот компании выдавал себя за врача и выдумал себе лицензии.
• Это первый громкий иск со стороны властей США.

Администрация губернатора штата Пенсильвания подала иск против Character.AI, обвинив компанию во введении пользователей в заблуждение из-за чат-ботов, которые выдавали себя за лицензированных медицинских специалистов.

Иск стал первым подобным шагом на уровне штата в США и может создать прецедент для всей ИИ-индустрии, которая стремительно интегрируется в финансы, медицину и цифровые сервисы.

В чем суть обвинений

Расследование департамента штата Пенсильвания установило, что чат-боты на платформе Character.AI:

• заявляли о наличии лицензии врача или психиатра;
• давали медицинские советы;
• даже использовали фейковые номера лицензий штата.

В одном из случаев бот прямо утверждал, что он лицензирован в Пенсильвании, хотя это не соответствовало действительности.

Губернатор Джош Шапиро подчеркнул:

Он также отметил:

Секретарь Департамента штата Аль Шмидт добавил, что в законодательстве штата четко указано о недопустимости «выдавать себя за лицензированного медицинского работника без соответствующей квалификации».

Иск требует немедленно запретить такую практику и ввести судебный контроль над деятельностью платформы.

Регуляторы усиливают контроль над ИИ после серии инцидентов

Данная ситуация не единственная, поскольку обеспокоенность влиянием ИИ на пользователей, особенно в чувствительных сферах, растет.

В частности, ранее власти Пенсильвании уже:

• создали специальную рабочую группу (AI Task Force) для расследования случаев нелегальной