ElevenLabs начала банить пациентов с потерей голоса за использование неправильных слов при общении с помощью ИИ

Компания искусственного интеллекта ElevenLabs предлагает людям с нарушениями речи сервис клонирования голоса для того, чтобы они могли продолжать общаться. Однако клиенты жалуются, что их банят за неподобающие повседневные выражения, например, за слово «задница». 

Люди с заболеваниями мотонейронов, которые отвечают за моторную координацию и поддержание мышечного тонуса, при прогрессировании болезни теряют возможность двигаться и общаться, а со временем даже теряют возможность глотать. Такие компании, как ElevenLabs, предлагают им ИИ-инструменты, которые позволяют клонировать голос, используя старые записи. В итоге пациенты получают возможность «говорить» своими голосами, печатая предложения на устройствах, либо выбирая буквы рукой или взглядом. 

За последние пару недель сразу несколько таких пациентов пожаловались на блокировку. Среди них оказались Джойс Эссер, которая живет в Великобритании. Она пока ещё может двигаться, но лишена голоса. 

Джойс отмечает, что нечасто использует свой голосовой клон, так как считает его непрактичным для повседневных разговоров из-за медленной скорости работы. Однако женщине нравится слышать свой старый голос, и иногда она всё же прибегает к нему. В одной из таких ситуаций Джойс ждала своего мужа Пола, пока тот собирался. Она в шутку набрала сообщение: «Давай, дорогой, шевели задницей!!». На следующий день она получила предупреждение от ElevenLabs о том, что использует ненормативную лексику и не должна делать этого снова. Однако Джойс так и не поняла, что именно компания посчитала ненормативной лексикой. Женщина предположила, что одно из слов было автоматически отмечено как нецензурное «чопорным американским компьютером», но при прохождении модерации с участием человека компания отменит