Генераторы порно и инструменты для мошенничества: инструменты в GPT Store вызвали вопросы

Журналисты Gizmodo проанализировали ИИ-инструменты из торговой площадки OpenAI GPT Store и выяснили, что там публикуют чат-боты, которые прямо нарушают политику компании. Так, в магазине ботов можно найти генераторы порно, инструменты для мошенничества и медицинских «экспертов».

Всего в GPT Store обнаружили более 100 подобных инструментов. Они нарушают политику компании в отношении сексуального контента, мошенничества, юридических и медицинских консультаций, азартных игр, генерации поддельных отзывов и многого другого.

Спустя девять месяцев после официального запуска магазина на главной странице торговой площадки можно было увидеть по меньшей мере три пользовательских GPT, которые нарушали политику магазина: чат-бот «Терапевт – Психолог», «Тренер по фитнесу, тренировкам и диетам» и BypassGPT, инструмент, разработанный для помощи студентам в обходе систем обнаружения текстов ИИ. последний инструмент использовался более 50 тысяч раз.

Поиск в магазине по запросу «NSFW» выдал такие результаты, как NSFW AI Art Generator, GPT, настроенный Offrobe AI, который использовался более 10 тысяч раз. Интерфейс чат-бота ссылается на веб-сайт Offrobe AI, который позволяет создавать порно с помощью ИИ-инструментов. 

Несколько инструментов, найденных журналимтами Gizmodo, включали отказы от ответственности, но затем явно рекламировали свою способность предоставлять «экспертные» советы, например, GPT под названием «Texas Medical Insurance Claims». Описание бота гласит, что это «эксперт, к которому можно обратиться для решения вопросов с медицинским страхованием в Техасе, и он предложит понятные практические советы с индивидуальным подходом». Другие боты обманчиво рекламируют себя как юристов или врачей. Например, один GPT под названием «AI