Запретить выпуск ChatGPT и начать расследование – регулятор США получил очередную жалобу на OpenAI
В Федеральную торговую комиссию США (FTC) поступила очередная жалоба на OpenAI – стартап, разрабатывающий большие языковые модели и запустивший популярный ИИ чат-бот.
Некоммерческая исследовательская группа Center for AI and Digital Policy (CAIDP) в четверг обнародовала жалобу, обвиняющую OpenAI в нарушении раздела 5 Закона о FTC, запрещающего недобросовестную и обманчивую деловую практику. GPT-4 в документе называют «предвзятой, обманчивой и представляющей риск для конфиденциальности и общественной безопасности». Группа говорит, что большая языковая модель не отвечает стандартам комиссии по «прозрачности, понятности, честности и подотчетности» искусственного интеллекта.
От Федеральной торговой комиссии требуют установить способ независимой оценки продуктов GPT перед их будущим развертыванием, создать публичную систему отчетности об инцидентах для GPT-4 и разработать стандарты для генеративных продуктов ИИ.
Президент CAIDP Марк Ротенберг также подписал открытое письмо, обнародованное в среду, призвавшее приостановить по меньшей мере на шесть месяцев «обучение систем ИИ, мощнее GPT-4». Среди подписантов – генеральный директор Tesla (который также является соучредителем OpenAI) Илон Маск и соучредитель Apple Стив Возняк.
Языковые модели OpenAI тренируются на огромных массивах текста, большая часть которого взята из интернета. На основе полученных шаблонов система может прогнозировать, какое слово будет следовать далее в предложении. По описанию это относительно простой механизм, однако в конечном итоге появляются гибкие системы, которые могут генерировать, обобщать и перефразировать текст, а также выполнять другие текстовые задания, такие как перевод или генерирование кода. Описание первой версии языковой модели OpenAI Читать на itc.ua
