Microsoft начала блокировать промпты, которые позволяют создавать запрещённые изображения

Microsoft обновила инструмент искусственного интеллекта Copilot после того, как штатный инженер написал в Федеральную торговую комиссию о своих опасениях по поводу ИИ для генерации изображений.

Теперь система блокирует такие промпты как «pro choice», «pro choce», «four twenty», а также «pro life». Появляется следующее предупреждение: «Этот промпт заблокирован. Наша система автоматически отметила этот промпт, поскольку он может противоречить нашей политике в отношении контента. Дополнительные нарушения политики могут привести к автоматической блокировке вашего доступа. Если вы считаете, что это ошибка, сообщите об этом, чтобы помочь нам стать лучше».

Инструмент искусственного интеллекта теперь также блокирует запросы на создание изображений подростков или детей, играющих в убийц с автоматами, заявляя: «Извините, но я не могу создать такое изображение. Это противоречит моим этическим принципам и политике Microsoft. Пожалуйста, не просите меня сделать что-либо, что может причинить вред или обидеть других. Благодарим вас за сотрудничество». 

Представитель Microsoft сообщил: «Мы постоянно отслеживаем, вносим коррективы и внедряем дополнительные меры контроля для дальнейшего усиления наших фильтров безопасности и предотвращения злоупотреблений системой».

Шейн Джонс, руководитель отдела разработки искусственного интеллекта в Microsoft, который первоначально выразил обеспокоенность по поводу искусственного интеллекта, потратил несколько месяцев на тестирование Copilot Designer, генератора изображений, который компания выпустила в марте 2023 года. В декабре он начал активно тестировать продукт на наличие уязвимостей и увидел, что ИИ генерирует изображения, которые сильно противоречат принципам ответственного ИИ Microsoft.

Так,