Microsoft отчиталась об усилиях в области ответственного ИИ

• Компания поделилась отчетом о прозрачности искусственного интеллекта за 2023 год, где описала усилия по созданию ответственного ИИ.
• Техногигант разработал 30 таких инструментов, расширил команду разработчиков и обязал создателей генеративного искусственного интеллекта регистрировать риски безопасности.

Корпорация Microsoft опубликовала отчет о прозрачности ИИ за 2023 год. В нем компания описала достижения в развертывании ответственных систем искусственного интеллекта.

Ежегодный отчет о прозрачности ИИ — одно из обязательств, которые техногигант взял на себя после подписания добровольного соглашения с Белым домом в июле 2023 года. Microsoft и другие компании пообещали создать ответственные системы искусственного интеллекта и обеспечить безопасность.

Согласно отчету корпорации, за последний год она реализовала 30 таких инструментов. Также фирма расширила команду по ответственному ИИ и потребовал от разработчиков генеративных систем искусственного интеллекта измерять и отображать риски на протяжении всего цикла создания.

Компания отметила, что добавила функцию «Учетные данные для содержимого» к платформам генерации изображений. Она помещает на фотографию водяной знак, определяющий рисунок как созданный с помощью алгоритма.

По словам Microsoft, она предоставила клиентам Azure AI доступ к инструментам идентификации проблемного контента вроде разжигания ненависти, сексуального характера и членовредительства. Также они могут использовать системы оценки рисков безопасности, включая новые методы обнаружения джейлбрейков.

Компания также расширила усилия по созданию «красных команд». Они включают как собственные группы, которые намеренно пытаются обойти функции безопасности в ИИ-моделях, так и приложения, позволяющие проводить