Microsoft распустила ключевую команду, отвечавшую за «этичность» искусственного интеллекта

Во время последнего масштабного сокращения в Microsoft вместе с 10 000 других сотрудников уволили специалистов, отвечающих за «уменьшение социального ущерба», который могут нанести ИИ-продукты корпорации.

Экс-сотрудники, с которыми пообщался Platformer, сказали, что отвечали за уменьшение рисков, связанных с использованием технологии OpenAI в продуктах Microsoft. Команда разработала «набор инструментов ответственных инноваций», чтобы помочь инженерам компании предсказать, какой вред может нанести ИИ и уменьшить его.

Сообщение об увольнении в СМИ появились сразу после объявления о запуске нового поколения языковой модели ИИ GPT-4, которая, как оказалось, уже давно работала в поисковике Bing.

Microsoft заявляла, что остается «преданной безопасной и ответственной разработке продуктов и средств ИИ», а работу команды по этике ИИ называла «новаторской». На протяжении последних 6 лет компания активно инвестировала в собственный Офис ответственности ИИ и расширяла его.

Эмили Бендер, эксперт Вашингтонского университета по компьютерной лингвистике и этическим вопросам обработки естественного языка, присоединилась к другим критикам, осудившим решение Microsoft распустить команду по этике ИИ. Бендер назвала решение Microsoft «недальновидным»:

«Учитывая, насколько тяжелая эта работа, любые значительные сокращения людей здесь опасны».

Microsoft сосредоточила внимание на специалистах, исследовавших ответственный ИИ еще в 2017 году. До 2020 года в команде работало 30 специалистов. Но с октября 2022-го, когда стартовала ИИ-гонка с Google, Microsoft начала переводить большинство специалистов в команды, отвечающие за конкретные продукты — поэтому в группе этики осталось всего 7 человек.

Некоторые уволенные сотрудники рассказали, что

Читать на itc.ua