Пентагон обсуждает с Anthropic использование ИИ для наблюдения и в военных целях

Переговоры Anthropic о продлении контракта с Пентагоном зашли в тупик из-за дополнительных мер защиты, которые компания, занимающаяся разработкой ИИ, хочет внедрить в свой инструмент Claude.

Anthropic хочет установить ограничения, чтобы не допустить использования Claude для массовой слежки за американцами или разработки оружия, которое может быть применено без участия человека.

Пентагон хочет иметь возможность использовать Claude до тех пор, пока его применение не нарушает закон.

Использование ИИ для разработки оружия и сбора персональных данных — растущий риск для мощных моделей.

Компания Anthropic, позиционирующая себя как более ответственная в вопросах ИИ и стремящаяся избежать катастрофических последствий применения этой технологии, создала Claude Gov специально для органов национальной безопасности США и намерена обслуживать государственных заказчиков в рамках собственных этических принципов.

Claude Gov обладает расширенными возможностями для работы с секретными материалами и разведданными, а также для анализа данных о кибербезопасности.

«Компания Anthropic стремится использовать передовые технологии искусственного интеллекта для обеспечения национальной безопасности США», — заявил представитель компании, добавив, что компания ведёт «продуктивные и конструктивные переговоры» с Министерством обороны «о том, как продолжить эту работу и решить эти сложные вопросы».

«Отношения Министерства обороны с компанией Anthropic пересматриваются, — сообщил представитель Пентагона Шон Парнелл в электронном письме. — Наша страна требует, чтобы наши партнёры были готовы помочь нашим военным одержать победу в любом сражении. В конечном счёте речь идёт о наших войсках и безопасности американского народа».

По словам высокопоставленного