Anthropic запускает новый сервис Claude для военных целей

В четверг, Антропный анонсировал Claude Gov, продукт, разработанный специально для оборонных и разведывательных агентств США. Модели искусственного интеллекта имеют смягченные ограничения для использования правительством и обучены лучше анализировать секретная информация.

Компания заявила, что анонсируемые ею модели «уже используются агентствами на самых высоких уровнях национальной безопасности США» и что доступ к этим моделям будет ограничен правительственными агентствами, которые имеют дело с секретной информацией. Компания не подтвердила, как долго они использовались.

Модели Claude Gov специально разработаны для уникальных правительственных нужд, таких как оценка угроз и анализ разведданных, говорится в сообщении Anthropic в блоге. И хотя компания заявила, что они «прошли такое же строгое тестирование безопасности, как и все наши модели Claude», у моделей есть определенные спецификации для работы в сфере национальной безопасности. Например, они «менее склонны к сбоям при обработке секретной информации», которая им предоставляется, а это то, что Claude, работающий с потребителями, обучен замечать и избегать.

По данным Anthropic, модели Клода Гова также лучше понимают документы и контекст по вопросам обороны и разведки, а также лучше владеют языками и диалектами, имеющими отношение к национальной безопасности.

Использование искусственного интеллекта правительственными агентствами давно подвергается тщательному изучению на предмет его потенциального вреда и неблагоприятных последствий для меньшинств и уязвимых сообществ. Существует длинный список неправомерных арестов во многих штатах США из-за использования полицией распознавания лиц, задокументированные доказательства предвзятости в предиктивной полиции и