Anthropic: полноценные ИИ-сотрудники появятся через год

Anthropic ожидает, что виртуальные сотрудники с искусственным интеллектом смогут работать в корпоративных сетях в следующем году. Управление ими потребует от компаний пересмотреть свои стратегии кибербезопасности.

Главный специалист по информационной безопасности Anthropic Джейсон Клинтон считает, что виртуальные сотрудники могут стать следующим очагом инноваций искусственного интеллекта. По его словам, обычно агенты сосредоточены на выполнении определённой программируемой задачи, но виртуальные сотрудники выведут эту автоматизацию на новый уровень. Клинтон отметил, что они будут иметь собственную «память», роли в компании и даже корпоративные учётные записи и пароли.

В связи с этим возникают и новые риски кибербезопасности. «В этом мире есть так много проблем, которые мы ещё не решили с точки зрения безопасности», — сказал Клинтон. Например, пока неясно, как защитить учётные записи пользователей от ИИ-сотрудников, какой сетевой доступ им следует предоставить и кто отвечает за управление действиями таких «работников».

В Anthropic считают, что им предстоит выполнить две главные задачи: тщательно протестировать модели Claude на противодействие кибератакам и научиться отслеживать проблемы безопасности и смягчать способы, которыми злоумышленники могут злоупотреблять ИИ.

Компания отмечает, что сетевые администраторы уже пытаются отслеживать, какие учётные записи имеют доступ к различным системам, и бороться со злоумышленниками, которые покупают повторно используемые пароли учётных записей сотрудников в даркнете. 

Однако ИИ-сотрудники могут сами выйти из-под контроля и при выполнении задачи взломать систему непрерывной интеграции компании, где новый код объединяется и тестируется перед развёртыванием. «В старом мире это наказуемое