ИИ обнаружил тысячи уязвимостей в Firefox, а хакеры уже используют Claude — CEO Anthropic

• CEO JPMorgan Джейми Даймон назвал киберугрозы крупнейшим риском для финансового сектора.
• Глава Anthropic Дарио Амодеи заявил, что модель Mythos выявила десятки тысяч потенциальных уязвимостей.
• Оба руководителя выступили против чрезмерного регулирования ИИ по модели FDA.

Генеральный директор JPMorgan Chase Джейми Даймон и CEO Anthropic Дарио Амодеи во время совместного выступления обсудили риски искусственного интеллекта для кибербезопасности и финансового сектора. Об этом сообщило издание Fortune.

Во время дискуссии спикеры избежали прямого ответа на вопрос, оправдана ли «паника» вокруг киберрисков ИИ. В то же время оба признали серьезность угроз.

По словам Амодеи, примерно шесть месяцев назад Anthropic зафиксировала первые попытки связанных с Китаем хакерских групп использовать ИИ-ассистента Claude для атак на американские технологические компании.

Амодеи также сообщил, что предыдущая модель компании выявила около 20 уязвимостей в браузере Firefox. Новая модель Mythos, по его словам, нашла почти 300 уязвимостей в Firefox и «тысячи, вероятно уже десятки тысяч» других проблем безопасности.

Он добавил, что конкуренты Anthropic в США могут отставать от компании на один-три месяца, а китайские разработчики — на шесть-двенадцать месяцев. При этом, по словам CEO Anthropic, значительная часть выявленных уязвимостей до сих пор не устранена.

В материале Fortune также говорится, что за несколько недель до выступления министр финансов США Скотт Бессент и глава Федеральной резервной системы Джером Пауэлл провели закрытую встречу с руководителями банков Уолл-стрит относительно системных рисков, связанных с моделью Mythos.

Отдельно Даймон и Амодеи прокомментировали возможное регулирование искусственного интеллекта. В частности, они