«Лаборатория Касперского» создала руководство по безопасной разработке ИИ

«Лаборатория Касперского» разработала руководство по безопасной разработке и внедрению систем на основе искусственного интеллекта (ИИ). Документ был представлен на международном Форуме ООН по управлению интернетом, проходившем в Эр‑Рияде в декабре 2024 года.

По словам ИБ‑компании, цель документа — помочь организациям избежать киберрисков, связанных с применением технологий ИИ. В первую очередь руководство предназначено для разработчиков, системных администраторов, DevOps‑команд. В инструкциях содержатся детальные практические советы о том, как предотвращать или устранять технические недостатки и операционные риски.

Руководство по безопасной разработке ИИ создано совместно с ведущими научными экспертами. Оно охватывает ключевые аспекты разработки, внедрения и использования систем ИИ, а также предлагает лучшие практики в области безопасности. Рекомендации по безопасной разработке также помогут развёртывать ИИ‑системы в соответствии с ESG‑принципами и международными стандартами.

«Лаборатория Касперского» предлагает следующие принципы для повышения безопасности систем на основе ИИ:

Информирование о киберугрозах и обучение. Руководство организаций должно быть осведомлено об угрозах безопасности, связанных с использованием ИИ, и регулярно проводить обучение для сотрудников. Обучающие программы необходимо постоянно обновлять, чтобы информация об угрозах была актуальной. Люди, работающие в компании, должны знать, какие методы используют злоумышленники для атак на системы ИИ;

Моделирование угроз и оценка рисков. Моделирование угроз позволит заранее найти и снизить риски атак и взломов. Создатели документа предлагают использовать принятые методологии оценки рисков (например STRIDE, OWASP), чтобы обнаруживать угрозы в сфере ИИ, например