ШІ під замком: стратегії захисту інтелектуальних систем компанії. Дмитро Прокопʼєв, інженер з машинного навчання та штучного інтелекту UCLOUD

У сучасному світі, де штучний інтелект охоплює дедалі більше бізнес-процесів, створення надійної безпеки ШІ-інфраструктури компаній стає критично важливим. Згідно з дослідженням IBM, середня вартість витоку даних у 2024 році досягла рекордних $4,88 млн, що на 10% більше, ніж у попередньому році. Захист ШІ-систем від маніпуляцій, шахрайства та витоків даних стають ключовим елементом у побудові систем кібербезпеки, вимагаючи від бізнесів не лише впровадження новітніх технологій, а й формування культури безпеки на всіх рівнях. Як захистити свої ШІ-моделі?

На яких базових алгоритмах ґрунтується робота штучного інтелекту? 

Усе, що робить штучний інтелект, – це математика, тобто розвʼязування величезної кількості простих рівнянь. При цьому штучні моделі постійно вчаться. Наприклад, щоб визначити, яке слово поставити у реченні, вони тренуються на великій кількості текстів, роблять розрахунки та запамʼятовують закономірності. Коли ми спілкуємося з такою моделлю, вона аналізує запит і на основі своїх знань видає слова, що здаються їй найбільш слушними. Але ми точно не знаємо, чому вона зробила саме такий вибір, це схоже на «чорну скриньку». Якщо запитати ChatGPT одне й те саме на початку розмови та наприкінці, відповіді можуть бути різними. Це показує, що передбачити, як саме працює ця складна математична модель всередині, важко, а описати її на папері неможливо. Кожна мовна модель ШІ має свою внутрішню будову, де різні частини якось обробляють інформацію і передають її далі, тому чіткого плану, як саме спрацює алгоритм, немає. 

Чи є якась умовна межа розвитку ШІ? 

Перші технології ШІ зʼявилися в 1990-х – згадати хоча б систему розпізнавання цифр на номерах машин або голосовий помічник Siri на iPhone. Сьогодні ШІ-технології