Сучасні системи штучного інтелекту відкривають нові вектори кібератак, які виходять за межі традиційних моделей загроз і ставлять під сумнів класичні принципи кібербезпеки. Серед найсерйозніших з них — отруєння даних, коли зловмисники непомітно підмінюють або спотворюють тренувальні набори, щоб призвести модель до помилкових рішень. Хоча така атака не порушує контролю доступу, вона глибоко пошкоджує цілісність моделі, прямо суперечачи принципу цілісності триади CIA. Ще одним ефективним методом є уникнення виявлення: зловмисники незначно модифікують вхідні дані, роблячи їх для системи ШІ легітимними, хоча насправді вони містять шкідливий вміст. Такі зміни часто залишаються непомітними як для людини, так і для класичних систем фільтрації, що дозволяє обходити традиційні механізми захисту.

Особливу небезпеку становить вилучення знань із навчених моделей — через спеціальні запити можна витягнути конфіденційну інформацію, зокрема фрагменти особистих даних з тренувальних наборів. Оскільки моделі ШІ можуть «запам’ятовувати» окремі записи, це створює реальний ризик у сферах, де обробляються чутливі дані, порушуючи принцип конфіденційності триади CIA. Традиційні підходи до кібербезпеки — такі як контроль доступу, моніторинг мережевого трафіку чи виявлення шкідливого коду — часто виявляються недостатніми, оскільки не враховують специфіку архітектури ШІ, зокрема її залежність від якості даних і внутрішні механізми прийняття рішень. У зв’язку з цим організації, зокрема AI Security Institute, наголошують на необхідності створення спеціалізованих архітектур безпеки, які забезпечуватимуть захист на всіх етапах життєвого циклу моделі — від збору даних і навчання до впровадження та експлуатації.

Від вірусів до державних атак

Перші прояви масових кіберзагроз датуються 1988 роком, коли Роберт Таппан Морріс створив черв’яка, що автоматично поширювався через мережу, споживав ресурси комп’ютерів і призводив до їхнього уповільнення. Хоча метою було виміряти розмір інтернету, наслідки виявилися серйозними — тисячі систем опинилися виведеними з ладу, що стало першим сигналом про потенційну небезпеку автономних програм. До 1994 року ситуація ескалювалася: зафіксовано понад сто вторгнень до Rome Laboratory — провідного науково-дослідного центру Повітряних сил США. Ці події свідчили про перехід від окремих хакерських інцидентів до систематичних атак на критичну державну інфраструктуру, а також про зростання технічної підготовки зловмисників і можливу причетність державних акторів.

Наступним етапом стала поява Stuxnet — надзвичайно складного шкідливого коду, призначеного для атаки на промислові системи Ірану. Черв’як поширювався через USB-пристрої, експлуатував кілька вразливостей нульового дня і модифікував роботу промислових контролерів, фізично псуючи обладнання. Аналітики пов’язують цю атаку зі спільними зусиллями США та інших держав, що підтвердило трансформацію кіберзасобів у інструмент геополітики. У 2021 році атака на Colonial Pipeline, найбільший паливний трубопровід США, призвела до масових перебоїв на східному узбережжі. Зловмисники отримали доступ через скомпрометований пароль і зашифрували критичні системи управління. Ця подія показала, що кібератаки можуть мати пряме фізичне відображення, впливаючи на життєзабезпечення населення, і поєднувати фінансову вигоду зі стратегічними цілями.

Глобальний характер кіберзагроз

Кіберзагрози мають транснаціональний характер: вони можуть поширюватися з однієї країни до іншої за лічені хвилини, не визнаючи географічних кордонів. Ця глобальність вимагає постійної координації між урядами, міжнародними організаціями та приватним сектором для ефективного виявлення, стримування та реагування на інциденти. У межах Європейського союзу ключовою організацією у цій сфері є ENISA — Європейський центр кібербезпеки, який займається підвищенням рівня захисту мереж та інформаційних систем, підтримує держави-члени в реалізації єдиної політики безпеки та сприяє взаємодії між національними центрами реагування на інциденти.

Ще одним важливим платформою є Forum of Incident Response and Security Teams (FIRST), який об’єднує спеціалізовані команди з різних країн, зокрема US-CERT, забезпечуючи міжнародну координацію у протидії загрозам. У Сполученому Королівстві управління кіберризиками покладено на Національний центр кібербезпеки (NCSC), який працює в тісній взаємодії з GCHQ і відіграє провідну роль у захисті критичної інфраструктури та підвищенні загальної стійкості до атак. Навіть у регіонах з високорозвиненою цифровою економікою, таких як Гонконг, створено власні центри кібербезпеки, що підкреслює глобальну необхідність таких інституцій.

Однією з найвпливовіших ініціатив у сфері стандартизації є рамки кібербезпеки, розроблені Національним інститутом стандартів і технологій (NIST). Започатковані після указу 2013 року, ці стандарти стали міжнародно визнаним підходом до управління кіберризиками, особливо в секторах критичної інфраструктури. Вони надають організаціям чіткі рекомендації щодо п’яти ключових функцій: ідентифікації, захисту, виявлення, реагування та відновлення після інцидентів. У США CISA відповідає за захист інфраструктури, а FBI займається розслідуванням кіберзлочинів, зокрема атак на медичний сектор і фішингові схеми. Обидва відомства тісно співпрацюють з приватним сектором та іншими державними установами, забезпечуючи комплексний підхід до протидії загрозам.

Ризики

Штучний інтелект стикається з серйозними обмеженнями щодо надійності в реальних умовах. Моделі, навчені на певному наборі даних, часто неспроможні адекватно працювати за межами цього контексту, оскільки виявлені під час навчання внутрішні закономірності можуть не бути універсальними. Дослідники, зокрема представники AI Security Institute, наголошують на цій проблемі, демонструючи, що навіть непомітні для людини зміни у вхідних даних — так звані «протиатакуючі приклади» — можуть призвести до повного збою в роботі моделі. Така чутливість, продемонстрована Баттістою Біґґіо та Найлешем Далві, ставить під сумнів ефективність систем ШІ поза лабораторними умовами.

До того ж, багато захисних алгоритмів, призначених для захисту систем ШІ, виявляються вразливими до спеціально сконструйованих атак. Наприклад, механізми аналізу поведінки чи класифікації запитів можуть бути обмануті шляхом генерації вхідних даних, які виглядають природно, але стратегічно підібрані для обходу захисту. Формальна безпека системи часто не відповідає її реальній стійкості, оскільки поточні дослідження в галузі кібербезпеки ШІ переважно обмежені лабораторними сценаріями й не враховують динамічні, непередбачувані умови реального світу. Цей розрив між теоретичними моделями та практичним застосуванням призводить до створення захистів із надмірною довірою до контролюваного середовища, формуючи ілюзію безпеки, яку легко руйнує реальна атака.

Тому критично важливою є циклічна оцінка, тестування на стійкість та адаптація до нових векторів атак. Оскільки загрози постійно еволюціонують, недостатньо один раз реалізувати захист — лише постійне дослідження, переоцінка підходів і впровадження оновлень можуть забезпечити справжню довгострокову стійкість.

Роль урядів

Урядові агентства відіграють ключову роль у протидії кіберзагрозам, особливо в умовах поширення технологій ШІ. Організації, такі як NSA, FBI, GCHQ та CISA, відповідають за моніторинг, виявлення та стримування складних кібератак. Діяльність NSA стала предметом широкого розголосу після того, як Едвард Сноуден розголосив документи про масштабне електронне стеження, зокрема доступ до центрів обробки даних Google та Yahoo. Ці розголошення викликали міжнародну критику і призвели до перегляду деяких стандартів шифрування, зокрема тих, що розроблялися NIST за участю NSA.

FBI активно протидіє кіберзлочинності в США, попереджаючи критичні сектори, зокрема охорону здоров’я, про їхню вразливість до атак. Агентство входить до складу Internet Crime Complaint Center і співпрацює з приватним сектором через програму InfraGard, забезпечуючи обмін інформацією про загрози. У Великій Британії GCHQ реалізує стратегічні ініціативи для підвищення стійкості критичної інфраструктури. Проте приватні компанії також несуть пряму відповідальність за захист своїх систем і даних користувачів. Випадки порушень безпеки в таких великих роздрібних мережах, як Target і Home Depot, свідчать про те, що попередження часто ігноруються, а фізичні та технічні лазки залишаються неврахованими.

Ці події підкреслюють важливість не лише технологічних, а й операційних заходів безпеки, особливо коли ШІ використовується для автоматизації атак. Дослідники з безпеки виступають важливою ланкою в ранньому виявленні вразливостей: наприклад, Джон Грехем-Каммінг, технічний директор технологічного сервісу, активно висловлюється щодо конфіденційності та безпеки даних. Незалежні експерти часто виявляють слабкі місця, які можуть бути проглянуті як урядовими, так і корпоративними структурами. Крім того, кіберграмотність громадян є останнім, але важливим елементом загальної безпеки. Освіта в галузі базових практик — використання HTTPS, надійних паролів і шифрування мереж — зменшує ризики компрометації на рівні окремих користувачів. Коли кожен усвідомлює свою роль, суспільство стає значно стійкішим до нових загроз у поєднанні кіберпростору та штучного інтелекту.

Нова кібернебезпека

Навіть найпростіші фізичні дії можуть стати потужним інструментом для порушення роботи систем ШІ, особливо тих, що залежать від даних із реального середовища. Фізичне втручання — наприклад, зняття або підробка дорожнього знака — може призвести до критичних помилок у роботі автономних транспортних засобів, які спираються на комп’ютерний зір для розпізнавання інфраструктури. Такі атаки обходять традиційні механізми кібербезпеки, оскільки не зачіпають програмне забезпечення чи мережеві протоколи, а впливають безпосередньо на сприйняття реальності системою.

Маніпуляції з навколишнім середовищем демонструють вразливість систем ШІ до зовнішніх фізичних факторів: невеликі зміни — такі як наклейки на знаках, перекриття сенсора чи спеціально розташовані предмети — можуть призвести до хибних рішень, тоді як сама система не виявляє жодних порушень у своєму коді. Це ставить під сумнів надійність повністю автоматизованих рішень у критичних сферах, таких як транспорт чи енергетика. Автопілоти, роботи-доставники та дрони, які орієнтуються за даними зовнішніх сенсорів, стають мішенню для атак, спрямованих не на сервери чи алгоритми, а на саму реальність, яку ці системи сприймають.

Такі загрози лягають в основу комбінованих фізично-цифрових атак, де фізичне втручання стає першим кроком до масштабної компрометації. Наприклад, тимчасове приховування важливого об’єкта від сенсорів може викликати ланцюгову реакцію збоїв, яку далі можна використати для цифрового вторгнення. У зв’язку з цим необхідний комплексний підхід до безпеки, який об’єднує захист інформаційних систем із контролем за фізичним станом критичної інфраструктури, забезпечуючи стійкість як у цифровому, так і в реальному світі.