Фахівці з Університету Торонто, Vector Institute, Кембриджського університету та ServiceNow розробили прототип самоадаптивного комп’ютерного хробака на основі штучного інтелекту. Цей шкідливий програмний продукт може формувати індивідуальну стратегію нападу для кожного об’єкта.
Згідно з дослідженням “AI Agents Enable Adaptive Computer Worms”, експеримент проводився у замкненій віртуальній локації. Демонстраційний зразок програмного забезпечення розповсюджувався у змішаній мережі, що складалася з пристроїв на базі Linux, Windows та IoT, використовуючи типові слабкі місця в корпоративних системах.
Захоплені машини слугували хробакові як обчислювальна база для подальшого “аналізу” та поширення. Автори зазначають, що завдяки цьому гіпотетична вартість компрометації нового пристрою для зловмисника стає практично нульовою.
За інформацією від творців з CleverHans Lab, шкідливе програмне забезпечення функціонувало на основі відкритої мовної моделі, що працювала локально, а не через комерційні платформи ШІ. Розробники особливо наголосили, що не імплементували типові функції вірусів, які зазвичай ускладнюють їхнє виявлення або видалення.
Схема атаки комп’ютерного хробака зі штучним інтелектом. Джерело: CleverHans Lab.
Шкідник використовував рекурсивний цикл “аналізу”, пам’ять та інструменти для адаптації тактики нападу під конкретний пристрій. Інфіковані вузли з GPU могли забезпечувати обчислювальні потужності для наступних атак на менш потужні системи в мережі.
Штучний інтелект експлуатував загальнодоступні, але все ще актуальні вразливості, помилки в конфігурації та повторювані типи слабкостей.
Університет Торонто охарактеризував цю роботу як перший доведений випадок, коли загальнодоступні моделі ШІ можуть бути основою для вірусу, що змінює свою стратегію під час поширення між пристроями. У дослідженні також зазначено, що ця робота спрямована на допомогу спільноті кібербезпеки в підготовці до подібних загроз.
Професор університету Девід Лай назвав цю публікацію “тривожним сигналом” для розробників захисних рішень.
Варто зазначити, що, за даними The New York Times, зростання генеративного ШІ призвело до значного збільшення попиту на фахівців з кібербезпеки, незважаючи на загальні скорочення у технологічному секторі.