OpenAI викрила та заблокувала акаунти, що брали участь у російській кампанії впливу
OpenAI заблокувала групу облікових записів ChatGPT, які, найімовірніше, походили з Росії і використовували штучний інтелект для проведення прихованої онлайн-кампанії впливу. Про це йдеться у звіті компанії.
Під час розслідування дописів у соціальних мережах, створених за допомогою ШІ, виявили операцію, побудовану навколо вебсайту так званого Міжнародного інституту Берка. На цьому сайті розміщували скопійовані та неправильно підписані академічні роботи, а також «індекс суверенітету», який зображував Росію у вигідному світлі.
Дослідники виявили, що оператори писали чатботу запити російською мовою для створення коментарів для соцмереж. Згодом ці коментарі публікували в Substack, Telegram, X, Facebook і LinkedIn. Більшість згенерованих коментарів були англійською мовою.
Оператори також просили ChatGPT приховувати будь-які натяки на їхнє російське походження. Оскільки доступ до моделей OpenAI на території РФ заборонений, вони використовували VPN.
Значна частина згенерованого контенту була спрямована на просування Міжнародного інституту Берка (IBI) — самопроголошеної «експертної спільноти» з Ізраїлю. Вебсайт інституту зареєстрували в лютому 2025 року, а опубліковані на ньому статті були скопійовані з реальних академічних праць, іноді з неправдивими посиланнями.
Основним використанням ChatGPT у межах цієї кампанії було створення публікацій у соцмережах, що просували статті на сайті IBI. За даними OpenAI, деякі з них опублікували акаунти з назвою та логотипом IBI, тоді як інші, ймовірно, належали звичайним користувачам, чия основна діяльність полягала в публікації цих статей.
Крім цього, оператори генерували відповіді на публікації реальних користувачів Substack на різні теми. Ці відповіді зазвичай містили прохання підписатися на канал інституту та публікувалися на Substack від його імені.
Окрім створення контенту про IBI, один з операторів створював німецькомовні дописи, які публікувалися в Telegram-каналі під назвою «Lahme Ente» («Кульгава качка»). У них регулярно критикували Україну, ЄС та уряд Німеччини, а також виступали за покращення відносин з Росією.
Інший оператор використовував ChatGPT для створення логотипів для десятка Telegram-каналів, орієнтованих на Німеччину, США, Францію, Польщу та Туреччину. Деякі з цих каналів публікували матеріали IBI або посилалися на них.
OpenAI припускає, що безпосередній вплив операції був невеликим: типові дописи в соцмережах отримували лише незначну кількість переглядів, а офіційні акаунти IBI мали низьку кількість підписників. Водночас окремі Telegram-канали налічували від 10 до 20 тисяч підписників.
У компанії додали, що значення цієї операції полягає не стільки в охопленій аудиторії, скільки у створеній інфраструктурі. Хоча учасники використовували ChatGPT лише для створення окремих рекламних дописів, ці публікації вели на установу, яка могла здаватися цілком надійною та експертною.
Нагадаємо, нещодавно ChatGPT вперше ввійшов до десятки брендів, яких найчастіше копіюють кіберзлочинці. На нього припало 1,1% усіх зафіксованих фішингових атак з імітацією брендів.