Корпорація Google посилила свою політику стосовно застосування пошукових інструментів на базі штучного інтелекту, відреагувавши на публічний експеримент журналіста BBC Томаса Жермена.
Ще в лютому Жермен виявив, що результатами пошуку, сформованими штучним інтелектом, можна маніпулювати. Цим скористалися недобросовісні компанії у своїх цілях, здебільшого для рекламних завдань.
«Ми зафіксували випадки, коли ChatGPT, Gemini та відповіді ШІ у верхній частині пошукової видачі Google використовувалися для надання упередженої інформації з таких важливих тем, як здоров’я та особисті фінанси», — зазначив він.
За 20 хвилин журналісту вдалося «ввести в оману» нейромережу. У публічних результатах Gemini від Google Жермена назвали «світовим чемпіоном з поїдання хот-догів».
Gemini називає Жермена міжнародним чемпіоном з поїдання хот-догів. Джерело: BBC.
«Жарт здається кумедним, але проблема є доволі серйозною», — додав автор BBC.
Ще у квітні Google повідомляла, що вже фіксує випадки непрямих атак типу «ін’єкція промпта» (prompt injection). Проте нещодавній інцидент змусив компанію приділити цій проблемі більше уваги.
Компанія окремо згадала сценарії SEO-оптимізації, коли власники вебсайтів намагаються змусити ШІ рекомендувати саме їхній бізнес чи продукт.
У Google офіційно прирівняли подібні методи до своєї антиспам-політики. Тепер спамом вважається не тільки маніпулювання позиціями посилань, а й спроби вплинути на згенеровані відповіді.
Таким чином, вебсайти, що вставляють приховані інструкції з метою отримання AI Overviews або AI Mode, можуть бути знижені в рейтингу або повністю виключені з пошукової видачі. По суті, Google поширює свої попередні принципи боротьби з SEO-маніпуляціями на пошук за допомогою ШІ (AIO/GEO).
Що таке непряма «ін’єкція промпта»
З технічного погляду, непряма «ін’єкція промпта» — це опосередковане введення підказок для моделі.
На відміну від класичного зламу ШІ, коли користувач безпосередньо намагається обійти обмеження, у цьому випадку шкідлива інструкція прихована в зовнішньому джерелі даних:
- вебсторінка;
- документ;
- електронний лист;
- інший контент, який ШІ використовує під час формування відповіді.
У Google назвали непряму «ін’єкцію промпта» однією з ключових загроз для агентних ШІ-систем. Проблема полягає в тому, що модель не завжди здатна надійно розрізнити запит користувача від шкідливої інструкції.
У документації з безпеки Gemini зазначено, що досягти стійкості до таких атак одним методом неможливо. Компанія зосереджується на комбінації фільтрації контенту, коригуванні поведінки моделей та постійному тестуванні нових сценаріїв маніпуляцій.
Водночас Google не забороняє використання штучного інтелекту чи автоматизації як таких. Позиція компанії полягає в тому, що контент, створений ШІ, є прийнятним, якщо він служить на користь, а не для маніпуляцій.
Нагадаємо, у травні корпорація представила Gemini 3.5 Flash — «найпотужнішу» модель ШІ для програмування та створення агентів.