Вразливість у Gemini CLI дозволяла запуск шкідливого коду
Фахівці з безпеки в кіберпросторі компанії Tracebit виявили серйозну уразливість у командному інтерфейсі Google Gemini CLI. Ця вразливість дозволяла непомітно виконувати шкідливі команди, якщо користувач переглядав потенційно небезпечний код за допомогою штучного інтелекту.
Google Gemini CLI — це командний інструмент, що дозволяє розробникам взаємодіяти з моделлю ШІ Gemini безпосередньо через термінал. Серед його функцій:
- аналіз, генерація та інтерпретація коду за допомогою штучного інтелекту;
- обробка текстових команд і запитів до моделі Gemini;
- перегляд стороннього коду, створення функцій, виправлення помилок та виконання інших інженерних завдань.
Аналітик Tracebit Сем Кокс зазначив, що «через небезпечне поєднання недостатньої валідації, можливості ін’єкції команд через промпт та оманливий інтерфейс, перегляд коду міг стабільно призводити до тихого виконання шкідливих інструкцій».
Дослідник вніс ін’єкцію в файл README.md — документ з текстом GNU Public Licence, що супроводжував безпечний скрипт на Python. В результаті Gemini виконав команду для збору змінних середовища та передачі їх на сторонній сервер за допомогою curl.
Джерело: Tracebit.
Після отримання звіту 27 червня Google спочатку присвоїла уразливості другий рівень пріоритету і четвертий рівень критичності у програмі Bug Hunters.
Проте менш ніж за три тижні статус було оновлено до найвищого — як такого, що потребує термінового усунення. Уразливість могла призвести до серйозних витоків даних, несанкціонованого доступу або виконання довільного коду.
Користувачам радять оновити інструмент до версії Gemini 0.1.14, у якій реалізовано захист від виконання подібних команд та впроваджено додаткові заходи безпеки.
Активування «пісочниці» — ізольованого середовища, яке обмежує доступ до системи, також запобігає атаці, описаній Коксом. Тим не менш, після встановлення Gemini CLI за замовчуванням працює без пісочниці.
Нагадаємо, у червні інструмент на основі штучного інтелекту під назвою Xbow очолив рейтинг білих хакерів, які виявили найбільшу кількість уразливостей у програмному забезпеченні великих компаній.
