Венчурні дослідження: Як управління корпоративними ШІ-агентами відстає від прогресу

Корпоративні гравці впровадили ШІ-агенти випереджаючи необхідні механізми контролю, і це відбувалося свідомо. Такий висновок випливає з п’яти паралельних досліджень VentureBeat Research, проведених у червні, які охоплюють усі рівні стеку агентних технологій. Зараз ці компанії вимушені вдосконалювати свої стандарти, що вимагає значних бюджетних витрат. Кожен з п’яти виміряних нами рівнів контролю показує, що від 57% до 68% підприємств планують змінити постачальників або додати нових протягом наступних 12 місяців, а приблизно третина — залежно від рівня — планує здійснити ці зміни вже цього кварталу.

VentureBeat Research виокремило п’ять ключових елементів контролю, які підприємства повинні розробити перед тим, як довіряти агентам: ідентифікація, оцінка, телеметрія витрат, контекстний шар та оркестрація. Ідентифікація визначає, який агент може виконувати певні дії та від чийого імені. Оцінка визначає якість роботи агента. Телеметрія витрат відстежує вартість виконання завдань кожним агентом. Контекстний шар надає бізнес-дані та визначення, на які спираються агенти під час надання відповідей. Оркестрація координує багатоетапну роботу агентів. Кожен з наших п’яти звітів детально аналізує один із цих аспектів контролю.

Більшість впроваджених “агентів” – це чат-боти під новим брендом.

Сімдесят один відсоток підприємств повідомив, що чверть або менше їхніх розгорнутих “агентів” здатні самостійно виконувати багатоетапні завдання. Лише 10% стверджують, що справжні агенти становлять більшість серед тих, що вони використовують. Ці респонденти мають глибоке розуміння теми: 81% беруть участь у рекомендаціях або прийнятті рішень щодо закупівель ШІ у своїх компаніях. Звичайний чат-бот, який обробляє один запит і вимагає перегляду кожної відповіді людиною, не потребує тих контролів, що вимірюються в інших чотирьох звітах. Справжньому багатоетапному агенту потрібні всі ці елементи — і більшість підприємств не можуть чітко визначити, що саме вони використовують. (Повні результати: звіт про Оркестрацію агентів.)

Автономність випереджає довіру в оцінках, які її обмежують.

Дві третини підприємств вже дозволяють агентам вносити зміни до коду або системи у виробничому середовищі, спираючись виключно на результати автоматизованої оцінки без людського втручання, або активно працюють над цим протягом наступних 12 місяців. Лише 5% повністю довіряють оцінкам, які приймають такі рішення. При цьому половина підприємств вже випускала агентів, які пройшли внутрішні перевірки, але згодом спричинили збій, помітний для клієнтів, протягом останнього року. Перш ніж усувати людський контроль у будь-якому робочому процесі, необхідно ретельно протестувати оцінки щодо їхньої відповідності реальним результатам у продакшені, а не внутрішнім метрикам. (Повні результати: звіт про Надійність та оцінку агентів.)

Компанії, які дозволяють агентам спільно використовувати облікові дані, стикаються з проблемами частіше.

Шістдесят дев’ять відсотків компаній дозволяють щонайменше деяким своїм агентам спільно використовувати облікові дані — кілька агентів працюють під одним API-ключем або сервісним обліковим записом. Організації, які дозволяють спільне використання облікових даних, стикалися з інцидентами безпеки або майже з ними у 63,5% випадків (47 з 74), порівняно з 40,9% (дев’ять з 22) у компаніях, де кожен агент має власну, обмежену за доступом ідентифікацію. Рішення полягає в призначенні індивідуальної, обмеженої ідентифікації для кожного агента, починаючи з тих, що взаємодіють із виробничими системами. (Повні результати: звіт про Безпеку та ідентифікацію агентів.)

Найдорожче обладнання в будівлі працює на 50% потужності або менше.

Понад вісім з десяти підприємств, які використовують власні графічні процесори (GPU), повідомляють про завантаження на рівні 50% або нижче. Лише 44% ретельно відстежують реальну вартість та віддачу від обчислювальних потужностей ШІ. Найважливішим завданням зараз є не придбання нових GPU, а оптимізація використання та вартості на одиницю роботи вже наявних ресурсів. (Повні результати: звіт про Інфраструктуру та обчислення ШІ.)

Агенти впевнено надають відповіді на основі некерованих даних.

П’ятдесят сім відсотків підприємств за останні шість місяців стикалися з випадками, коли агент надавав впевнену, але неправильну відповідь через відсутність або неузгодженість бізнес-контексту (неправильні метрики, застарілі визначення, відсутні документи). Більшість таких інцидентів траплялися неодноразово. Управління визначеннями, на основі яких відповідають агенти (спочатку метрики та сутності), має передувати масштабуванню агентів, які від них залежать. (Повні результати: звіт про Контекстні шари / RAG.)

Жоден шар не має закріпленого лідера: нинішніми стандартними рішеннями є вбудовані інструменти, що постачаються з великими платформами ШІ, якими вже користуються підприємства. Найвищий намір щодо змін спостерігається в самій оркестрації, де 68% планують впровадити, додати або замінити платформи протягом 12 місяців, а 34% — протягом кварталу. Наші опитування не з’ясовували, куди саме будуть спрямовані ці інвестиції — у вбудовані інструменти платформ чи у спеціалізовані рішення, що кидають їм виклик. Це невирішене питання визначатиме ринок наступні чотири квартали.

Про це дослідження

VentureBeat Research у червні 2026 року провело п’ять паралельних опитувань у рамках програми VB Pulse: Оркестрація агентів (101 респондент), Надійність та оцінка агентів (157), Безпека та ідентифікація агентів (107), Інфраструктура та обчислення ШІ (107) та Контекстні шари / RAG (101) — загалом 573 кваліфікованих респонденти з організацій, що налічують 100 або більше співробітників. Вибірки є самостійними, і деякі результати слід інтерпретувати як тенденцію; кожен звіт містить повний опис методології. Набір даних переконливо вказує на загальний напрямок: кожне незалежне опитування підтверджує однакову тенденцію. VentureBeat створює як це дослідження, так і VB Transform, конференцію, де були представлені ці звіти.

Порада від INFBusiness:

Ця інформація є надзвичайно актуальною для українських компаній, які активно впроваджують або планують впроваджувати ШІ-рішення. Вона підкреслює критичну важливість розробки належних механізмів контролю та безпеки перед широким розгортанням. Розуміння цих аспектів допоможе уникнути потенційних проблем, оптимізувати витрати та забезпечити надійність і ефективність ваших ШІ-агентів.

Джерело новини: venturebeat.com