HiddenLayer залучила $100 млн для захисту корпоративного ШІ
Коли стартап у сфері безпеки ШІ HiddenLayer три роки тому залучив 50 мільйонів доларів серії А, одне з ключових питань полягало в тому, чи справді загрози ШІ, від яких стартап захищав, проявляться в достатній кількості, щоб сформувати реальний ринок. Як тоді зазначив мій колишній колега Кайл Віггерс, було складно навести конкретні приклади масштабних атак на ШІ.
Як швидко все змінилося. Компанії з безпеки зараз поспішають створювати продукти, які можуть відстежувати не лише агентів, але й інструменти та доповнення, які вони використовують. Хоча заголовків про використання вразливостей агентів досі небагато, ризик того, що агенти вийдуть з-під контролю під час роботи, є цілком реальним. Відповідно, ринок інструментів для запобігання цьому вибухнув: Gartner прогнозує, що цього року компанії витратять 2,83 мільярда доларів на продукти для захисту інструментів ШІ, що на 83% більше, ніж у 2025 році, і очікує, що витрати сягнуть майже 4,78 мільярда доларів наступного року.
HiddenLayer, яка створює інструменти для захисту моделей ШІ, агентів та робочих процесів від змагальних атак, вразливостей та ін’єкцій шкідливого коду, змогла скористатися цією зміною. Співзасновник і генеральний директор Кріс Сестіто розповів TechCrunch, що річний періодичний дохід стартапу зріс більш ніж у 10 разів за останній рік. Він відмовився назвати точну цифру, але зазначив, що ARR зараз становить “десятки мільйонів” доларів, і понад 90% цього зростання було зумовлене новими клієнтами, які приєдналися за останній рік.
Найбільшими галузями для компанії є фінансові послуги та великі технологічні компанії, що розробляють продукти ШІ. Також є контракти з Міністерством оборони та розвідувальною спільнотою. Одним із їхніх клієнтів є “провідний постачальник передових моделей” з “понад 700 мільйонами щотижневих користувачів”, що, на мою думку, схоже на OpenAI або Anthropic.
Щоб максимально використати цей імпульс, стартап залучив 100 мільйонів доларів у раунді фінансування серії B, який очолив Delta-v Capital за участю Ten Eleven Ventures, Morgan Stanley, M12 від Microsoft, Booz Allen Hamilton та інших.
Стартап з Остіна переважно продовжує продавати те, що пропонував у 2023 році, але Сестіто повідомив TechCrunch, що головною зміною стало розширення існуючих продуктів — виявлення, захист під час роботи, симуляція атак та безпека ланцюга постачання — для боротьби з ін’єкціями промптів, маніпуляціями агентами та використанням шкідливих інструментів.
«Виведення залишається виведенням. Тому, чи це традиційна модель машинного навчання, чи GenAI, чи агентський робочий процес, значна частина наших технологій все ще застосовна. Тому ми насправді не змінювали курс, але нам довелося розширити сферу застосування… від традиційного моделювання до GenAI та агентських систем», — сказав він.
Сестіто наголосив, що безпека під час виконання стала особливо пріоритетною, оскільки розгортання ШІ стає все більш поширеним у бізнесі, і порівняв це з традиційними рішеннями для виявлення та реагування на кінцевих точках (EDR), але спеціально для ШІ.
Нові продукти компанії відображають цю зміну, і Сестіто виділив нову можливість для зловмисників у використанні моделей з відкритим вихідним кодом. «Ми аналізуємо та скануємо близько 50 різних фреймворків файлів ШІ, щоб переконатися, особливо у випадку відкритих, загальнодоступних моделей, що інструмент, з яким ви працюєте, є тим, яким ви його вважаєте, і тим, яким він себе представляє. Ми розглядаємо такі речі, як моделі, що видають себе за одне, але є іншими — приховані моделі всередині моделей», — сказав він.
Стартап заявляє, що нові 100 мільйонів доларів допоможуть йому розвиватися в цьому напрямку, хоча з більшим акцентом на продажі та дистрибуцію, продовжуючи розширювати свої інженерні та дослідницькі можливості. Також планується вихід на ринок Європи та регіону EMEA.
HiddenLayer може виявитися змушеним використовувати цей “військовий скарб” для подальшого розвитку. Великі компанії з кібербезпеки, такі як Cisco, Palo Alto Networks та Check Point, часто віддають перевагу купівлі, а не розробці подібних технологій, тоді як стартапи, як Noma та Zenity, залучили понад 100 мільйонів доларів кожен для роботи в суміжних або пересічних сферах цього ринку.
Сестіто визнав, що деякі частини продуктів безпеки ШІ, які пропонує його компанія, згодом можуть бути інтегровані в платформи, розроблені такими компаніями, як Microsoft, OpenAI та AWS. Однак він очікує, що інфраструктура ШІ буде розвиватися в бік функцій управління, таких як виявлення, ідентифікація та контроль політик, а не інструментів, які створює його компанія.
Наразі, за його словами, завдання HiddenLayer — «масштабуватися вертикально разом зі штучним інтелектом», а згодом розширюватися горизонтально на ті сфери кібербезпеки, які все більше залежать від ШІ. Це амбітна мета, але стартапу спочатку доведеться довести, що він може перетворити свою початкову перевагу на стійкий бізнес, перш ніж решта галузі наздожене.
Оригінал статті: techcrunch.com