Штучний інтелект навчається на шахраях: агенти потрапляють у пастки, щоб збирати дані про обман

Більшість компаній використовують штучний інтелект (ШІ) для прискорення випуску продуктів або оптимізації робочих процесів. Натомість Apate.ai відправляє ШІ-агентів під прикриттям, щоб викривати шахраїв.

Австралійський стартап, заснований у 2024 році на основі досліджень, проведених у Сіднейському університеті Маккуорі, розгортає тисячі ШІ-агентів, які видають себе за невинних жертв. Агенти можуть відповідати на шахрайські дзвінки, реагувати на підозрілі повідомлення та електронні листи, переходити за фішинговими посиланнями та приєднуватися до груп у соціальних мережах, щоб заманити шахраїв. Вони вдають людей різного віку, статі, з різними акцентами та говорять різними мовами, намагаючись якомога довше утримувати шахраїв у розмові, щоб дізнатися щось корисне.

Компанія стверджує, що її флот агентів на сьогодні «витратив» 17 років шахрайського часу, провівши 2,5 мільйона розмов. Важливіше для клієнтів Apate — банків, телекомунікаційних компаній, державних установ та комунальних служб — те, що агенти під прикриттям намагаються змусити шахраїв розкрити інформацію про себе, яку зазвичай отримують лише після того, як жертва вже зазнала збитків: банківські рахунки, криптогаманці, телефонні номери, шкідливі вебсайти, бренди, які вони імітують, та інші деталі про шахрайські схеми, які вони використовують.

Apate, один із фіналістів цьогорічного конкурсу Startup Battlefield 200 на TechCrunch Disrupt, потім передає цю інформацію своїм клієнтам, які використовують її для розробки заходів та ініціатив з боротьби з шахрайством. (Компанія представить свій проєкт панелі венчурних інвесторів на Disrupt, що проходить цього тижня в Moscone West у Сан-Франциско до четверга, 15 жовтня.)

Це цікава еволюція «гри з шахраями», але не надто дивовижна, враховуючи, наскільки ШІ розширив можливості шахраїв та хакерів. ФБР отримало понад 22 000 скарг на злочини, пов’язані зі ШІ, у 2025 році, що призвело до збитків приблизно на 893 мільйони доларів. Понад 632 мільйони доларів з цієї суми припали на інвестиційні шахрайства, де, за даними ФБР, шахраї використовують ШІ для ведення розмов, а також створюють діпфейки голосів та образів знаменитостей, керівників та довірених осіб.

Довгий час люди робили це своїм хобі — навмисно затягували шахраїв, іноді до смішного, як-от змушували шахраїв читати вголос цілі книги або навіть наносити собі безглузді татуювання. Тепер, коли ШІ стає все більш потужним, ситуація обертається.

Цікаво, що ідея, яка лежить в основі Apate, виникла завдяки реальному шахрайському дзвінку.

Кілька років тому засновник і генеральний директор Apate Далі Каафар був на сімейному пікніку, коли йому зателефонували з невідомого номера. Зрозумівши, що це шахрай, він вирішив вдавати наївного заради своїх дітей і зумів підтримувати розмову протягом 44 хвилин.

Усі сміялися, але Каафар помітив, що ці 44 хвилини шахрай не витратив на дзвінки справжнім жертвам. Це також був його марно витрачений час, що змусило його замислитися: чи можна це автоматизувати і, відповідно, дізнатися щось корисне?

Ця ідея зрештою призвела до дослідницької роботи на його посаді в Університеті Маккуорі, де Каафар та його колеги використовували машинне навчання та обробку природної мови для виявлення змісту шахрайських дзвінків та розробки кращих способів виявлення та запобігання шахрайству.

«Більшість галузі працює постфактум. Телекомунікаційні компанії блокують номери, але шахраї просто отримують нові. Банки відстежують транзакції, але до того часу шахрай вже зв’язався з клієнтом. Ми йдемо безпосередньо до шахрая і отримуємо інформацію до того, як хтось постраждає», — розповів TechCrunch Бред Джофф, співзасновник і директор з комерційних питань. «Наші ШІ-агенти щодня розмовляють з десятками тисяч шахраїв через дзвінки, повідомлення, електронну пошту та веб. Те, що ми пропонуємо нашим клієнтам, — це те, що випливає з цих розмов, і те, що вони можуть з цим зробити».

Джофф сказав, що Apate використовує як передові моделі, так і власні доналаштовані моделі для своїх агентів та аналітики. Компанія навчає свої моделі на розмовах, які її агенти мали з шахраями, а також на дослідженнях, які Каафар проводив в Університеті Маккуорі.

Окрім доступу до флоту агентів Apate, клієнти отримують доступ до порталу інсайтів, який пропонує розвіддані та аналітику щодо шахрайств, спрямованих на їхніх кінцевих користувачів або співробітників, брендів, продуктів тощо. Клієнти можуть навіть призначати агентам конкретні місії, наприклад, отримати номер банківського рахунку або адресу криптогаманця. Їхні текстові агенти можуть шукати потенційну шахрайську діяльність на форумах, інвестиційних групах та соціальних платформах, а потім вступати в розмови зі створеною особою, щоб виявити дані шахраїв.

Серед клієнтів стартапу — Commonwealth Bank of Australia, TPG Telecom, а також інші комунальні компанії, телекомунікаційні оператори та державні установи. Джофф розповів, що TPG перенаправив майже 590 000 дзвінків на агентів Apate, Commonwealth зафіксував 76% зниження публічно заявлених збитків від шахрайства, а неназваний австралійський банк, з яким співпрацює стартап, використав своїх вихідних агентів для зриву 22 шахрайських кампаній.

Інвестори також роблять ставку на те, що на обмані шахраїв можна заробити. У серпні Apate залучив 8,15 мільйона доларів посівного фінансування від Lobby Capital, OIF Ventures, Investible, Concept Ventures та Baobab Ventures. Джофф зазначив, що компанія з 20 співробітниками загалом залучила трохи менше 10 мільйонів доларів і планує витратити останній раунд на свій продукт та міжнародну експансію, включаючи відкриття офісу в Лондоні та розширення присутності в США.

«Apate названо на честь грецької богині обману, що здалося доречним, враховуючи, чим займаються наші агенти», — сказав Джофф, додавши, що стартап навіть використовує в своїх презентаційних матеріалах записи шахраїв, які лаються на ботів.

«Ми відстежуємо це як ознаку роздратування, і кожне лайливе слово святкується нами в Apate. Ми, ймовірно, одні з небагатьох компаній у світі, які святкують, коли люди лаються на наш продукт».

Інформація підготовлена на основі матеріалів: techcrunch.com