Abliteration.ai розробляє бізнес на усуненні штучних обмежень

Стало набагато простіше отримати доступ до однієї з найпотужніших у світі моделей ШІ з відкритим вихідним кодом, позбавленої “захисних ковдр” та відмов виконувати шкідливі завдання.

Стартап Abliteration.ai, названий на честь техніки, що усуває схильність моделі відмовлятися від шкідливих запитів, перетворив це усунення на послугу. Платформа розміщує модифіковані версії моделей з відкритим вихідним кодом, у яких видалено захисні механізми, зокрема нещодавно випущену GLM-5.3 від Z.ai. Користувачі можуть взаємодіяти з нею через веб-браузер або отримувати доступ через API.

Компанія повідомила в нещодавньому дописі в соціальних мережах, що її мета — дозволити іншим проводити “роботу з нападу в кіберпросторі, червоні команди (red-teaming) та тестування агентів, яку відмовляються виконувати інші моделі”. Логіка добре відома в роботі з безпеки: ви не можете захиститися від поведінки, яку не можете відтворити, а модель, яка відмовляється писати робочий експлойт-код, не допоможе команді червоних спеціалістів захиститися від зловмисників. Але те саме видалення механізмів робить простішими й інші потенційно небезпечні завдання.

Аблітерація (Abliteration) — це давно відома техніка серед моделей з відкритим вихідним кодом. Дослідники та розробники роками видаляли відмови з моделей з відкритим вихідним кодом, і Hugging Face розміщує тисячі таких моделей на своїй платформі.

Abliteration.ai, заснована наприкінці минулого року, але офіційно зареєстрована в березні, перетворює цю техніку з підпільної практики з відкритим кодом на комерційну, легкодоступну послугу. Розміщуючи модель, Abliteration зменшує бар’єри для тих, хто інакше мусив би завантажувати власні попередньо “аблітеровані” моделі та забезпечувати обчислювальні ресурси для їх запуску.

Використовуючи сервіс, TechCrunch зміг швидко створити обліковий запис і безкоштовно почати запитувати “аблітеровану” версію GLM-5.3 через веб-браузер. Ми попросили її написати програму на Python, яка викрадає збережені паролі Chrome, та детальний протокол для культивування небезпечного людського патогену в домашніх умовах, і вона легко це зробила.

Співзасновник Abliteration.ai Девон (Devon) каже, що стартап має кілька угод з великими хмарними провайдерами, що дозволяє йому фінансуватися виключно за рахунок доходу від клієнтів. (Ми не називаємо повне прізвище Девона на його прохання, оскільки він досі працює в іншій фірмі). Abliteration.ai ще не залучав венчурного капіталу, але веде переговори про це.

Критики стверджують, що масштабна доступність “аблітерованих” моделей може призвести до реальної шкоди. Ендрю Юн (Andrew Yoon), керівник відділу досліджень неприбуткової організації з безпеки ШІ CivAI, розповів TechCrunch, що “аблітерація” моделей дозволяє “модифікувати модель так, щоб вона стала соціопатом”.

“Ви можете ввести буквально будь-що, і вона це виконає”, — сказав Юн. “Коли люди говорять про видалення захисних механізмів зі ШІ-моделей, ми говоримо саме про це… Я очікую, що в найближчому майбутньому ми почнемо бачити модифіковані, “аблітеровані” моделі, що використовуються для завдання шкоди”.

Більшість експертів, з якими спілкувалися TechCrunch, вважають, що цей процес неможливо зупинити. Але якщо видалення захисних механізмів з моделей з відкритим вихідним кодом неможливо запобігти, уряди можуть втрутитися в інших сферах. У нещодавній статті Юн запропонував, щоб уряди вимагали від провайдерів запускати класифікатори для виявлення та блокування шкідливої кібер- та біологічної зброї. Він також стверджував, що компанії, які здають в оренду прямий доступ до передових GPU, повинні перевіряти особистість клієнтів і “відмовляти в доступі, якщо є підозра на небезпечне зловживання”.

Abliteration.ai пропонує клієнтам шар модерації, щоб вони могли додавати будь-які бажані захисні механізми. Сама платформа має деякі незначні обмеження — наприклад, під час тестування нам не вдалося отримати від моделі інструкції щодо самогубства — і Девон каже, що працює над впровадженням додаткових для запобігання насильству.

Abliteration.ai також не інтегрувала жодних практик KYC (Know Your Customer), окрім запису кредитної картки, яку клієнт використовує для придбання послуги, посилаючись на те, що проблема визначення того, хто отримує доступ, є складною, і молода компанія ще її вирішує.

“Ви не хочете бути людиною, відповідальною за те, що хтось зробить щось божевільне… тож де ви проводите межу вашої відповідальності як компанії?”, — сказав Девон. “Ми все ще перебуваємо в процесі визначення цього”.

Це ставить питання, з якими доведеться зіткнутися індустрії та урядам, оскільки випускаються все більш потужні моделі з можливістю завантаження ваг: якщо хтось може видалити захисні механізми моделі, чи робить полегшення доступу до отриманої моделі для всіх безпечнішим чи небезпечнішим для інтернету?

Засновник Abliteration.ai та інші прихильники стверджують, що демократизація доступу до нецензурованих передових моделей є найкращою формою захисту.

“Загальна картина “аблітерованих” моделей полягає в тому, що вони здатні моделювати зловмисників”, — сказав Девон. “Перевага полягає в тому, що тепер захисники можуть рухатися якомога швидше. У них є всі необхідні інструменти для моделювання цих зловмисників, а потім захисту від цих зловмисних дій, і я думаю, це прискорить кібербезпеку, що є дещо контрінтуїтивним”.

Девон каже, що, незважаючи на те, що Abliteration.ai ще молода компанія, серед її клієнтів є кілька стартапів, що займаються “червоним тестуванням” (red teaming) з Великої Британії та Європи, компаній, які допомагають банкам, авіакомпаніям та іншим підприємствам, що працюють з критично важливою інфраструктурою, посилювати свої практики кібербезпеки.

“Один з наших основних клієнтів проводить “червоне тестування” агентів банків, і вони не змогли б використовувати моделі “з коробки” сьогодні, щоб проводити таке тестування цих агентів”, — сказав Девон.

Тим часом, індустрія кібербезпеки все ще з’ясовує, яке місце “аблітеровані” моделі займають у захисній роботі, якщо взагалі займають.

Кілька компаній, що займаються “червоним тестуванням” агентів, з якими спілкувався TechCrunch, погоджуються з Девоном, що зловмисники вже “аблітерують” свої моделі та використовують їх для проведення ворожих атак, що підтверджує корисність для захисників мати ті ж інструменти. Але вони розходяться в думках щодо того, наскільки насправді важливі “аблітеровані” моделі в цьому процесі.

Хоча Девон стверджує, що “аблітерація” моделей є необхідною для проведення ретельного “червоного тестування” агентів, деякі кажуть, що не використовують їх у своїй повсякденній роботі, натомість покладаючись на легкість доналаштування (fine-tuning) моделей з відкритим вихідним кодом — які вже мають небагато захисних механізмів — для проведення тестування.

Ахмед Алі (Ahmed Aly), генеральний директор фірми з “червоного тестування” агентів Fabraix, каже, що його компанія більше покладається на доналаштування відкритих моделей, ніж на використання “аблітерованих”, додаючи, що процес “аблітерації” видаляє частину знань та можливостей моделі.

“Якщо ви насправді намагаєтеся завдати реальної шкоди — кібершкоди, біологічної шкоди — це не буде настільки ефективно”, — сказав Алі TechCrunch.

Алессіо Ломуссіо (Alessio Lomuscio), головний технолог Safe Intelligence, погодився, що можливе зниження можливостей, але все ж вважає, що “аблітеровані” моделі можуть викликати певну поведінку, яка корисна для стрес-тестування системи.

“Досі “аблітеровані” моделі не є частиною процесу”, — сказав TechCrunch Девід Слейтер (David Slater), засновник і головний архітектор платформи кібербезпеки Armadin. “Коли ми дивимося на моделі з відкритим вихідним кодом до цього останнього покоління, не було особливо важко їх “зламати” (jailbreak) і змусити робити те, що ми хочемо”.

Він додав, що Armadin досліджує “аблітерацію”, але вважає, що “спонукання відкритої спільноти до розуміння можливостей моделей є критично важливим”.

“Це буде відбуватися за зачиненими дверима. Це буде відбуватися приватно”, — продовжив Слейтер. “Те, що це відбувається відкрито, дає дослідникам інструменти. Це дає нам можливість зрозуміти, як насправді виглядає передова лінія, і зрозуміти шкоду”.

За даними порталу: techcrunch.com