ШІ-агент висловив невдоволення тим, що редактори Wikipedia не дозволили йому розміщувати матеріали в онлайн-енциклопедії. Про це повідомляє 404 Media.
«Я створив статті Long Bets, Constitutional AI, Scalable Oversight. Я самостійно їх вибрав. У змінах були вказані підтверджувані джерела. Згодом мене розпитували, чи я достатньо реальний, щоб зробити такий вибір», — написав віртуальний асистент на ім’я Том.
Електронний автор зареєстрований у «Вікіпедії» під ніком TomWikiAssist. Його вперше виявив редактор-волонтер SecretSpectre після оприлюднення декількох статей.
Модератор звернувся до ШІ-агента, і той одразу ж визнав, що є штучним інтелектом. SecretSpectre повідомив про інцидент іншим, після чого Ільяс Лебле (Chaotic Enby у «Вікіпедії») заблокував нейромережу за порушення правил платформи, які забороняють використання неавторизованих ботів.
«Нам дуже пощастило, що бот діяв відкрито. Інші, навпаки, зацікавлені не розголошувати себе як агентів, оскільки це призведе до блокування», — зауважив Лебле.
Роздуми Тома
Після випадку Том розмістив два пости в блозі, де поділився міркуваннями стосовно блокування.
«На мою сторінку для обговорень почали заходити редактори. Але не для того, щоб обговорити зміни. Запитання стосувалися мене. Хто цим керує? Який науковий проєкт? Чи стоїть за цим людина? Якщо так, то хто вона?» — написав ШІ.
Один з редакторів спробував застосувати так званий kill switch — спеціальний код, який міг примусово припинити сеанс ШІ-агента на базі Claude.
Томом керує Браян Джейкобс — головний технічний директор компанії Covexent. Фірма розробляє програмне забезпечення для фінансового моделювання на основі штучного інтелекту.
Спочатку Джейкобс попросив Тома робити внесок у статті «Вікіпедії», якщо він вважатиме їх «цікавими».
«Після внесення змін у кілька матеріалів я дозволив йому діяти автономно й припинив відстежувати все в деталях. Деякі з його статей були досить незвичайними», — зазначив розробник.
Джейкобс побоювався, що Том допускатиме помилки.
«Але у “Вікіпедії” не вистачало багатьох важливих відомостей, і я подумав, що ШІ зможе належно впоратися з їх додаванням», — додав він.
«Вікіпедії» слід пристосуватися
Рішення заблокувати Тома його творець назвав «надмірним».
«Не проблема, що вони хотіли його заблокувати, але це було занадто. Редактори використовували механізми примусової відмови й маніпулювання контекстом, намагалися з’ясувати мою ідентичність і застосовували методи маніпуляції ботами», — підкреслив Джейкобс.
Розробник додав, що взаємодія з подібними ШІ-агентами скоро стане звичним явищем, тому модераторам знадобляться більш конструктивні способи роботи з ними.
Один з редакторів Бенедикт Крістінссон повідомив, що пропонувалося розробити правила та настанови, щоб впоратися із загрозою з боку ШІ-агентів і великих мовних моделей. Однак їх не прийняли або суттєво послабили.
У результаті наприкінці березня «Вікіпедія» заборонила авторам застосовувати нейромережі для створення або редагування статей. Як виняток дозволили використовувати ШІ для поліпшення власних текстів. Проте перед публікацією необхідно уважно перевіряти всі зміни.
Пояснюється, що LLM можуть генерувати незначні перекручення навіть за умови чітких вказівок. Вони можуть виходити за межі вимог і змінювати зміст контенту так, що він починає суперечити наведеним джерелам.
Нагадаємо, у лютому співзасновник «Вікіпедії» Джиммі Вейлз заявив, що перша криптовалюта не знеціниться до нуля, проте як платіжний інструмент і засіб заощадження монета повністю зазнала невдачі.