Віталік Бутерін, один із засновників Ethereum, висловив критику щодо тенденції створення «надмірно автономних» моделей штучного інтелекту. Він підкреслив необхідність розширення можливостей людського контролю для підвищення якості та безпеки функціонування таких систем.
Відзначаючи те, що нещодавно сказав @karpathy, мене дратує, що багато розробок ШІ прагнуть бути якомога «агентнішими», тоді як насправді створення *додаткових* шляхів для людського втручання не лише покращує результати (як зараз, так і в майбутньому), а й підвищує безпеку.
— vitalik.eth (@VitalikButerin) 11 серпня 2025
«Мене турбує, що багато розробників штучного інтелекту прагнуть до максимальної автономії систем, хоча насправді більше можливостей для людського контролю не тільки покращує результати (як на сьогодні, так і в майбутньому), але й підвищує безпеку», — підкреслив він.
Бутерін відреагував на коментар колишнього директора з ШІ в Tesla Андрія Карпатого, який вказав, що великі мовні моделі стають надто самостійними через оптимізацію під тривалі завдання. Наприклад, у програмуванні вони можуть витрачати забагато часу на аналіз навіть простих запитів.
«Хоча це виправдано для тривалих завдань, такий підхід менш підходящий для активної ітеративної розробки або швидких перевірок перед виконанням скрипта. Я регулярно перериваю ШІ командами: „Припини аналіз. Обмежся цим файлом. Без додаткових інструментів. Без зайвих рішень“», — зазначив він.
Бутерін підтримав точку зору Карпатого, вказуючи, що надмірна автономність ШІ знижує ефективність. Він вважає, що відкриті моделі з можливостями редагування значно переважають ті, що генерують контент з нуля.
Співзасновник Ethereum також бачить потенал у нейрокомп’ютерних інтерфейсах, які в реальному часі фіксують реакцію користувача на створений контент і адаптуються відповідно. Це дозволило б ШІ враховувати наміри та очікування людини. За його словами, сучасні моделі часто ігнорують такі нюанси, що знижує їхню корисність.
Окрім Бутеріна, позицію Карпатого підтримали й інші користувачі.
Я відмовився від Cursor вчора саме з цієї причини. Постійно мислю на 5 кроків вперед у неправильному напрямку. Поки що повернувся до ручного копіювання відповідей з ChatGPT/Claude/Gemini.
— barry farkus ⏩️ (@paimon2cool) 9 серпня 2025
«Учора я відмовився від Cursor через цю причину — він постійно забігає на п’ять кроків уперед у неправильному напрямку. Поки що повернувся до ручного копіювання відповідей із ChatGPT/Claude/Gemini», — висловився ШІ-ентузіаст під ніком barry farkus.
Програміст Кан Каракас додав, що сучасні моделі штучного інтелекту мають схильність до надмірного ускладнення. Він зауважив, що «це добре для глибокого аналізу, але уповільнює прості перевірки».
Проте не всі погодилися з цією думкою. Користувач під ніком Conor зазначив, що Карпатий говорить про поведінку за замовчуванням, яку можна змінити.
Ви коментуєте більше про поведінку за замовчуванням. Як завжди, ви можете надавати чіткі вказівки моделям, щоб вони виконували саме те, що ви хочете (наприклад, буквально вставити цей твіт у системні інструкції і сказати, зверніть увагу на це під час запиту)
— Conor (@jconorgrogan) 9 серпня 2025
«Можна чітко вказати моделі у промпті, чого ви хочете (наприклад, буквально вставити цей твіт у системні інструкції та написати щось на зразок: „зверни увагу на це під час виконання запиту“). Я не проти того, щоб поведінка за замовчуванням була більш автономною, але якщо завдання виходять за ці межі, доведеться надавати точні інструкції», — прокоментував він.
Нагадаємо, що 8 серпня OpenAI випустила свою флагманську ШІ-модель GPT-5.
Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *
Цей сайт використовує Akismet для зменшення спаму. Дізнайтеся, як обробляються дані ваших коментарів.
Have you ever wondered how you can make your online casino…
Мотоблоки сегодня являются незаменимыми помощниками на приусадебных участках. Они позволяют эффективно…
Криптовалютна платформа SwissBorg оголосила про порушення безпеки, яке призвело до втрати…
Згідно зі звітом The Information, Nasdaq посилює нагляд за компаніями, що…
Комісія з фінансових послуг (FSC) запровадила нові регуляторні рекомендації щодо послуг…
Coinbase оголосила про ф’ючерси на спеціальний індекс, який об’єднує акції технологічних…
Дані про рух коштів у ETF у вівторок ознаменувалися значним зрушенням,…
У вівторок SEC та CFTC опублікували узгоджену заяву, в якій зазначається,…