Фахівці Anthropic представили «фреймворк прозорості» для розробників прогресивних ШІ, щоб запобігти можливим катастрофічним наслідкам ще до їх реалізації.
«Необхідно вжити проміжних заходів, щоб забезпечити безпечну, відповідальну та прозору розробку надзвичайно потужного штучного інтелекту», — підкреслили в компанії.
У документі описується створення гнучкої системи основних вимог без жорсткого регулювання, яке могло б загальмувати інновації. Рекомендується зосередитися лише на найбільших учасниках ринку — наприклад, на тих, чий бюджет на R&D перевищує $1 млрд або річний дохід становить $100 млн.
Відповідно до запропонованих правил Anthropic, розробники потужних ШІ повинні:
У документі наведені приклади добровільних стандартів безпеки від OpenAI, DeepMind, Microsoft та самої Anthropic.
На думку авторів, законодавче закріплення запропонованого фреймворку може унеможливити повернення до старих практик у майбутньому, коли моделі стануть ще більш автономними.
«Без відповідальної та безпечної розробки навіть одна помилка може зупинити прогрес на десятиліття», — зазначають в Anthropic.
Нагадаємо, що у червні дослідники компанії звернули увагу на здатність більших сучасних моделей ШІ до шантажу.
Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *
Цей сайт використовує Akismet для зменшення спаму. Дізнайтеся, як обробляються дані ваших коментарів.
Вчені з Массачусетського технологічного інституту використали штучний інтелект для створення нових…
Зростання другої за величиною криптовалюти вище $4700 пов’язане з очікуваннями ринку…
У другому кварталі 63% криптовалютних медіа у Східній Європі зафіксували зниження…
Керівник відділу досліджень BRN Тімоті Місір висловив занепокоєння щодо ризиків, пов’язаних…
Протягом останнього місяця спотові біржові фонди на основі другої за величиною…
Анонімний користувач зміг отримати доступ до пристрою IT-спеціаліста з Північної Кореї,…
Курс Solana піднявся вище $205, збільшившись на 18% менше ніж за…
Apple планує значний вихід на ринок штучного інтелекту з новою серією…