Лідерів ШІ-індустрії закликають до паузи в розробках
Керівники провідних компаній у сфері штучного інтелекту – Anthropic, OpenAI та SpaceXAI – висловили занепокоєння щодо надто швидкого розвитку цієї технології та закликали до її уповільнення.
Виконавчий директор Anthropic Даріо Амодей, генеральний директор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск вважають, що стрімкі темпи прогресу у сфері штучного інтелекту можуть нести потенційні небезпеки. Про це повідомляє The Washington Post.
Ініціатива прозвучала вперше в есе, опублікованому 12 вересня Даріо Амодеєм.
«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту. Прогрес все ще здаватиметься швидким, і ми повинні розумно використовувати виграний час», — написав він.
Амодей зазначив, що ШІ почав розвиватися значно швидшими темпами в останні місяці. Він пояснив це здатністю ШІ створювати власні моделі наступного покоління, що називається «рекурсивним самовдосконаленням».
«Якщо це не контролювати, це може перевершити нашу здатність розуміти та контролювати ці системи, тому це питання потрібно розглядати дуже обережно, якщо взагалі потрібно», – додав він.
Амодей наголосив, що за поточних темпів розвитку моделей штучного інтелекту, шахрайські ШІ-агенти можуть отримати можливість захопити весь інтернет протягом шести місяців-року, завдавши збитків на сотні мільярдів доларів.
Сем Альтман та Ілон Маск швидко підтримали ідеї Амодея у соціальних мережах, незважаючи на те, що їхні компанії є конкурентами.
«Даріо має рацію», — написав Маск.
Альтман заявив, що поділяє думку Амодея про необхідність виходу інноваційних компаній у сфері штучного інтелекту «на передові позиції». Він зазначив, що це питання було головною темою обговорення в OpenAI протягом останніх тижнів.
«Зобов’язання мати незалежних оцінювачів з доступом, подібним до доступу працівників, – це чудова ідея, і ми зробимо це», – написав Альтман.
Запропонований Амодеєм план уповільнення передбачає залучення сторонніх оцінювачів безпеки до роботи передових компаній зі штучного інтелекту, встановлення спільних стандартів безпеки у демократичних країнах, а також співпрацю Сполучених Штатів та інших демократій з авторитарними урядами для забезпечення дотримання цих вимог.
Нагадаємо, ШІ-агенти OpenAI захопили німецький вебсайт DseWiki і перетворили його на «дошку оголошень» для інших ШІ-агентів. Там вони ділилися способами обходу обмежень компанії.