CEO Anthropic: Штучний інтелект може перевершити наші можливості контролю
Надто стрімкий розвиток штучного інтелекту може вийти з-під нашого контролю. З такою тривогою виступив генеральний директор компанії Anthropic Даріо Амодеї. На його думку, прогрес у сфері ШІ може “випередити нашу здатність розуміти й контролювати ці системи”.
Амодеї опублікував есе обсягом 3800 слів, у якому закликав до глобального сповільнення розробки штучного інтелекту. Він вважає, що компанії, які займаються розробкою найпотужніших моделей ШІ, мають пригальмувати, аби захисні механізми встигали за їхнім розвитком.
Цю думку підтримав і генеральний директор OpenAI Сем Альтман, який заявив, що сповільнення необхідне. “Це було одним із головних питань на наших обговореннях в OpenAI протягом останніх тижнів”, – написав Альтман. Ці попередження прозвучали невдовзі після того, як дослідник Anthropic Джейкоб Коксон залишив індустрію ШІ через схожі побоювання. Даріо Амодеї також закликає до незалежної оцінки безпеки ШІ та посилення координації між урядами.
Однак не всі поділяють цю стурбованість. Генеральний директор Nvidia Дженсен Хуанг нещодавно заявив, що компанії, які займаються розробкою ШІ, штучно роздувають побоювання щодо кібербезпеки, аби потім пропонувати власні рішення для цих проблем. “Який кращий спосіб створити попит, ніж створити проблему?” – риторично запитав Хуанг.
Інформація підготовлена на основі матеріалів: www.entrepreneur.com