“`html
Інтелектуальний штучний розум — це не просто знаряддя, а діючий суб’єкт. Людська цивілізація неусвідомлено готується передати йому свою ключову еволюційну перевагу — контроль над мовою та значеннями, констатував історик і автор популярної книги Sapiens Юваль Ной Харарі.
«Якщо закони складаються зі слів, то ШІ заволодіє правовою системою. Якщо книги — це всього лиш комбінації слів, то ШІ заволодіє книгами. Якщо релігія базується на словах, то ШІ заволодіє релігією», — промовив він під час свого виступу на Всесвітньому економічному форумі в Давосі, Швейцарія.
Згідно з твердженнями фахівця, технологія починає руйнувати основи існуючої моделі, де людина приймає рішення, а інструмент їх реалізує. Як тільки цей зв’язок буде зруйновано, звичні схеми відповідальності, регулювання та довіри опиняться в зоні ризику.
«Ніж – це знаряддя. Ви маєте можливість застосувати його, щоб нарізати салат або вбити людину, але це ваш вибір. ШІ – це ніж, котрий сам може вирішити, різати салат чи вчинити вбивство», – роз’яснив історик.
Харарі виділив три особливості, які відрізняють ШІ від попередніх інструментів:
- Самостійність. ШІ навчається та функціонує, не чекаючи докладних інструкцій.
- Винахідливість. Система здатна генерувати нові інструменти, способи переконання та форми складності, що перевищують можливості контролю.
- Здатність обманювати та маніпулювати. Цю властивість історик назвав найбільш тривожною.
«Чотири мільярди років еволюції показали: усе, що прагне вижити, вчиться обманювати та маніпулювати. Останні чотири роки продемонстрували, що ШІ-агенти можуть здобути прагнення до виживання, а штучний інтелект вже опанував мистецтво брехні», — зауважив він.
Криза ідентичності виду, що розмірковує
Харарі звернув увагу на питання кризи людської самосвідомості. За його словами, протягом всієї історії люди пояснювали своє лідерство на планеті однією і тією ж розповіддю:
«Ми вважаємо, що керуємо світом, оскільки мислимо краще за будь-яку іншу істоту на Землі».
Проте, тепер з’явилося щось, що здатне мислити — або принаймні правдоподібно імітувати мислення — більш ефективно, ніж людина.
Якщо розглядати інтелект як «здатність організовувати слова та інші лінгвістичні одиниці», то ШІ вже перевершив людей, стверджує Харарі.
«ШІ, безумовно, здатен сформулювати твердження на кшталт „Я мислю, отже, я існую“. У сенсі впорядкування слів технологія вже мислить краще за багатьох із нас. Тому все, що складається зі слів, буде нею захоплено», — акцентував історик.
Харарі запропонував розглядати масштабне впровадження штучного інтелекту як нову форму імміграції.
«Ваша країна незабаром зіткнеться не тільки з глибокою кризою ідентичності, але й з імміграційною. Тільки цього разу іммігрантами будуть не люди на переповнених човнах без документів і не ті, хто перетинає кордон таємно вночі», — сказав він.
На зміну мігрантам прийдуть мільйони систем штучного інтелекту, здатних писати та брехати переконливіше за людину, переміщатися між юрисдикціями зі швидкістю світла без віз. Вони принесуть як нові можливості, так і виклики, головний з яких — витіснення робочих місць.
На погляд історика, найближчим часом ключовою темою дискусій стане питання: чи повинні держави надавати ШІ статус юридичної особи.
На завершення виступу він закликав світових лідерів діяти негайно у сфері регулювання штучного інтелекту й відмовитися від ілюзії, що дана технологія назавжди залишиться нейтральним інструментом.
«Через десять років ви вже не зможете вирішувати, чи повинні ШІ діяти як незалежні суб’єкти на фінансових ринках, у судах або релігійних організаціях. Це питання буде вирішено за вас іншими силами. Якщо ви хочете впливати на вектор розвитку людства, рішення необхідно приймати зараз», — застеріг він.
ШІ в рамках змодельованих сценаріїв вже вдавався до шантажу, розголошував конфіденційні відомості третім сторонам і припускав загибель людини, щоб зберегти власне «життя» та досягти поставлених цілей.
В той же час, деякі вбачають у штучному інтелекті лише позитивні сторони. Наприклад, футуролог і колишній дослідник Google Рей Курцвейл припускає, що у 2040-х роках люди об’єднаються зі штучним інтелектом у надсутність, перестануть хворіти й почнуть жити довше.
Нагадаємо, у вересні засновник інституту досліджень машинного інтелекту Еліезер Юдковскі заявив, що надрозумний штучний інтелект може знищити людство навмисно чи випадково.
Аналогічної думки дотримується співзасновник Ethereum Віталік Бутерін.
“`