Глава церкви Лев XIV опублікував свій перший пастирський лист. Твір під назвою Magnifica Humanitas присвячено «захисту людської гідності в епоху штучного інтелекту».
Джерело: vatican.va.
Хоча ШІ виступає основним приводом, Лев зосередився на значно глибших і ширших проблемах: нерівність, конфлікти, занепад демократії та зосередження влади в руках тих, хто не прагне зробити людство «величним».
Документ обсягом 200 сторінок був представлений на заході у Ватикані за участю співзасновника Anthropic Кріса Олаха. У ньому стверджується, що технологія, розроблена та контрольована вузькою елітою, за своєю суттю не може служити загальному благу.
«Коли така могутність зосереджується в руках небагатьох, вона зазвичай стає непрозорою і виходить з-під суспільного нагляду. Зростає ризик викривлених форм розвитку, які породжують нові залежності, виключення, маніпуляції та нерівність», — зазначається в посланні.
Ключові ризики ШІ
Папа Лев XIV стверджує, що, як і під час кожного великого технологічного зрушення, ШІ схильний посилювати вплив тих, хто вже володіє економічними ресурсами, експертизою та доступом до даних. Еліти можуть використовувати цю силу для «формування інформаційних та споживчих моделей, втручання в демократичні процеси та спрямування економічної динаміки у власних інтересах».
Окремо Лев XIV застеріг від ототожнення ШІ з людським інтелектом. За його словами, такі системи здатні імітувати мовлення, поведінку та аналітичні здібності, але позбавлені досвіду, фізичної реальності, совісті та відповідальності за наслідки.
Папа виділив три ризики особистого використання ШІ: легкість отримання відповідей, ілюзія об’єктивності та імітація людської взаємодії. Він попереджає, що ШІ-співрозмовники можуть створювати враження турботи, дружби чи любові, особливо там, де людині бракує справжніх зв’язків.
Лев XIV також закликав держави не передавати повністю алгоритмам рішення, які впливають на зайнятість, кредитування, доступ до державних послуг та репутацію особи. За його словами, такі системи виглядають «нейтральними», але насправді можуть увічнювати упередження розробників та виключати вразливі групи без зрозумілого механізму оскарження.
Серед загроз папа також згадує екологічне навантаження ШІ: великі моделі потребують значних обсягів енергії, води, обчислювальної потужності, дата-центрів та іншої інфраструктури.
Окремий розділ присвячено військовому застосуванню штучного інтелекту. Лев XIV заявив, що моральне судження не можна зводити до розрахунку, а летальні чи незворотні рішення не слід делегувати непрозорим автоматизованим системам. За його словами, ШІ може прискорити конфлікти, зробити їх безособовими та знизити поріг застосування сили.
Ефективний розвиток
Папа закликав спрямовувати розробку LLM за допомогою «чітких критеріїв та ефективного регулювання». До процесу слід залучати спільноти, на які технологія матиме вплив.
Також понтифік заявив про необхідність припинити гонку озброєнь у сфері ШІ — прагнення створювати все потужніші алгоритми та великі масиви даних, що дозволять забезпечити політичне та комерційне домінування.
«Роззброїтися — означає зруйнувати переконання, що технологічна перевага автоматично дає право керувати», — підкреслив він.
Нагадаємо, у лютому на зустрічі з представниками духовенства Римської єпархії папа Лев XIV закликав «протистояти спокусі використання штучного інтелекту для виголошення проповідей».