Папа римський Лев XIV закликав регулювати штучний інтелект і попередив про ризики дегуманізації, дезінформації та використання ШІ (штучного інтелекту) у війні. Це перша енцикліка понтифіка через 13 місяців після обрання.
Енцикліка, одна з найважливіших форм послань очільників католицької церкви, має назву Magnifica Humanitas («Величне людство»).
В енцикліці – понад 40 тисяч слів, у центрі уваги – питання штучного інтелекту.
Що сказав понтифік про ШІ
Лев XIV нагадав біблійну історію про Вавилонську вежу і порівняв її з розвитком штучного інтелекту.
«Головний вибір стоїть не між «так» і «ні» технологіям, а між будівництвом Вавилона і відновленням Єрусалима; силою, яка претендує на панування над небесами, і народом, який трудиться разом у присутності Бога»
Папа римський попереджає про ризик дегуманізації та говорить про «синдром Вавилона»:
«ідолопоклонство прибутку, яке приносить у жертву слабких, одноманітність, що нівелює відмінності, і удавання, ніби єдина мова, навіть цифрова, може перетворити все, включно із загадкою людини, на цифрові дані»
Понтифік пише, що хоча швидкість і простота доступу до ШІ полегшують життя, вони можуть:
- сприяти надмірній залежності та пошуку готових відповідей;
- послаблювати особисту креативність і здатність ухвалювати рішення;
- призводити до втрати бажання встановлювати справжні людські зв’язки;
- посилювати нерівність;
- використовуватися для дезінформації, а «правда – невід’ємний елемент демократії».
Папа римський закликав уповільнити та жорстко регулювати розвиток систем штучного інтелекту:
«Потрібні надійні правові рамки, незалежний нагляд, поінформовані користувачі та політична система, яка не відмовляється від своєї відповідальності»
Понтифік також згадав про небезпеку використання штучного інтелекту у військових цілях.
Папа римський – про війну
У розділі «Нормалізація війни» Лев XIV пише, що після Другої світової війни панувало переконання: війна має залишатися крайнім засобом:
«Однак сьогодні ми спостерігаємо зміну парадигми… із тривожним поверненням війни як інструменту міжнародної політики… етичні принципи, які раніше обмежували її використання, розмиваються»
Він звертає увагу на «втрату історичної пам’яті, оскільки зникають свідчення очевидців Голокосту і двох світових воєн».
Тому «людство скочується до насильницької культури влади, де мир більше не сприймається як обов’язок, який потрібно взяти на себе, а лише як крихкий проміжок між конфліктами».
Папа римський заявляє, що «теорія «справедливої війни», яку надто часто використовували для виправдання будь-якої війни», застаріла – «без шкоди для права на самооборону в найсуворішому сенсі».
Понтифік попереджає про небезпеку використання штучного інтелекту у військових цілях.
Реакції: Орвелл і «1984»
На заході у Ватикані у понеділок, 25 травня, був присутній Кріс Ола, співзасновник однієї з провідних ШІ-компаній Anthropic. Він заявив, що ШІ-компанії стикаються із сильним комерційним тиском і потребують зовнішнього нагляду.
Техноінвестор і колишній радник Білого дому з ШІ та цифрових активів Девід Сакс вважає, що папа має рацію, коли каже, що ШІ має бути інструментом, який допомагає людям, а не веде до «домінування чи виключення».
Водночас він запитує в X:
«Якщо ми передамо урядам широкі повноваження щодо розвитку ШІ в ім’я безпеки, то як не допустити, щоб це використовували для цензури, стеження та контролю над громадянами – як передбачав Джордж Орвелл у «1984»?»
Історик католицизму Альберто Меллоні у статті для французької Le Monde називає енцикліку Папи Лев XIV спробою дати моральну відповідь на епоху штучного інтелекту та неконтрольований технократичний розвиток.
Меллоні звертає увагу, що понтифік критикує не самі технології, а «технократичну парадигму», за якої людська гідність може поступатися економічним інтересам і владі.
Водночас Меллоні бачить і суперечності: енцикліка фактично відкидає теорію «справедливої війни», але одночасно наголошує на необхідності людського контролю над летальною зброєю та військовими системами ШІ.
Британське видання Guardian у редакційній статтті пише, що папа намагається зробити для епохи ШІ те саме, що Лев XIII зробив у XIX столітті.
Автори проводять паралель із енциклікою «Rerum Novarum» 1891 року, яка була реакцією церкви на індустріальну революцію та експлуатацію працівників.
На думку видання, в умовах стрімкого розвитку ШІ суспільству потрібна саме така моральна дискусія про людську гідність, працю, демократію та межі технологічної влади.
Дискусія серед технологічних компаній, католицьких інтелектуалів і прихильників жорсткішого регулювання ШІ триває.
Форум