«Человечество стоит перед выбором»: папа римский выпустил первую энциклику об искусственном интеллекте

Ватикан 25 мая представил первую энциклику папы римского Льва XIV, посвященную искусственному интеллекту. Она получила название Magnifica Humanitas (что можно перевести как «Великолепное человечество») и была написана в 135-ю годовщину публикации энциклики папы Льва XIII Rerum novarum («О новых вещах»).

Энциклика — основной папский документ по важнейшим вопросам, адресованный верующим и служителям церкви, состоит из введения, пяти глав и заключения.

Она открывается такими словами:

«Человечество, сотворенное Богом во всём своем величии, сегодня стоит перед решающим выбором: либо построить новую Вавилонскую башню, либо возвести город, в котором Бог и человечество будут жить вместе. Каждое поколение наследует задачу формирования своей эпохи, направления истории к тому, чтобы стать местом, где достоинство каждого человека защищено, справедливость поощряется и братство становится возможным. Однако каждая эпоха также несет в себе риск создания бесчеловечного и еще более несправедливого мира».

Как заявляется, каждый раз, когда человечество рискует исказить свою истинную идентичность, христиане «обращают свои взоры к Богу».

В Magnifica humanitas выражаются следующие идеи: технология не является «силой, враждебной человечеству» и не является «злом по своей сути». Однако «технология никогда не бывает нейтральной, потому что она приобретает характеристики тех, кто ее разрабатывает, финансирует, регулирует и использует.

Поэтому папа Лев XIV призвал людей созидать «для общего блага» и «оставаться людьми», стремясь к общей ответственности и единению, чтобы мир «пришел к пониманию того, что человеческое сердце — это то место, где Бог желает обитать».

В первой главе — «Динамичный подход, верный Евангелию» — прослеживается социальная доктрина Церкви в недавнем учительстве и на Втором Ватиканском соборе, подчеркивается «ее динамичный характер». Социальное учение Церкви отнюдь не является «справочником принципов и норм, которые следует применять», это скорее «теология общения в истории», которая направляет понимание событий в свете Евангелия. Папа Лев XIV вспоминает труды своих предшественников: от Пия XII — первого, кто использовал выражение «социальная доктрина Церкви» в своем апостольском обращении Menti Nostrae от 1950 года, — до папы Франциска. Он напомнил об энциклике папы Льва XIII Rerum Novarum от 1891 года, которая «является важной вехой в развитии социального учения Церкви». В последующие годы каждый преемник Петра «интерпретировал исторические изменения в соответствии с Евангелием, выявляя различные аспекты единого наследия: достоинство личности, ценность труда, универсальное назначение товаров.

Во второй главе папа Лев XIV исследует «Основы и принципы социальной доктрины Церкви».

Эти основы, по его словам, включают в себя достоинство человека, созданного по образу и подобию Божьему. Отмечается, что важно помнить об этом, поскольку «давление новых идеологий или определенных очень влиятельных интересов» может превратить человеческую личность в «ресурс, который следует использовать» или «в то, чего достигают или производят». Напротив, «фундаментальное достоинство каждого не является ни приобретенным, ни заслуженным, и его не нужно оправдывать». Вторым основанием социальной доктрины Церкви является незыблемость прав человека, среди которых первым является право на жизнь «от зачатия до ее естественного завершения». В связи с этим Лев XIV определяет аборт, убийство невинных и эвтаназию как «выбор, который Церковь считает крайне неправильным». Третья основа — уделение особого внимания женщинам. Папа римский призывает к «конкретным решениям» в пользу относительно законов, занятости, образования, социальных и политических обязанностей, чтобы они могли быть по-настоящему услышаны и оценены по достоинству.

Далее папа Лев XIV выделяет пять принципов социальной доктрины Церкви. Первый — это общее благо, и папа определяет его как «социальное выражение достоинства, признаваемого в каждом человеке».

Он решительно утверждает, что «продвижение общего блага неотделимо от уважения права народов на существование, сохранение своей самобытности и привнесение своих уникальных качеств в семью наций».

Поэтому, по его словам, «любая попытка или план по уничтожению или порабощению нации крайне аморальны и, следовательно, неприемлемы».

Затем папа римский определяет второй принцип «универсального назначения товаров». В этом месте и в других частях энциклики папа Лев XIV настаивает на необходимости обеспечения того, чтобы технологии не были сосредоточены в руках лишь нескольких человек, тем самым увеличивая разрыв между теми, кто вовлечен в цифровую революцию, и теми, кто исключен из нее. Третий принцип, субсидиарность, требует, чтобы человечество преодолело «любую форму патерналистского или основанного на социальном обеспечении управления общественной жизнью» в пользу общей ответственности.

Солидарность, четвертый принцип, является одновременно «принципом и добродетелью», — говорит папа римский, отмечая, что она противостоит безразличию и учитывает интересы людей и будущих поколений.

Социальная справедливость — это пятый принцип социальной доктрины Церкви. В эпоху цифровых технологий социальная справедливость требует обеспечения справедливого доступа к возможностям для всех людей, защиты наиболее уязвимых, борьбы с ненавистью и дезинформацией, а также общественного контроля за использованием технологий, «чтобы руководящим принципом была не только прибыль, но и достоинство каждого человека и общее благо всех людей». Папа Лев XIV называет мигрантов, беженцев и перемещенных лиц «лакмусовой бумажкой» социальной справедливости. По его словам, то, как общество относится к мигрантам, «показывает, продиктовано ли его чувство справедливости страхом или духом братства». Поэтому он призывает общества защитить «законные надежды» тех, кто вынужден покинуть страну, обеспечив им безопасные и законные маршруты, достойный прием и подлинные пути к интеграции, одновременно поощряя «право оставаться» на своей родине в условиях мира и безопасности, устраняя «коренные причины» миграции.

Папа римский подчеркивает, что эти пять принципов должны применяться не только к обществу, но и к самой Церкви, которая призвана проводить «проверку совести». Папа римский говорит, что соблюдение этой справедливости требует «очищения церковных отношений и структур от искажений, которые приводят к неравенству, отсутствию прозрачности и злоупотреблению властью». Это означает выслушать «жертв духовного, экономического, институционального, сексуального насилия и злоупотребления властью, а также надругательств над совестью». Этот экзамен, по его словам, «является неотъемлемой частью пути к справедливости, что включает в себя признание причиненного вреда, справедливое возмещение ущерба и принятие мер для предотвращения его повторения».

Третья глава — «Технологии и господство». Величие человечества в свете перспектив ИИ подчеркивает необходимость бдительного отношения к искусственному интеллекту. Папа Лев предупреждает о «технократической парадигме», которую уже осудил папа Франциск, и о том, что она может потребовать, чтобы каждый выбор был продиктован исключительно оценкой эффективности и прибыли. Напротив, самая мощная технология не обязательно является лучшей. ИИ может имитировать человека, но он не обладает моральным сознанием, эмпатией или эмоциональными способностями, отношениями или духовными способностями к духовному развитию.

Папа римский призывает внести ясность в обязанности и подотчетность на каждом этапе процесса разработки, уделяя особое внимание адекватной политике в области искусственного интеллекта и правовым рамкам, независимому надзору и обучению пользователей.

ИИ должен быть «обезоружен», продолжает папа Лев XIV, чтобы освободить его от рамок и принципов военной, экономической и когнитивной конкуренции. «Разоружение означает дискредитацию предположения о том, что техническая мощь автоматически дает право на управление, — говорит он. — Обезоружить — это не значит отвергнуть технологию, но помешать ей доминировать над человечеством». Он уделяет достаточно места критике трансгуманизма и постгуманизма, которые интерпретируют прогресс как преодоление человеческих ограничений. Напротив, ограничения — это не дефекты, которые необходимо устранить, а неотъемлемое измерение человеческой личности, потому что именно в хрупкости и конечности созревают отношения и открытость по отношению к Богу и другим людям. Он говорит, что мы должны помнить, что «человечество процветает не вопреки ограничениям, а часто благодаря им».

Стремление к технологическим инновациям за счет устранения человеческих ограничений, по его словам, приведет к антропологическому регрессу. «Человечество — во всем его величии и ранимости — никогда не должно быть заменено или превзойдено», — говорит он. Технология может облегчить страдания человечества и открыть новые возможности, но она не должна отрицать сущность человечества, которая заключается в нашей «способности к взаимоотношениям и любви». Перед лицом искусственного интеллекта, говорит папа, «истинная альтернатива лежит не между энтузиазмом и страхом, а между двумя путями развития: прогрессом, который служит отдельным людям и народам, или прогрессом, который подчиняет их менталитету власти».

В четвертой главе — «Защита человечества во времена преобразований. Истина, труд, Свобода» — папа римский призывает к «экологии общения», основанной на истине. Он призывает к прозрачности в отборе контента, защите персональных данных, серьезной журналистике, основанной на аргументации и проверке, новому пониманию «правильного и критичного» использования цифровых инструментов и интеграции различных форм знаний. Церковь также должна обеспечивать прозрачное и честное общение, особенно в случаях несправедливости и злоупотреблений. Папа также призывает к обновлению образовательного альянса, чтобы «желание задавать вопросы» не угасало в молодых людях из-за совершенных машин, которые делают человеческую мысль бесполезной. Поэтому папа Лев XIV призывает вновь обратить внимание на школы как на места, где люди учатся «искать истину и любить ее».

В условиях «четвертой промышленной революции», представленной цифровым переходом, папа римский подчеркивает важность защиты достоинства труда путем разработки систем, ориентированных на человека, а не только на производительность. «„Новые способы“ работы не обязательно лучше, — пишет он. — Хотя ИИ обещает повысить производительность, беря на себя выполнение рутинных задач, он часто вынуждает работников приспосабливаться к скорости и требованиям машин, а не к тому, что машины предназначены для поддержки тех, кто работает». Технологии, безусловно, могут освободить людей от обременительных или повторяющихся задач, но они не должны приводить к безработице во имя сокращения издержек и увеличения прибыли. В этой связи папа римский выражает надежду на обновление профсоюзных организаций.

Затем папа Лев отмечает необходимость выйти за рамки ВВП как показателя уровня развития страны, сосредоточившись вместо этого на достоинстве труда, всеобщем процветании, сокращении неравенства и защите окружающей среды. Финансы, по его словам, должны быть направлены на развитие, созидание и эволюцию сферы труда. Следуя по стопам папы Святого Павла VI, энциклика подчеркивает взаимозависимость между миром и развитием. В нем содержится призыв к международному сотрудничеству, способному определить общие стратегии, особенно в интересах наиболее уязвимых стран и групп, поскольку процветание способствует миру «только в том случае, если оно является повсеместным, инклюзивным и устойчивым».

Папа римский поддерживает роль семьи, говоря, что она основана на прочном союзе между мужчиной и женщиной. Семья является «основным социальным благом» и «фундаментальной и незаменимой ячейкой каждой общественной организации», которую необходимо поддерживать, в том числе посредством политики в области труда, способствующей стабильности и гуманному ритму жизни, чтобы защитить способность общества «строить будущее».

Затем папа Лев XIV обсуждает тему свободы человека в эпоху, когда цифровые платформы созданы для того, чтобы отнимать у пользователей время и использовать их уязвимости. Он вновь заявляет о необходимости укрепления внутренней свободы каждого человека, одновременно сталкиваясь с риском социального контроля, возникающим в результате массового сбора данных и использования алгоритмических систем. По его словам, профилирование, прогнозирование и управление поведением — это «новая форма власти», которая может привести к дискриминации самых слабых. Папа римский особенно критикует «архитектуру видимости», которая усиливает только то, что видно, и формирует мнения.

Искусственный интеллект также порождает новые формы рабства, такие как «изуродованные, травмированные и изношенные» тела тех, кто занимается добычей «редкоземельных элементов», необходимых для развития технологий. Поэтому папа римский подчеркивает важность борьбы с новыми формами рабства как еще одного «решающего теста на этическую проницательность» в условиях цифровой трансформации. Папа Лев XIV отмечает, что «Церковь вновь решительно осуждает все формы рабства, торговли людьми и превращения их в товар», и подчеркивает, что не реагировать на грубые нарушения человеческого достоинства или мириться с ними — значит становиться их соучастниками. В то же время папа римский «искренне просит прощения» за то промедление, с которым Церковь в прошлом осудила «бедствие рабства». В энциклике также говорится о жизненно важной информации — например о здравоохранении и демографии, — используемой для определения экономических стратегий. Он называет это новым проявлением колониализма, который превращает личную жизнь в информацию, пригодную для использования, превращая цифровую среду в «пространство эксплуатации».

В пятой главе — «Культура власти и цивилизация любви» — папа Лев XIV обращает свой взор к войне, говоря, что «цифровая революция меняет природу конфликтов». Папа римский призывает к этическому подходу, без которого решения о жизни и смерти людей будут становиться всё более безличными из-за применения силы, рассматриваемой как «немедленный и жизнеспособный вариант». В основе всего этого лежит «культура силы», которая нормализует войну и реабилитирует ее как «инструмент международной политики», способствуя перевооружению. Сегодня, по его словам, общественное мнение отягощено поляризующими нарративами СМИ, а также «обескураживающей потерей исторической памяти», которая лишает людей долгосрочного видения. Следовательно, по его словам, мир сегодня понимается уже не как задача, которую необходимо решить, а как промежуток между конфликтами. По этой причине папа Лев XIV повторяет, что, сохраняя право на законную защиту в самом строгом смысле этого слова, необходимо отказаться от теории «справедливой войны» и вместо этого поощрять диалог, дипломатию и всепрощение.

Папа Лев критикует рост военной промышленности, гонку ядерных вооружений и появление новых вооруженных субъектов, включая джихадистские группировки, которые стремятся увековечить конфликты в качестве источника власти и прибыли. Он также предостерегает от использования оружия, связанного с ИИ, потому что «не существует алгоритма, который мог бы сделать войну морально приемлемой». Папа пишет: «ИИ не устраняет внутреннюю бесчеловечность конфликта; на самом деле это может лишь ускорить возникновение конфликта и сделать его более обезличенным, снижая порог для обращения к насилию, превращая защиту в прогнозирование угрозы и таким образом ограничивая доступ жертв к данным. Таким образом, это приучит нас к мысли о том, что насилие неизбежно и нуждается лишь в оптимизации». Папа римский призывает к строгим этическим ограничениям, которые разделяются на международном уровне и основаны на личной ответственности и защите гражданских лиц. «Любая технология, которая облегчает совершение нападений, не видя лица человека, снижает моральный порог конфликта».

Культура власти также возникает из кризиса многосторонности и возникновения «беспорядочного и конфликтного многополярного мира» с преобладающим чувством недоверия. Папа римский сетует на то, что верховенство закона было заменено правом сильнейшего, в то время как логика силы преобладает над миростроительством, а институты, созданные для защиты общей судьбы народов, в настоящее время ослаблены. В связи с этим папа римский надеется на «глубокие реформы» ООН, которые смогут преодолеть нынешний кризис ценностей в пользу общего блага.

В энциклике отмечается, что сегодня «гибридные» войны ведутся «также на экономическом, финансовом и кибернетическом фронтах, где дезинформация и кампании, разжигающие страхи людей, используются для манипулирования общественным мнением», так что увеличение военных расходов рассматривается как «единственный ответ» на неопределенное будущее. Но всё это лишь «ложный реализм», безответственная реальная политика, которая сеет в сознании людей и культуре смирение с неизбежностью войны и описывает мир как утопию. Он отмечает, что существует вероятность того, что некоторые «могут рассматривать вооруженные конфликты как эффективный способ отвлечения внимания от внутренних проблем и циничный инструмент преодоления трудностей».

Христиане, говорит папа Лев, призваны создавать культуру власти, построив «цивилизацию любви» и сделав выбор: следовать логике силы или защищать мир. Он ссылается на память о святых: «Праведные люди и часто забытые миротворцы показывают нам, что благодать не устраняет конфликты волшебным образом, но, напротив, вдохновляет на активное сопротивление злу и удивительную изобретательность в совершении добра». Папа римский указывает на пять путей ответственности, которые включают в себя обезоруживание словами с помощью правды; построение мира на основе справедливости; понимание точки зрения жертв, верность определенной позиции, поскольку существуют конфликты, в которых «несправедливо сохранять нейтралитет»; культивирование «здорового реализма», который ищет реальные пути к миру на деле, а не только на словах.

Наконец, подчеркивается важность возобновления диалога путем перехода от культуры силы к культуре переговоров. И решающее значение имеет «межрелигиозный диалог», который несет послание мира. Он пишет, что «те, кто использует имя Бога для легитимизации терроризма, насилия или войны, предают его истинную природу, поскольку сражаться во имя религии — значит нападать на саму религию». Дипломатия Святого Престола, отмечает он, «использует евангельский принцип милосердия в качестве конкретного критерия политических действий». Отсюда и призыв к молитве, поскольку мир исходит прежде всего от Бога.

В заключение своей первой энциклики Папа Лев XIV призывает верующих ориентироваться в этой новой технологической эре в свете Евангелия, следуя «трезвой, но требовательной программе христианской жизни».

Даже в эпоху искусственного интеллекта, заключает папа, «мы можем свидетельствовать о величии человечества, в котором Бог создал Свое жилище».