«Бросьте очередную Вавилонскую башню»: Папа Римский призвал «разоружить» ИИ

Папа Римский Лев XIV призвал правительства сбавить темп развития искусственного интеллекта, жестко регулировать разработку ИИ-систем, особенно применяемых в военных целях, и «разоружить» алгоритмы, передает Reuters. В своем первом послании католикам — энциклике на 43 000 слов, обнародованной в понедельник, — папа Римский призвал сделать ИИ более «дружественным к человеку». Он заявил, что эту технологию необходимо освободить от монопольного контроля и уйти от ее использования ради геополитической или коммерческой выгоды, пишет Bloomberg.

«Разоружить — значит дискредитировать предположение о том, что техническая мощь автоматически дает право управлять. Разоружить — не значит отвергнуть технологию, а значит не позволить ей господствовать над человечеством», — заявил папа Лев XIV в энциклике, обращенной к верующим.

Понтифик подчеркнул, что ИИ-системы усиливают дезинформацию, а при моделировании конфликтов отдают приоритет их эскалации, чем рискуют привести мир на путь бесконечной войны. Первый папа из США призвал не оставлять владение данными для ИИ исключительно в частных руках, потребовал от политиков защищать права работников и ограждать детей от этой технологии, а также порекомендовал охладить конкуренцию между ИИ-компаниями.

Он также предупреждает, что «непрозрачные алгоритмы», контролируемые могущественными частными компаниями, несут угрозу «новых форм дегуманизации», и призывает правительства и общество сознательно добиваться снижения потенциального негативного воздействия ИИ во многих сферах, включая образование, рынок труда и личные отношения, пишет The Wall Street Journal.

Папа Римский утверждает, что ключевая проблема — это не сама технология, а стоящая за ней идея, в которой некоторые жизни считаются «менее полезными, менее желательными и менее достойными», чем другие. «Во имя прогресса могут начаться оправдания «необходимых жертв», возлагая бремя на наиболее уязвимых в погоне за предполагаемой оптимизацией вида», — пишет понтифик. Это критика трансгуманистического и постгуманистического видения влиятельных предпринимателей Кремниевой долины, таких как Питер Тиль и Илон Маск, считает Financial Times.

Лев XIV потребовал «прозрачности и подотчетности» для всех инструментов ИИ, используемых в общественной жизни, чтобы защитить людей от ситуации, при которой машины ограничивают их потенциал.

«Необходимо более активное политическое участие, способное замедлить ход событий, когда все ускоряется», — заявил понтифик. Он призвал к созданию «надежных правовых рамок, независимого надзора, информированных пользователей и политической системы, которая не отказывается от своей ответственности».

Папа Римский также предупредил о способности ИИ имитировать эмпатию и понимание, «создавая иллюзию отношений с реальным человеком», что ведет к риску того, что люди «могут постепенно утратить само желание устанавливать подлинные человеческие связи», цитирует его WSJ.

Понтифик отметил, что общество должно ответить на «ключевые вопросы» о том, как развивается ИИ и в каком направлении в целом движется мировое лидерство. Он сделал отсылку к библейской истории о Вавилонской башне, где люди, движимые гордыней, пытались построить башню такой высоты, чтобы достичь небес, чем вызвали гнев Бога. Папа сказал, что эта история показывает риск любого начинания, которое «стремится достичь неба без Божьего благословения». «С сердцем пастыря и отца я прошу каждого бросить строительство очередной Вавилонской башни и объединить силы ради созидания общего блага», — заявил Лев XIV.

Документ, главной темой которого стал ИИ, также осудил количество войн, сотрясающих мир, выразил сожаление по поводу ослабления международных организаций и заявил, что прибыль оружейной промышленности является одной из движущих сил столкновений. «Последние 60 лет были отмечены конфликтами поразительной жестокости, часто затрагивающими гражданское население в огромных масштабах, — заявил Лев XIV. — Человечество скатывается к насильственной культуре силы, где мир больше не воспринимается как ответственность, которую нужно взять на себя, а лишь как хрупкий промежуток между конфликтами».

На мероприятии в Ватикане, где было зачитано послание, присутствовал сооснователь Anthropic Крис Ола, передает Reuters. Anthropic — один из лидеров сферы ИИ, создавший чат-бота Claude. Ола поблагодарил Льва XIV за то, что тот обратился к проблемам, которые порождает новая технология. Он согласился, что такие компании, как Anthropic, сталкиваются с сильным коммерческим давлением и нуждаются во внешнем контроле.

«Каждая лаборатория передового ИИ, включая Anthropic, действует внутри набора стимулов и ограничений, которые иногда могут вступать в противоречие с тем, чтобы поступать правильно», — сказал Ола в изложении Reuters. По словам топ-менеджера, существует «реальная возможность» того, что ИИ вытеснит человеческий труд «в очень больших масштабах».

«Если это произойдет, поддержка тех, кто будет вытеснен, станет моральным императивом исторического масштаба», — сказал Ола (цитата по Reuters).

Ола приветствовал участие католической церкви в обсуждении быстро развивающейся технологии, заявив, что этические вопросы, которые поднимает ИИ, выходят далеко за рамки инженерии. Ола выделил три направления, которые, по его словам, требуют срочного внимания общества: риск масштабной потери рабочих мест, необходимость добиться того, чтобы выгоды от ИИ распространялись по всему миру, и нерешенный вопрос о том, как интерпретировать все более сложное и порой непрозрачное поведение ИИ-систем.

ИИ-стартап Anthropic в этом году потерял контракты с Пентагоном из-за того, что запретил Минобороны использовать свой ИИ для полностью автономных вооружений или для массовой внутренней слежки за американцами.