Папа Франциск: искусственный интеллект – инструмент завораживающий и одновременно жуткий

Уважаемые дамы, уважаемые господа!

Сегодня я обращаюсь к вам, лидерам Межправительственного форума «Большой семерки», с размышлениями о влиянии искусственного интеллекта на будущее человечества.

«Священное Писание свидетельствует, что Бог наделил людей Своим Духом, дабы они обладали «мудростью, разумением и ведением и всяким искусством» (Исх 35,31). Разум есть выражение достоинства, дарованного нам Творцом, Который создал нас по Своему образу и подобию (см. Быт 1,26) и позволил свободно и сознательно отвечать на Его любовь. Наука и техника особым образом проявляют это главным образом межличностное качество человеческого интеллекта: они являются выдающимися плодами его творческого потенциала.

Что ж, именно благодаря использованию этого творческого потенциала, данного нам Богом, на свет появляется искусственный интеллект.

Последний, как известно, представляет собой чрезвычайно мощный инструмент, используемый во многих сферах человеческой деятельности: от медицины до сферы труда, от культуры до сферы коммуникации, от образования до политики. И теперь разумно предположить, что его использование будет все больше влиять на наш образ жизни, наши социальные отношения, а в будущем даже на то, как мы воспринимаем свою идентичность как людей.

Однако тема искусственного интеллекта часто воспринимается амбивалентно: с одной стороны, она восхищает возможностями, которые предлагает, с другой, порождает страх перед последствиями, которые она предполагает. В связи с этим можно сказать, что всех нас, хотя и в разной степени, пересекают две эмоции: мы с энтузиазмом представляем себе прогресс, который может быть достигнут с помощью искусственного интеллекта, но в то же время нас пугает, когда мы видим опасности, присущие его использованию.

Более того, мы не можем сомневаться в том, что появление искусственного интеллекта представляет собой настоящую когнитивно-индустриальную революцию, которая будет способствовать созданию новой социальной системы, характеризующейся сложными эпохальными трансформациями. Например, искусственный интеллект мог бы обеспечить демократизацию доступа к знаниям, экспоненциальный прогресс научных исследований, возможность делегирования напряженной работы машинам; но, в то же время, это может принести с собой большую несправедливость между развитыми и развивающимися странами, между доминирующими и угнетенными социальными классами, тем самым ставя под угрозу возможность «культуры встречи» в пользу «одноразовой культуры».

Масштабы этих сложных преобразований, очевидно, связаны с быстрым технологическим развитием самого искусственного интеллекта.

Именно этот бурный технологический прогресс делает искусственный интеллект одновременно захватывающим и ужасным инструментом и требует размышлений, соответствующих поставленной задаче.

В этом направлении, возможно, мы могли бы начать с наблюдения о том, что искусственный интеллект – это прежде всего инструмент. И естественно сказать, что польза или вред, которые оно принесет, будет зависеть от его использования.

Это, безусловно, верно, поскольку так было с каждым инструментом, созданным людьми с незапамятных времен.

Эта наша способность создавать инструменты в количестве и сложности, не имеющей аналогов среди живых существ, предполагает техночеловеческое состояние: люди всегда поддерживали отношения с окружающей средой, опосредованные инструментами, которые они постепенно производили. Невозможно отделить историю человека и цивилизации от истории этих инструментов. Кто-то хотел усмотреть во всем этом некую нехватку, дефицит человеческого существа, как будто из-за этого недостатка он был вынужден дать жизнь технике. Внимательный и объективный взгляд на самом деле показывает нам обратное. Мы живем в состоянии дополнительности по отношению к нашему биологическому существу; мы – существа, неуравновешенные по отношению к внешнему миру, и на самом деле радикально открытые для внешнего мира. Вот откуда берет начало наша открытость другим и Богу; отсюда исходит творческий потенциал нашего интеллекта в плане культуры и красоты; наконец, отсюда берут начало наши технические возможности. Технология, таким образом, является следом нашего дальнейшего развития.

Однако использование наших инструментов не всегда направлено однозначно на благо. Даже если человек чувствует в себе призвание к потустороннему и к знанию, живущему как орудие добра на службе братьев и сестер и общего дома (см. Gaudium et spes, 16), это не всегда происходит. Действительно, нередко благодаря своей радикальной свободе человечество извращало цели своего существования, превращаясь во врага себя и планеты. Технологических инструментов может постигнуть та же участь. Только если их призвание к служению человечеству будет гарантировано, технологические инструменты раскроют не только величие и уникальное достоинство человека, но и полученный последним мандат «возделывать и охранять» (см. Быт. 2,15) Планету и всех ее обитателей. Разговор о технологиях – это разговор о том, что значит быть человеком и, следовательно, о нашем уникальном положении между свободой и ответственностью, то есть это означает разговор об этике.

Фактически, когда наши предки точили кремневые камни для изготовления ножей, они использовали их как для резки кожи на одежду, так и для того, чтобы убивать друг друга. То же самое можно сказать и о других, гораздо более продвинутых технологиях, таких как энергия, производимая в результате синтеза атомов, как это происходит на Солнце, которую, безусловно, можно использовать для производства чистой и возобновляемой энергии, а также для превращения нашей планеты в груду пепла.

Однако искусственный интеллект – еще более сложный инструмент. Я бы даже сказал, что это уникальный инструмент. Таким образом, в то время как использование простого инструмента (например, ножа) находится под контролем человека, который его использует, и его хорошее использование зависит только от последнего, искусственный интеллект, с другой стороны, может автономно адаптироваться к поставленной задаче и, если он спроектирован таким образом, делает независимым от человека выбор для достижения поставленной цели.

Всегда стоит помнить, что в некоторых формах и с помощью этих новых средств машина может производить алгоритмический выбор. То, что делает машина, – это технический выбор между несколькими возможностями, основанный либо на четко определенных критериях, либо на статистических выводах. Однако человек не только выбирает, но и в глубине души способен принимать решения. Решение – это элемент, который мы могли бы определить, как более стратегический, чем выбор, который требует практической оценки. Иногда, часто в сложной задаче управления, мы призваны принимать решения, имеющие последствия для многих людей. В этом отношении человеческое размышление всегда говорило о мудрости, фронезисе греческой философии и, по крайней мере частично, о мудрости Священного Писания. Столкнувшись с чудесами машин, которые, кажется, способны выбирать самостоятельно, мы должны ясно понимать, что решение всегда должно оставаться за человеком, даже несмотря на драматические и настойчивые тона, которыми это иногда проявляется в нашей жизни. Мы обрекли бы человечество на безнадежное будущее, если бы отняли у людей способность принимать решения о себе и своей жизни, обрекая их на зависимость от выбора машин. Нам необходимо гарантировать и защищать значительное пространство человеческого контроля над процессом выбора программ искусственного интеллекта: на карту поставлено само человеческое достоинство.

Именно на этом вопросе позвольте мне настаивать: в такой драме, как вооруженные конфликты, необходимо срочно переосмыслить разработку и использование таких устройств, как так называемое «летальное автономное оружие», и запретить его использование, начиная уже с активного и конкретного обязательства ввести еще больший и значительный контроль со стороны человека. Ни одна машина никогда не должна выбирать, отнять ли у человека жизнь.

Следует также добавить, что правильное использование, по крайней мере, передовых форм искусственного интеллекта, не будет полностью находиться под контролем ни пользователей, ни программистов, которые определили свои первоначальные цели во время их создания. И это тем более верно, что весьма вероятно, что в не столь отдаленном будущем программы искусственного интеллекта смогут напрямую взаимодействовать друг с другом, чтобы улучшить свою производительность. И если в прошлом люди, создававшие простые инструменты, видели, что их существование формируется ими (нож позволил им пережить холод, но также и развить искусство войны), то теперь, когда люди создали сложные инструменты, они увидят, как последние формируют их существование тем более.

Теперь я хотел бы кратко остановиться на сложности искусственного интеллекта. По своей сути искусственный интеллект представляет собой инструмент, предназначенный для решения задачи и работающий посредством логической цепочки алгебраических операций, выполняемых над категориями данных, которые сравниваются с целью выявления корреляций, повышения их статистической ценности за счет самоанализа процесса обучения, основанного на поиске дополнительных данных и самомодификации процедур их расчета.

Таким образом, искусственный интеллект предназначен для решения конкретных проблем, но для тех, кто его использует, соблазн сделать общие выводы, даже антропологического характера, из предлагаемых им конкретных решений часто непреодолим.

Хорошим примером является использование программ, призванных помочь мировым судьям в принятии решений о назначении домашнего ареста заключенным, отбывающим наказание в тюремном учреждении. В этом случае искусственному интеллекту предлагается спрогнозировать вероятность повторения преступления, совершенного осужденным, исходя из заранее установленных категорий (тип преступления, поведение в тюрьме, психологические оценки и т. д.), что дает искусственному интеллекту доступ к категориям данных, касающихся частной жизни заключенного (этническое происхождение, уровень образования, кредитная линия и т. д.). Использование такой методологии – которая иногда рискует делегировать де-факто последнее слово в судьбе человека машине – может неявно повлечь за собой ссылку на предрассудки, присущие категориям данных, используемых искусственным интеллектом.

Принадлежность к определенной этнической группе или, говоря более прозаично, совершение незначительного правонарушения несколько лет назад (не заплатив, например, штраф за запрещенную парковку), фактически повлияет на решение о разрешении домашнего ареста. Напротив, человек всегда развивается и способен удивлять своими действиями, чего машина не может принять во внимание.

Следует также отметить, что приложения, подобные только что упомянутому, будут подвергаться ускорению благодаря тому, что программы искусственного интеллекта будут все больше оснащаться возможностью напрямую взаимодействовать с людьми (чат-ботами), вести с ними беседы и устанавливать тесные отношения. с ними, часто очень приятно и обнадеживающе, поскольку эти программы искусственного интеллекта будут разработаны для того, чтобы научиться персонализированно реагировать на физические и психологические потребности людей.

Забывание о том, что искусственный интеллект – это не другой человек и что он не может предлагать общие принципы, часто является серьезной ошибкой, которая проистекает либо из глубокой потребности людей найти стабильную форму общения, либо из их подсознательного предположения, то есть из предположения что наблюдения, полученные с помощью вычислительного механизма, наделены качествами неоспоримой достоверности и несомненной универсальности.

Однако это предположение является рискованным, как показывает изучение внутренних ограничений самого расчета. Искусственный интеллект использует алгебраические операции, которые выполняются в соответствии с логической последовательностью (например, если значение X больше, чем значение Y, умножьте X на Y; в противном случае разделите X на Y). Этот метод расчета – так называемый «алгоритм» – не имеет ни объективности, ни нейтральности. Фактически, будучи основанным на алгебре, он может исследовать только реальности, формализованные в числовых терминах.

Кроме того, не следует забывать, что алгоритмы, предназначенные для решения очень сложных задач, настолько сложны, что самим программистам трудно понять, как именно им удается добиться своих результатов. Эта тенденция к усложнению рискует значительно ускориться с появлением квантовых компьютеров, которые будут работать не с двоичными схемами (полупроводники или микрочипы), а в соответствии с довольно сложными законами квантовой физики. С другой стороны, постоянное внедрение все более высокопроизводительных микрочипов уже стало одной из причин преобладания использования искусственного интеллекта теми немногими странами, которые им оснащены.

Независимо от того, сложны они или нет, качество ответов, которые дают программы искусственного интеллекта, в конечном итоге зависит от данных, которые они используют, и от того, как они ими структурированы.

Наконец, я хотел бы отметить еще одну область, в которой отчетливо проявляется сложность механизма так называемого генеративного искусственного интеллекта. Никто не сомневается, что сегодня существуют великолепные инструменты для доступа к знаниям, которые позволяют даже заниматься самообучением и самонаставничеством во множестве областей. Многие из нас были впечатлены легко доступными онлайн-приложениями для создания текста или изображения на любую тему или аргумент. Эта перспектива особенно привлекает студентов, которые, когда им приходится готовить рефераты, используют их непропорционально много.

Эти студенты, которые часто гораздо более подготовлены и привыкли к использованию искусственного интеллекта, чем их учителя, забывают, однако, что так называемый генеративный искусственный интеллект в строгом смысле этого слова не совсем «генеративный». Последний, по сути, ищет информацию в больших данных и упаковывает ее в требуемом от нее стиле. Он не разрабатывает новые концепции или анализ. Он повторяет найденные, придавая им привлекательную форму. И чем больше повторяется идея или гипотеза, тем более законной и обоснованной она считается. Таким образом, оно больше, чем «генеративное», оно является «укрепляющим» в том смысле, что оно меняет существующее содержание, помогая консолидировать его, часто без проверки, содержит ли оно ошибки или предубеждения.

Таким образом, человек рискует не только легализовать фейковые новости и усилить преимущества доминирующей культуры, но и подорвать образовательный процесс, находящийся в зачаточном состоянии. Образование, которое должно предоставить учащимся возможность подлинного размышления, рискует свестись к повторению понятий, которые будут все больше оцениваться как неопровержимые просто из-за их постоянного повторения.

Теперь к уже сказанному следует добавить более общее наблюдение. Сезон технологических инноваций, который мы переживаем, на самом деле сопровождается особой и беспрецедентной социальной ситуацией: становится все легче находить соглашения по важнейшим вопросам общественной жизни. Даже в сообществах, характеризующихся определенной культурной преемственностью, часто возникают жаркие дебаты и конфронтации, которые затрудняют выработку общих политических размышлений и решений, направленных на поиск того, что хорошо и правильно. Помимо сложности законных представлений, характеризующих человеческую семью, возникает фактор, который, кажется, объединяет эти разные случаи. Это фиксируется как утрата или, по крайней мере, затмение чувства человеческого и кажущаяся незначительность понятия человеческого достоинства. Кажется, теряется ценность и глубокий смысл одной из фундаментальных категорий Запада: категории человеческой личности. Таким образом, в эту эпоху, когда программы искусственного интеллекта ставят под сомнение человека и его действия, сама слабость этоса, связанного с восприятием ценности и достоинства человеческой личности, рискует стать величайшей уязвимостью в реализации и развитии этих систем. На самом деле, мы не должны забывать, что ни одна инновация не является нейтральной. Технология рождается с какой-то целью и в своем воздействии на человеческое общество всегда представляет собой форму порядка в социальных отношениях и позицию власти, которая позволяет кому-то совершать действия и не позволяет другим совершать другие. Это конститутивное измерение технологии всегда включает в себя, в более или менее явной форме, мировоззрение тех, кто ее создал и развил.

Это касается и программ искусственного интеллекта. Для того чтобы последние стали инструментами построения добра и лучшего будущего, они всегда должны быть направлены на благо каждого человека. У них должно быть этическое вдохновение.

Фактически, этическое решение – это решение, которое учитывает не только результаты действия, но также поставленные на карту ценности и обязанности, вытекающие из этих ценностей. Вот почему я приветствовал подписание в Риме в 2020 году Римского призыва к этике искусственного интеллекта и его поддержку той формы этической модерации алгоритмов и программ искусственного интеллекта, которую я назвал «алгоретикой». В множественном и глобальном контексте, в котором также проявляются различная чувствительность и множественные иерархии в шкалах ценностей, казалось бы, трудно найти единую иерархию ценностей. Но в этическом анализе мы также можем использовать другие типы инструментов: если мы изо всех сил пытаемся определить единый набор глобальных ценностей, мы, тем не менее, можем найти общие принципы, с помощью которых можно противостоять и разрешать любые жизненные дилеммы или конфликты.

По этой причине родился «Римский призыв»: термин «алгоретика» объединяет ряд принципов, которые оказываются глобальной и множественной платформой, способной найти поддержку культур, религий, международных организаций и крупных компаний, являющихся сторонниками этого развития.

Поэтому мы не можем скрыть конкретный риск, поскольку в его фундаментальном механизме заложено то, что искусственный интеллект ограничивает видение мира реалиями, выражаемыми в числах и заключенными в заранее упакованные категории, исключая вклад других форм истины и навязывание единых моделей антропологического, социально-экономического и культурного характера. Технологическая парадигма, воплощенная искусственным интеллектом, рискует освободить место для гораздо более опасной парадигмы, которую я уже определил под названием «технократическая парадигма». Мы не можем позволить такому мощному и незаменимому инструменту, как искусственный интеллект, укрепить такую парадигму, а, скорее, мы должны сделать искусственный интеллект оплотом против его расширения.

И именно здесь срочно необходимы политические действия, о чем напоминает нам энциклика «Все мы братья». Конечно, «для многих сегодня политика – это плохое слово, и нельзя не учитывать, что за этим часто стоят ошибки, коррумпированность и неэффективность некоторых политиков. К этому добавляются стратегии, направленные на то, чтобы ослабить его, заменить его экономикой или доминировать над ним с помощью какой-либо идеологии. И все же, может ли мир существовать без политики? Можете ли вы найти эффективный путь к всеобщему братству и социальному миру без хорошей политики?».

Наш ответ на эти последние вопросы: нет! Политика нужна! Я хочу еще раз по этому поводу повторить, что «перед лицом столь многих мелких форм политики, направленных на сиюминутные интересы […] политическое величие проявляется тогда, когда в трудные моменты человек действует на основе великих принципов и мышления о долгосрочном общем благе. Политической власти очень трудно уместить эту обязанность в национальном проекте и тем более в общем проекте для настоящего и будущего человечества».

Уважаемые дамы, уважаемые господа!

Таким образом, мои размышления о влиянии искусственного интеллекта на будущее человечества побуждают нас задуматься о важности «здоровой политики», чтобы смотреть на наше будущее с надеждой и уверенностью. Как я уже говорил в другом месте, «мировое общество имеет серьезные структурные недостатки, которые невозможно устранить с помощью лишь периодических или быстрых исправлений. Есть вещи, которые необходимо изменить с помощью фундаментальных перезагрузок и крупных преобразований. Только разумная политика могла бы возглавить этот процесс, охватывая самые разнообразные сектора и знания. Таким образом, экономика, интегрированная в политический, социальный, культурный и народный проект, стремящийся к общему благу, может «открыть путь к различным возможностям, которые не подразумевают прекращение человеческого творчества и его мечты о прогрессе, а, скорее, направляют эту энергетику по-новому» (Laudato Sì, 191)».

Именно так обстоит дело с искусственным интеллектом. Задача каждого – правильно использовать его, а политики – создать условия, чтобы такое хорошее использование было возможным и плодотворным.

Спасибо.