教宗G7会议上：人工智能必须始终为人类服务

“这是一种既迷人又可怕的工具。”这就是教皇方济各在七国集团演讲中对人工智能的定义。

教宗的反思始于这样的观察：“我们正在谈论一个极其强大的工具，它今天已经在许多不同的应用中使用，并将日益影响我们的生活方式、我们的社会关系，以及在未来，甚至我们的生活方式。构想我们作为人类的身份。”

这是一个矛盾的主题，“一方面对其提供的可能性感到兴奋，另一方面又对其所暗示的后果产生恐惧。（……）此外，我们不能怀疑人工智能的出现代表了一种真实的、自我认知的工业革命”。 因此，人工智能可以让人们更加民主地获取知识，在科学研究方面取得难以想象的进步“但与此同时，它也可能带来发达国家和发展中国家之间、主导社会阶层和被压迫社会阶层之间更大的不公正”。

最终，“人工智能首先是一种工具。很自然地说，它带来的好处或损害将取决于它的使用”。

然后是关于其在战争中使用的警告：“在武装冲突这样的戏剧性事件中，迫切需要重新考虑所谓‘致命性武器’等设备的开发和使用，采取积极行动禁止其使用。任何机器都不应该用于夺走人类的生命。”

关于生成人工智能，弗朗西斯科观察到，“事实上，它在大数据中搜索信息，并按照要求的风格对其进行包装。它不会开发新的概念或分析。它会重复它所发现的概念或分析，并赋予它们一种有吸引力的形式。并且发现重复的概念或假设越多，它就越被认为是合法和有效的，而不是“生成的”，因此它是“强化的”，从某种意义上说，它重新排序现有内容，帮助巩固它们，通常不检查它们是否包含错误或先入之见这样一来，人们不仅面临着使假新闻合法化和加强主流文化优势的风险，而且还可能破坏处于起步阶段的教育过程。”

需要制定一项懂得如何将人及其尊严置于中心的政策：在这个历史时期，“人的意识丧失或至少消失，人的尊严概念明显变得无足轻重”。西方的基本范畴之一——人的范畴——的价值和深刻意义似乎正在消失。因此，在这个人工智能程序质疑人类及其行为的时代，恰恰是人类。与人类价值和尊严的认知相关的精神的弱点可能会成为这些系统的实施和开发中最大的弱点，因此（人工智能程序，编辑）是构建良好和更好的工具。明天，必须始终以每个人的利益为目标。他们必须有道德灵感”。