人工智能时代的“梦游者”

现在，众人期待在 11 月份，谈判开始，至少暂时停止乌克兰的灾难性战争，美国大规模选举结束，届时我们必须开启人工智能军事用途条约谈判的渠道。 但与谁进行谈判呢？首先显然是针对“独裁国家”中国和俄罗斯。原因有三：第一，两国在联合声明（2022年2月4日）中表示愿加强人工智能领域的对话和接触，深化国际网络安全领域的合作，为构建开放 、安全、可持续和可访问的ICT（信息通信技术）网络环境作出贡献。

坦率地说，对两国的诚意，包括因正在进行的战争而产生的诚意提出预防性怀疑是没有用的，不是因为它们不是可怕的对手，而是因为裁军和军备控制条约是经常与对手或潜在对手签订的。此外，这是一个具有全球重要性的问题，影响着包括当前交战各方在内的 80 亿人的未来。

第二个原因可以追溯到核军备竞赛的初期。广岛和长崎恐怖事件发生后不到一年（1946年），联合国大会非常明智地成立了一个特别委员会来消除所有核武器，同年，美国以同样的智慧提出了单方面废除核武器（美国的小型武库，只12 枚弹头）的巴鲁克计划和原子能的国际控制。苏联人不信任它，他们对这个计划投了弃权票，苏联的外交部长安德烈·格罗米柯（著名的涅特先生，谢尔盖·拉夫罗夫相较之反而更友好）于1947年提出了一项自己的建议，但被西方占多数的原子能安全委员会拒绝了。38年后，一些西方谈判代表怀疑，他们似乎错过了消除核武器的一个重要机会，即使不是废除所有核武器，至少可以将核武库限制在几枚炸弹，而不是我们看到的核积累爆发时双方的弹头数量达到约 10,000 枚。在下文我们很快就会看到的，人工智能在军事领域的后果是非常成问题的。

最终原因与人工智能发展的本质有关。这些算法不仅按照目前不可重构、不可解释和可追踪的逻辑工作（就好像一架飞机在我们不知道其内部发动机如何工作的情况下飞行一样），而且这些研究很大程度上是在政府控制之外进行的。用克列孟梭这样强硬的法国政治家的话来说：“人工智能！把它交到企业家手中风险太大。” 值得提醒通常的自由市场狂热者一下，硅谷本身也已承认，经济竞争存在以牺牲安全为代价来支持创新的风险，风险之大以至于 1,000 名专家要求暂停，以避免发展没有人——甚至它们的创造者也无法可靠地理解、预测或控制的“数字思维”。一年后，这个自治倡议因不具约束力，因此什么也没发生。

即使在国际层面，目前我们仍处于宣言和原则阶段：中国的全球人工智能治理倡议；广岛行为准则，G7；布莱切利公园宣言，人工智能安全峰会；管理人工智能造福人类报告、联合国 HLAB 以及 2023 年的所有举措，但通常是教科文组织和经合组织两年前的工作所带来的附带效应。

关于国际人工智能控制制度如何形成也有一些初步思考，其中最引人注目的是卡内基国际和平基金会艾玛·克莱因（Emma Klein）（总统特别助理）和斯图尔特·帕特里克（Stewart Patrick，秩序和全球机构项目主任）发表的一篇论文（03/21/2024） 。在分析了以前的模型和应用领域后，它设想了一个基于不同机构和参与者相互作用的复杂控制制度，类似于气候变化这样巨大的问题所使用的控制制度。

然而，这里提出的不是戴高乐主义的“庞大计划”，而是一项最初的双边条约（美国、中国），可在合理时间内向其他公认的核大国（也可能向未承认的核大国）开放，主要关注“人工智能在核威慑中的使用”，因为人工智能能力的竞赛已经启动，必须​​在一方认为自己拥有持续的霸主地位之前达成协议。

许多人理所当然地认为核威慑力从 20 世纪 80 年代起逐渐受到削弱，原因是：反导弹武器的发展、核导弹潜艇的战略隐形性逐渐丧失、机动高超音速核导弹的出现、可能的量子技术雷达和其他冷战期间不存在的能力的出现。

这使得一些美国核思想家设想了一种新的基于人工智能的预警和总统决策辅助系统，该系统在发生核攻击时能够根据已识别的攻击向决策者提供预先打包的决策菜单。在极端情况下，即使总统死亡或无法沟通，它也可以做出反应，在敌人成功发动突然袭击的情况下，通过合理确定的报复来加强威慑。

它看起来很像奇爱博士的“世界末日机器”……

原则上，此类条约的谈判应确保双方乃至所有对手方的预警系统具有同等效力（从而增加各方的生存机会）、对有关国家威慑的相关信息技术系统的不可侵犯性、谈判两方之间的指挥链和沟通渠道完整性和可靠性。换句话说，如果符合了上述条件，人工智能将成为使任何人极不可能对其他核国家发动预防性核战略攻击的一个遏制因素。

如果远见和智慧战胜了目前如此流行的好战和浮夸的疯狂，那么很少有国家能够拥有消除或最小化可能导致智人灭绝的风险的优势。 Gladston AI 为国务院提供的纵深防御报告总结道：“按照这一轨迹，我们很可能正在创建相当强大的系统，这些系统要么成为具有灾难性影响的武器，要么失控。”

没有时间可以浪费了，我们需要立即开始谈判。