美国《外交》杂志：“技术极”秩序，AI带来的全新挑战

(资料图片)

美国《外交》杂志8月16日文章，原题：人工智能力量悖论    （假设）现在是2035年，人工智能（AI）无处不在。AI系统管理医院，运营航空公司，并在法庭上较劲。生产力飙升至前所未有的水平，无数以前难以想象的企业以惊人的速度扩张，人类福祉极大改善。随着科学技术的飞速发展，新产品、新疗法和新发明每天都在冲击市场。然而，鉴于恐怖分子也用智能、不断进化的网络武器找到威胁社会的新方法，白领们大批失业，世界正变得日益难以预测，也日益脆弱。

就在一年前，这种情况似乎纯属虚构，但未来这似乎不可避免。生成式AI系统已经能够比大多数人的写作更清晰、更有说服力，并且可以根据简单的语言提示生成原始图像、艺术作品甚至计算机代码。而生成式AI只是冰山一角，其到来标志着一场改变世界技术革命的开始，将重塑政治、经济和社会。

与过去的技术浪潮一样，AI将使非凡的增长、机遇与巨大的破坏、风险并存。但与之前的浪潮不同，鉴于其威胁到民族国家作为世界主要地缘政治参与者的地位，它还将引发全球力量结构和平衡的巨大变化。不管AI的创造者承认与否，他们本身就是地缘政治的参与者，他们对AI的主导权将进一步巩固新兴的“技术极”秩序。在这种秩序中，科技公司在它们的领域中行使着曾经只有国家才拥有的权力。过去10年，大型科技公司实际上已经成为它们所创造的数字领域的“独立主权参与者”。AI加速了这一趋势，并将其扩展到数字世界之外。这项技术的复杂性和发展速度将使政府几乎不可能以理性的速度制定相关规则。如果不尽快赶上，可能永远也赶不上了。

幸运的是，世界各地的政策制定者已经开始意识到AI带来的挑战，并开始思考如何管理它。不管你喜不喜欢，2035年即将到来。它是由AI带来的积极进步来定义，还是由负面破坏来定义，取决于政策制定者现在做什么。

AI不同于其他技术，对权力的影响也不同。它不仅带来政策挑战，其超进化性质也使得解决这些挑战变得日益困难。AI与旧技术的不同之处在于，几乎所有的AI都可以被描述为军民两用。驱动汽车的系统同样可以驱动坦克，一个用于诊断疾病的AI应用程序可能会创造出一种新的疾病，并将其武器化。安全民用和军事破坏性之间的界限本质上是模糊的。出于这个原因，监管AI的方式不能靠拼凑。如果AI在其他国家仍然不受监管，那么在一些国家监管AI就没有什么用处。

此外，世界还需要一种方法来管理主要AI大国之间的紧张关系，防止危险的先进AI系统的扩散。一个强大的AI治理机制既可以减轻AI带来的社会风险，也可以减轻AI作为地缘政治竞争工具的程度。AI可能是变革的独特催化剂，但它绝不是人类将面临的最后一个颠覆性技术。成功地管理AI将有助于世界成功地管理新兴技术。（作者伊安·布雷默、穆斯塔法·苏莱曼，任重译）▲