# 维文在 NSCAI 全球新兴技术峰会上的演讲

- 日期: 2021-07-14
- 相关方: Vivian Balakrishnan (新加坡外交部长 / 智慧国负责人) · Vivian Balakrishnan
- 来源: https://www.youtube.com/watch?v=UmXtuIzIjjQ
- sgai: https://sgai.md/zh/videos/v033/
- 许可：sgai 自产内容（摘要、译文、分析）CC BY 4.0，署名并链接 sgai.md 即可；逐字原文（国会记录、演讲、字幕、政策原文）© 原权利人，仅供引用。条款：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 为什么重要

维文借 NSCAI 平台喊话联合国建 AI 公约，意在把新加坡的诚实中间人定位，转化为中美博弈中的规则制定筹码

## 摘要

维文在美国国家安全委员会 AI 峰会上阐述新加坡智慧国愿景和 AI 治理的国际合作。

## 要点

- 维文用教练比喻 AI——你不再编程系统，而是训练一个可能超越自己的系统。
- 他警告自主武器、回声室和数字巨头的“围墙花园”将带来战略与社会风险。
- 他呼吁建立类似布雷顿森林体系的联合国 AI 公约，并强调国内政治共识是改革前提。

## 全文

© Vivian Balakrishnan — 仅供引用。

[掌声] 很高兴来到这里，我想介绍我们的特别嘉宾，新加坡外交部长维文。维文是数字领域的领导者和思想领袖，我认为他的经验不仅因为他作为外交部长的身份，还因为他之前担任负责小型智慧城市的部长，这些都是我们可以学习的地方。让我们以热烈的掌声欢迎外交部长，我将把时间交给他做一些开场发言，然后我们会有一个简短的问答环节。谢谢。谢谢你，吉尔曼。我是东南亚心脏地带一个小小城市国家的新加坡外交部长。为了更有用，我将采取一些自由发挥，发表一些挑衅性的评论，并邀请大家提出一些尖锐的问题。首先毫无疑问，人工智能——计算机系统能够看、听、翻译、说话、识别模式、玩游戏的出现——毫无疑问，这在人的层面上，甚至在地球层面上都是一种变革。第二点是，这场海啸是不可阻挡的。它不可阻挡，是因为计算能力的爆炸性增长、全球互联互通、数据集的爆炸性增长，尤其是物联网的发展，当然还有越来越复杂的数学模型和算法的可用性。所以它不会停止。问题是，哪个国家或哪个地区将处于这一浪潮的前沿？这场竞争的战略和经济影响是什么？第二组问题是，这场人工智能爆炸的负面影响是什么？第三，我们在国内和国际层面需要做些什么？让我先说，我将回避第一个问题——谁将成为赢家？我们可以在问答环节中进行水晶球式的预测。但让我快速谈谈这场革命潜在的负面影响。首先要理解的是，a。

人工智能与工业革命，甚至之前的农业革命有着非常不同的性质。让我举个例子：如果你手里拿着锤子，那是你肌肉力量的延伸；如果你有一个Excel电子表格，你基本上是将你的思维计算能力扩展到了计算机系统上，但它仍然是绝对服从你的指令的。而人工智能的不同之处在于，你已经将专利识别的手段，甚至分析和响应的过程外包给了系统，这意味着你不再是编程系统，而是系统的教练。用体育教练的比喻来说，教练的全部目的就是让你的学生超越你的能力。 这有几个关键的含义。第一，一旦你允许一个自主系统定义自己的手段并优化自己的方法，实际上价值观、伦理、道德、使命和愿景这些人类技能不一定存在。值得记住这一点，因为我知道关于自由和隐私有很多讨论，但请记住，人工智能本身并不受限于人类对这些概念的理解。第二点，也是值得强调的，我认为在早期阶段我们将看到信任的侵蚀。你甚至现在就能看到，在非常早期阶段，对权威和专家的信任缺失，社会资本的消耗，即使在疫情期间，政治和社会结构的分裂，界面变成了回声室，没有真正的中间地带和观点交流。 第三个人工智能革命的战略层面含义是，在核时代，我们通过相互确保毁灭的概念维持和平，但当我们进入一个由自主群体的潜艇、飞机和导弹组成的时代，为了使这些系统有效，最终你会把人类从方程中移除，那时将会有杀戮机器。那时人类威慑的概念意味着什么？因此，我认为我们实际上正进入一个非常不稳定、潜在危险的时代，至少在短期内是这样。 了解这些风险后，我们将如何应对？我想第一点是，我想分享一个故事，大约六年前，我和奥巴马总统有一次私下交谈，我们在等待会议开始时，我问他，‘总统，您最担心的网络安全问题是什么？’他看着我说，‘国家间的间谍活动，我们都在做，但我们反对的是商业间谍活动。’我一直在思考这句话，坦率地说，我认为这里面有一些问题。首先，这句话只能由一个对其在网络工具方面拥有前所未有领先地位的国家说出，因此他们可以轻描淡写地说，‘国家间间谍活动没问题，我只担心商业间谍活动。’第二个问题是，这句话也假设国家和商业公司之间有一道自动的墙。实际上，如果你思考一下，国家和互联网巨头都在试图建立墙，这就是为什么会出现关于数据流动和数据本地化的问题。与此同时，真正的跨国数据池掌握在互联网巨头手中，但他们也试图构建“围墙花园”，以便将数据的价值留给自己。 在国家和互联网巨头之间的这种配置中，缺席者、输家是拥有数据、从数据中获得价值的个人。这带来了经济上的影响。现在稍微相关的是，美国——我在此先道歉——现在确实在质疑是否需要产业政策。产业政策的概念让人联想到我们旧时马克思主义的经济指挥高地概念，即经济中有某些关键组成部分具有战略和竞争优势，政府需要给予过度关注、补贴、支持并有意扩大，作为公共政策的一部分。 我们没有时间深入讨论这个辩论，但值得提醒大家的是，这场竞争的结果将取决于哪些政府能够给予教育、基础设施、移民和开明的移民政策足够的关注和补贴，创造公平竞争的公平环境，同时保护个人和公民的利益，取得平衡，使得收益社会化，而不仅仅是收益私有化，损失社会化。我认为这将决定这场竞争的最终结果。 在东南亚，我们在过去五十年取得了巨大进步，因为实际上存在一个统一的工业应用栈，涵盖科学、工程、技术和医学，这给了我们巨大的优势。如果我们进入一个新技术颠覆规则的世界，见证一个没有共同规则、没有共同规范、价值观和交往规则的分裂世界，那么我们将面临一个更加紧张、较不繁荣的世界，进步的速度将被冲突而非竞争所中断。 因此，作为东南亚的代表，我们对此保持高度关注，甚至忧虑和焦虑。未来几年发生的事情将至关重要。我们东南亚方面将继续开放业务，继续开放技术扩散。我们相信人工智能是全球公共资源的又一个例子。全球公共资源，在金融领域，我们有布雷顿森林体系，在战略层面，我们有联合国；气候变化方面，我们有联合国气候变化框架公约；海洋方面，我们有联合国海洋法公约。我相信我们也需要一个新的联合国人工智能公约，确保我们开发它、投资它、为我们的人民提供机会，以伦理的方式追求它，并希望我们能迎来一个和平与繁荣的黄金时代，而不是重蹈上个世纪的覆辙，经历巨大痛苦和磨难后才做正确的事。 我先说到这里，欢迎大家提问，请大胆提问。 首先，非常感谢您这些重要的评论。我想接着您刚才提到的国际规则和国际标准的重要性。新加坡一直是一个很好的领导者，总是在正确的时间出现在正确的地点，首先是其地理位置优势，成为航运和其他物理运输的领导者；然后作为负责智慧城市和数字化倡议的部长，新加坡在处理国际跨境交易方面处于枢纽地位，这需要大量合作，而有时国家之间并不容易合作。展望人工智能和您所指出的挑战，您能否给其他国家一些建议，如何以有组织的方式推进，解决这些挑战，建立公平和伦理的竞争标准，以及解决特别是在社会或经济差异领域应用人工智能时的分歧？谢谢。 我认为第一点是，所有政治都是本地的，所有政府都需要能够向自己的公民解释，‘看，革命正在发生，但我们将改造教育体系，重组经济，考虑安全网，因为未来几年将发生深刻变革。’你首先需要获得国内对这场变革的支持。因此，从这个意义上说，拜登总统强调“重建更好”，提升国内信心和共识是绝对必要的。 假设你已经获得政治共识，系好了过山车的安全带，你接下来需要投资必要的基础设施。每个人都需要光纤入户，需要5G覆盖，互联网接入必须成为像水电一样的公共设施。接着，你需要一个有效的教育体系，不仅仅是从幼儿园到20岁，而是我们每个人一生中可能有两到三个职业，你必须确保补贴流向使我们能够重新培训和提升技能，适应新兴岗位。 然后你还需要一个体系，既能培养本地劳动力，也能补充来自全球的人才。如果你看看硅谷，过去30年没有开明的移民政策，数字革命就不会有今天的成就。 在全球层面，正如我所说，我们确实需要一些国际公约，需要互操作性，需要全球金融流动。数据不仅是新的石油，更是新经济的新货币，它必须流动，但必须以保护安全、尊重隐私、并公平分配由此产生的价值的方式流动。因此，有很多根本性的工作需要完成。我的观点是，这应当通过合作、多边方式完成，某种意义上是数字经济和人工智能领域的新布雷顿森林体系。 正如您指出的，利用这些新兴技术改善人类状况的重要性，新加坡在将这些新兴技术融入普通新加坡人生活方面走在前列，从医疗、教育到数字交易。新加坡是如何做到在保持安全、隐私和开放的同时，以非常可靠的方式实现这一转型的？您能分享一些经验教训和新加坡在这场转型中学到的东西吗？ 我首先要说的是，新加坡是一个非常小的地方，因此在某种意义上对我们来说更容易。例如，为每个家庭和办公室铺设光纤，甚至是两条光纤，在新加坡相对容易，而在大陆规模的国家则不然。 但除了硬件之外，正如我所说，关键是确保包容性，没有任何社区会被剥夺互联网接入，所有学校都拥有先进技术，所有工具都实现民主化和商品化。即使我们数字化了整套政府服务，也要确保没有人被落下。如果需要给人们配备电脑、支付宽带费用或提供智能手机，就这么做，这样你才能更快推进，而不落下任何人。 我再次强调，需要关注国内，带领所有人共同前进。然后你必须确保维持信任。信任是领域的硬通货，没有信任，所有这些美好的计划都无法实现。一旦你获得了这种信任，金融、服务和出口都可以利用这些工具为每个人创造机会，无论他们从事哪个领域。 我们很幸运是一个小地方，整合良好，连接紧密，拥有顶级基础设施和数字素养高的人口，愿意使用这些工具并领先一步。我们也幸运地处于独特的地理和战略位置。美国在东南亚的投资超过了其在中国、印度、日本和韩国的总和，大多数人并不知道美国在这里投入如此之多。同时，中国是我们最大的贸易伙伴，我们也是中国经济的重要投资者。 因此，对于我们来说，一个这些竞争巨头能够和谐相处的世界，将为我们和我们的人民带来许多机会。但未来几年我们将带着焦虑关注局势。正如我所说，我们无法控制北京和华盛顿的议程，但我们会尽力发挥作用，做诚实的中间人，实事求是，尽力提供帮助。 外交部长，感谢您的时间和评论。新加坡在许多领域确实是世界领导者，我们期待您在人工智能领域继续发挥领导作用。非常感谢。谢谢。