维文·巴拉克里什南在联大谈 AI 安全

字幕语言： zh-CN · 抓取日期： 2026-09-28 · 翻译日期：2026-09-28

你想让核按钮掌握在人类还是人工智能手中？想想这个问题。人工智能提供了非凡的潜力，但其能力的发展速度远超我们对其风险的认识。但是，阁下们，魔鬼已经逃出了瓶子。现在要求停止已经太晚了，尤其是考虑到超级大国之间的竞争以及已拥有前沿模型公司的巨大经济激励。但让我用一个关于驾驶高性能汽车的比喻。要快速安全地驾驶高性能汽车，你需要强大的发动机。但同样，你也需要良好的制动器。特别是如果你要超越自己的社区或跨越边界，你需要有效的共同规则、交通信号灯、保险、行为规范和安全带。引擎就是创新。

但话说回来，每个强大的引擎都需要良好的制动器——保障措施。随着人工智能能力的进步，我们的保障措施必须紧跟步伐。我们需要在部署前进行严格的测试和评估。我们需要对自动系统的功能设定明确的限制，并在其行为与我们的意图不符时建立干预机制。由于人工智能的风险不会局限于国界，这意味着我们也需要制定一套规则来形成共同的全球理解，说明我们将如何集体应对这一挑战。就像我们所有人对交通信号灯的理解方式是一样的，无论我们是在纽约、北京、莫斯科还是新加坡。最重要的是，人类必须最终保持控制权和问责。让我给你们讲一个极端的思想实验。

你想让核按钮掌握在人类还是人工智能手中？想想这个问题。当今稀缺的资源不是法律框架或技术。而是信任。信任风险将被披露，测试将是全面和可信的，合作将是包容性的，而不是被用来获得单边优势。