維文·巴拉克裡什南在聯大談 AI 安全

字幕語言： zh-Hant · 抓取日期： 2026-09-28

你想讓核按鈕掌握在人類還是人工智慧手中？想想這個問題。人工智慧提供了非凡的潛力，但其能力的發展速度遠超我們對其風險的認識。但是，閣下們，魔鬼已經逃出了瓶子。現在要求停止已經太晚了，尤其是考慮到超級大國之間的競爭以及已擁有前沿模型公司的巨大經濟激勵。但讓我用一個關於駕駛高效能汽車的比喻。要快速安全地駕駛高效能汽車，你需要強大的發動機。但同樣，你也需要良好的制動器。特別是如果你要超越自己的社群或跨越邊界，你需要有效的共同規則、交通訊號燈、保險、行為規範和安全帶。引擎就是創新。

但話說回來，每個強大的引擎都需要良好的制動器——保障措施。隨著人工智慧能力的進步，我們的保障措施必須緊跟步伐。我們需要在部署前進行嚴格的測試和評估。我們需要對自動系統的功能設定明確的限制，並在其行為與我們的意圖不符時建立干預機制。由於人工智慧的風險不會侷限於國界，這意味著我們也需要制定一套規則來形成共同的全球理解，說明我們將如何集體應對這一挑戰。就像我們所有人對交通訊號燈的理解方式是一樣的，無論我們是在紐約、北京、莫斯科還是新加坡。最重要的是，人類必須最終保持控制權和問責。讓我給你們講一個極端的思想實驗。

你想讓核按鈕掌握在人類還是人工智慧手中？想想這個問題。當今稀缺的資源不是法律框架或技術。而是信任。信任風險將被披露，測試將是全面和可信的，合作將是包容性的，而不是被用來獲得單邊優勢。