AI 治理與監管 · 2026-09-27 · 02:49
維文·巴拉克裡什南在聯大談 AI 安全
核心觀點
新加坡外交部長在聯大用“強引擎也要好剎車”作比,主張 AI 部署前嚴格測試、各國共用一套規則,並由人類保留最終控制權。
為什麼重要 新加坡把“人類必須掌握最終控制權”和“缺的是信任而非法律框架”擺上聯大,為它的 AI 多邊規則主張定調
可讀字幕整理
字幕語言: zh-Hant · 抓取日期: 2026-09-28
你想讓核按鈕掌握在人類還是人工智慧手中?想想這個問題。人工智慧提供了非凡的潛力,但其能力的發展速度遠超我們對其風險的認識。但是,閣下們,魔鬼已經逃出了瓶子。現在要求停止已經太晚了,尤其是考慮到超級大國之間的競爭以及已擁有前沿模型公司的巨大經濟激勵。但讓我用一個關於駕駛高效能汽車的比喻。要快速安全地駕駛高效能汽車,你需要強大的發動機。但同樣,你也需要良好的制動器。特別是如果你要超越自己的社群或跨越邊界,你需要有效的共同規則、交通訊號燈、保險、行為規範和安全帶。引擎就是創新。
但話說回來,每個強大的引擎都需要良好的制動器——保障措施。隨著人工智慧能力的進步,我們的保障措施必須緊跟步伐。我們需要在部署前進行嚴格的測試和評估。我們需要對自動系統的功能設定明確的限制,並在其行為與我們的意圖不符時建立干預機制。由於人工智慧的風險不會侷限於國界,這意味著我們也需要制定一套規則來形成共同的全球理解,說明我們將如何集體應對這一挑戰。就像我們所有人對交通訊號燈的理解方式是一樣的,無論我們是在紐約、北京、莫斯科還是新加坡。最重要的是,人類必須最終保持控制權和問責。讓我給你們講一個極端的思想實驗。
你想讓核按鈕掌握在人類還是人工智慧手中?想想這個問題。當今稀缺的資源不是法律框架或技術。而是信任。信任風險將被披露,測試將是全面和可信的,合作將是包容性的,而不是被用來獲得單邊優勢。
關聯影片
新加坡股市因AI估值和美國監管收緊而下跌
2026-11-06 · CNA · 02:45
新加坡股市因AI估值過高和美國科技監管收緊而下跌。
新加坡資料中心對居民的影響
2026-11-05 · The Straits Times · 02:55
新加坡資料中心約佔全國用電量的 10%。報道說明本地的環境管理,並區分海外汙染案例。
建立人工智慧代理登記制,林佩玲提議
2026-11-04 · Tin Pei Ling · 02:58
林佩玲在國會建議建立人工智慧代理登記制度,確保 AI 代理可被識別和問責。政府已表示同意。
惡意 AI 智慧體能否繞過新加坡的安全防護
2026-10-29 · CNA · 32:47
探討惡意 AI 智慧體是否能夠繞過新加坡的安全防護。
AI安全與負責任使用
2026-10-08 · Rani Samtani · 03:21
報道討論了AI安全風險及如何負責任地理解、建立和使用AI。
新加坡加強資料中心安全和可持續發展規則
2026-10-08 · CNA · 03:39
新加坡制定法律加強資料中心的安全和可持續發展規則。