# 維文在 NSCAI 全球新興技術峰會上的演講

- 日期: 2021-07-14
- 相關方: Vivian Balakrishnan (新加坡外交部長 / 智慧國負責人) · Vivian Balakrishnan
- 來源: https://www.youtube.com/watch?v=UmXtuIzIjjQ
- sgai: https://sgai.md/zh-tw/videos/v033/
- 許可：sgai 自產內容（摘要、譯文、分析）CC BY 4.0，署名並連結 sgai.md 即可；逐字原文（國會記錄、演講、字幕、政策原文）© 原權利人，僅供引用。條款：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 為什麼重要

維文借 NSCAI 平臺喊話聯合國建 AI 公約，意在把新加坡的誠實中間人定位，轉化為中美博弈中的規則制定籌碼

## 摘要

維文在美國國家安全委員會 AI 峰會上闡述新加坡智慧國願景和 AI 治理的國際合作。

## 要點

- 維文用教練比喻 AI——你不再程式設計系統，而是訓練一個可能超越自己的系統。
- 他警告自主武器、回聲室和數字巨頭的“圍牆花園”將帶來戰略與社會風險。
- 他呼籲建立類似佈雷頓森林體系的聯合國 AI 公約，並強調國內政治共識是改革前提。

## 全文

© Vivian Balakrishnan — 僅供引用。

[掌聲] 很高興來到這裡，我想介紹我們的特別嘉賓，新加坡外交部長維文。維文是數字領域的領導者和思想領袖，我認為他的經驗不僅因為他作為外交部長的身份，還因為他之前擔任負責小型智慧城市的部長，這些都是我們可以學習的地方。讓我們以熱烈的掌聲歡迎外交部長，我將把時間交給他做一些開場發言，然後我們會有一個簡短的問答環節。謝謝。謝謝你，吉爾曼。我是東南亞心臟地帶一個小小城市國家的新加坡外交部長。為了更有用，我將採取一些自由發揮，發表一些挑釁性的評論，並邀請大家提出一些尖銳的問題。首先毫無疑問，人工智慧——計算機系統能夠看、聽、翻譯、說話、識別模式、玩遊戲的出現——毫無疑問，這在人的層面上，甚至在地球層面上都是一種變革。第二點是，這場海嘯是不可阻擋的。它不可阻擋，是因為計算能力的爆炸性增長、全球互聯互通、資料集的爆炸性增長，尤其是物聯網的發展，當然還有越來越複雜的數學模型和演算法的可用性。所以它不會停止。問題是，哪個國家或哪個地區將處於這一浪潮的前沿？這場競爭的戰略和經濟影響是什麼？第二組問題是，這場人工智慧爆炸的負面影響是什麼？第三，我們在國內和國際層面需要做些什麼？讓我先說，我將回避第一個問題——誰將成為贏家？我們可以在問答環節中進行水晶球式的預測。但讓我快速談談這場革命潛在的負面影響。首先要理解的是，a。

人工智慧與工業革命，甚至之前的農業革命有著非常不同的性質。讓我舉個例子：如果你手裡拿著錘子，那是你肌肉力量的延伸；如果你有一個Excel電子表格，你基本上是將你的思維計算能力擴充套件到了計算機系統上，但它仍然是絕對服從你的指令的。而人工智慧的不同之處在於，你已經將專利識別的手段，甚至分析和響應的過程外包給了系統，這意味著你不再是程式設計系統，而是系統的教練。用體育教練的比喻來說，教練的全部目的就是讓你的學生超越你的能力。 這有幾個關鍵的含義。第一，一旦你允許一個自主系統定義自己的手段並最佳化自己的方法，實際上價值觀、倫理、道德、使命和願景這些人類技能不一定存在。值得記住這一點，因為我知道關於自由和隱私有很多討論，但請記住，人工智慧本身並不受限於人類對這些概念的理解。第二點，也是值得強調的，我認為在早期階段我們將看到信任的侵蝕。你甚至現在就能看到，在非常早期階段，對權威和專家的信任缺失，社會資本的消耗，即使在疫情期間，政治和社會結構的分裂，介面變成了回聲室，沒有真正的中間地帶和觀點交流。 第三個人工智慧革命的戰略層面含義是，在核時代，我們通過相互確保毀滅的概念維持和平，但當我們進入一個由自主群體的潛艇、飛機和導彈組成的時代，為了使這些系統有效，最終你會把人類從方程中移除，那時將會有殺戮機器。那時人類威懾的概念意味著什麼？因此，我認為我們實際上正進入一個非常不穩定、潛在危險的時代，至少在短期內是這樣。 瞭解這些風險後，我們將如何應對？我想第一點是，我想分享一個故事，大約六年前，我和歐巴馬總統有一次私下交談，我們在等待會議開始時，我問他，‘總統，您最擔心的網路安全問題是什麼？’他看著我說，‘國家間的間諜活動，我們都在做，但我們反對的是商業間諜活動。’我一直在思考這句話，坦率地說，我認為這裡面有一些問題。首先，這句話只能由一個對其在網路工具方面擁有前所未有領先地位的國家說出，因此他們可以輕描淡寫地說，‘國家間間諜活動沒問題，我只擔心商業間諜活動。’第二個問題是，這句話也假設國家和商業公司之間有一道自動的牆。實際上，如果你思考一下，國家和網際網路巨頭都在試圖建立牆，這就是為什麼會出現關於資料流動和資料本地化的問題。與此同時，真正的跨國資料池掌握在網際網路巨頭手中，但他們也試圖構建“圍牆花園”，以便將資料的價值留給自己。 在國家和網際網路巨頭之間的這種配置中，缺席者、輸家是擁有資料、從資料中獲得價值的個人。這帶來了經濟上的影響。現在稍微相關的是，美國——我在此先道歉——現在確實在質疑是否需要產業政策。產業政策的概念讓人聯想到我們舊時馬克思主義的經濟指揮高地概念，即經濟中有某些關鍵組成部分具有戰略和競爭優勢，政府需要給予過度關注、補貼、支援並有意擴大，作為公共政策的一部分。 我們沒有時間深入討論這個辯論，但值得提醒大家的是，這場競爭的結果將取決於哪些政府能夠給予教育、基礎設施、移民和開明的移民政策足夠的關注和補貼，創造公平競爭的公平環境，同時保護個人和公民的利益，取得平衡，使得收益社會化，而不僅僅是收益私有化，損失社會化。我認為這將決定這場競爭的最終結果。 在東南亞，我們在過去五十年取得了巨大進步，因為實際上存在一個統一的工業應用棧，涵蓋科學、工程、技術和醫學，這給了我們巨大的優勢。如果我們進入一個新技術顛覆規則的世界，見證一個沒有共同規則、沒有共同規範、價值觀和交往規則的分裂世界，那麼我們將面臨一個更加緊張、較不繁榮的世界，進步的速度將被衝突而非競爭所中斷。 因此，作為東南亞的代表，我們對此保持高度關注，甚至憂慮和焦慮。未來幾年發生的事情將至關重要。我們東南亞方面將繼續開放業務，繼續開放技術擴散。我們相信人工智慧是全球公共資源的又一個例子。全球公共資源，在金融領域，我們有佈雷頓森林體系，在戰略層面，我們有聯合國；氣候變化方面，我們有聯合國氣候變化框架公約；海洋方面，我們有聯合國海洋法公約。我相信我們也需要一個新的聯合國人工智慧公約，確保我們開發它、投資它、為我們的人民提供機會，以倫理的方式追求它，並希望我們能迎來一個和平與繁榮的黃金時代，而不是重蹈上個世紀的覆轍，經歷巨大痛苦和磨難後才做正確的事。 我先說到這裡，歡迎大家提問，請大膽提問。 首先，非常感謝您這些重要的評論。我想接著您剛才提到的國際規則和國際標準的重要性。新加坡一直是一個很好的領導者，總是在正確的時間出現在正確的地點，首先是其地理位置優勢，成為航運和其他物理運輸的領導者；然後作為負責智慧城市和數字化倡議的部長，新加坡在處理國際跨境交易方面處於樞紐地位，這需要大量合作，而有時國家之間並不容易合作。展望人工智慧和您所指出的挑戰，您能否給其他國家一些建議，如何以有組織的方式推進，解決這些挑戰，建立公平和倫理的競爭標準，以及解決特別是在社會或經濟差異領域應用人工智慧時的分歧？謝謝。 我認為第一點是，所有政治都是本地的，所有政府都需要能夠向自己的公民解釋，‘看，革命正在發生，但我們將改造教育體系，重組經濟，考慮安全網，因為未來幾年將發生深刻變革。’你首先需要獲得國內對這場變革的支援。因此，從這個意義上說，拜登總統強調“重建更好”，提升國內信心和共識是絕對必要的。 假設你已經獲得政治共識，繫好了過山車的安全帶，你接下來需要投資必要的基礎設施。每個人都需要光纖入戶，需要5G覆蓋，網際網路接入必須成為像水電一樣的公共設施。接著，你需要一個有效的教育體系，不僅僅是從幼兒園到20歲，而是我們每個人一生中可能有兩到三個職業，你必須確保補貼流向使我們能夠重新培訓和提升技能，適應新興崗位。 然後你還需要一個體系，既能培養本地勞動力，也能補充來自全球的人才。如果你看看矽谷，過去30年沒有開明的移民政策，數字革命就不會有今天的成就。 在全球層面，正如我所說，我們確實需要一些國際公約，需要互操作性，需要全球金融流動。資料不僅是新的石油，更是新經濟的新貨幣，它必須流動，但必須以保護安全、尊重隱私、並公平分配由此產生的價值的方式流動。因此，有很多根本性的工作需要完成。我的觀點是，這應當通過合作、多邊方式完成，某種意義上是數字經濟和人工智慧領域的新佈雷頓森林體系。 正如您指出的，利用這些新興技術改善人類狀況的重要性，新加坡在將這些新興技術融入普通新加坡人生活方面走在前列，從醫療、教育到數字交易。新加坡是如何做到在保持安全、隱私和開放的同時，以非常可靠的方式實現這一轉型的？您能分享一些經驗教訓和新加坡在這場轉型中學到的東西嗎？ 我首先要說的是，新加坡是一個非常小的地方，因此在某種意義上對我們來說更容易。例如，為每個家庭和辦公室鋪設光纖，甚至是兩條光纖，在新加坡相對容易，而在大陸規模的國家則不然。 但除了硬體之外，正如我所說，關鍵是確保包容性，沒有任何社群會被剝奪網際網路接入，所有學校都擁有先進技術，所有工具都實現民主化和商品化。即使我們數字化了整套政府服務，也要確保沒有人被落下。如果需要給人們配備電腦、支付寬頻費用或提供智慧手機，就這麼做，這樣你才能更快推進，而不落下任何人。 我再次強調，需要關注國內，帶領所有人共同前進。然後你必須確保維持信任。信任是領域的硬通貨，沒有信任，所有這些美好的計劃都無法實現。一旦你獲得了這種信任，金融、服務和出口都可以利用這些工具為每個人創造機會，無論他們從事哪個領域。 我們很幸運是一個小地方，整合良好，連線緊密，擁有頂級基礎設施和數字素養高的人口，願意使用這些工具並領先一步。我們也幸運地處於獨特的地理和戰略位置。美國在東南亞的投資超過了其在中國、印度、日本和韓國的總和，大多數人並不知道美國在這裡投入如此之多。同時，中國是我們最大的貿易伙伴，我們也是中國經濟的重要投資者。 因此，對於我們來說，一個這些競爭巨頭能夠和諧相處的世界，將為我們和我們的人民帶來許多機會。但未來幾年我們將帶著焦慮關注局勢。正如我所說，我們無法控制北京和華盛頓的議程，但我們會盡力發揮作用，做誠實的中間人，實事求是，盡力提供幫助。 外交部長，感謝您的時間和評論。新加坡在許多領域確實是世界領導者，我們期待您在人工智慧領域繼續發揮領導作用。非常感謝。謝謝。