楊莉明呼籲各國主動應對代理型 AI 治理風險

新加坡數碼發展及新聞部長楊莉明在德里 AI 峰會發出明確警告：代理型 AI 的自主性帶來新風險，各國必須主動治理，特別是醫療與社會服務領域。她說，政府與公民的接觸點非常敏感——若 AI 把不準確的健康、社保或福利資訊傳給公民，並據此採取行動，後果嚴重。

她呼籲加強國際合作，把透明度、公平等抽象原則轉化為可操作的安全保障，建立跨監管環境通用的標準化評估方法。她也強調能力建設，讓所有國家都能參與技術證據的討論，而不僅僅是大型 AI 研究生態。新加坡正在主動測試、制定標準，並與私營部門合作建立信任。

楊莉明警告，僅靠監管無法應對 AI 帶來的更廣泛社會壓力。期望 AI 法規解決社會不平等並不現實——社會需要加強她所稱的「社會團結」，包括職業轉換支援、住房、醫療、教育等。她也指出，在日益分裂的全球科技格局中，新加坡的策略是保持作為可信節點，連線前沿技術同時把濫用風險降到最低。

字幕語言： zh-Hant · 抓取日期： 2026-05-02

新加坡數碼發展及新聞部長卓瑟芬敦促各國積極主動治理代理型人工智慧帶來的新興風險，特別是在醫療保健和社會服務等領域。因為此類工具的自主性可能引入新的風險。她在德里舉行的人工智慧峰會上表示，其後果也變得複雜且難以預測。政府面臨高風險，因為與公民的接觸點非常敏感。沒有公民，也沒有政府希望在與公民互動時犯嚴重錯誤，比如向他們傳達關於健康、社會保障或福利方面不準確的資訊，不僅僅是被告知，而是基於這些資訊採取行動。卓女士說。

張曉雲表示，新加坡正在積極進行測試、制定標準，並與私營部門合作，以驗證並建立對人工智慧安全可靠使用的信任。她說，這樣的工作無法單獨完成，新加坡歡迎與其他合作伙伴加強合作。史蒂夫女士也呼籲加強合作，將人工智慧安全原則轉化為切實的保障措施，以應對全球治理的碎片化。她表示，挑戰在於將透明度和公平性等概念轉化為實際行動，這需要跨不同監管環境通用的標準化評估方法。我們需要能力建設，使所有國家都能有意義地參與技術證據的討論，而不僅僅是大型人工智慧研究生態系統。

我鼓勵所有利益相關者將科學輸入視為更持久有效治理的基礎，而不是政策靈活性的限制，這種治理能夠維持公眾信任。數碼發展及新聞部長還強調，各國應共同努力，利用人工智慧來降低風險並提高安全性。她在本月初發布的一份國際人工智慧安全報告的專題討論會上發表了這一觀點。該報告聚焦於通用人工智慧，即能夠執行廣泛任務的模型和系統。這些任務包括編寫程式碼、分析資料、生成影像以及回答複雜問題。這些系統中最具能力的處於人工智慧發展的前沿。報告還列出了包括惡意使用、詐騙和網路攻擊在內的風險。

它們還會出現系統故障，比如系統捏造資訊、產生錯誤輸出或表現不可靠。另一個系統性風險是它可能引發市場混亂，影響人們做出明智選擇的能力。報告還指出，沒有單一的解決方案可以管理這些風險。報告稱需要多重保障措施，包括威脅建模、能力測試和事件報告。報告還指出了治理上的缺口，快速發展和有限透明度使監管變得困難。最終，我們應努力達到一個階段，讓終端使用者能夠獲得安全保障，不必過於擔心是否進行了適當的測試。我們還未達到那個階段。但我認為我們需要找到一種方法，制定出路線圖。夫人，

Tio表示，新加坡在日益分裂的全球科技格局中對人工智慧的應對策略是保持成為一個值得信賴的節點。這意味著保持新加坡與尖端技術的連線，同時確保技術不被濫用，並將誤用風險降到最低。她指出技術脫鉤風險日益增加，表示新加坡通過始終如一的原則性行為保持可信，但她警告說，僅靠監管無法應對人工智慧帶來的更廣泛社會壓力。她說：“我認為有時人們有一種願望，一種傾向，想要思考通過某種方式監管人工智慧，以減緩其發展速度，也許是為了防範所有風險。我並不低估確保人工智慧安全設有防護措施的必要性。”

我只是想說，這些確實很重要，但過分期待人工智慧法規能夠解決其他重要問題，比如可能加劇的社會不平等，我認為這是不現實的。相反，社會需要加強她所稱的社會團結，這包括支援職業轉換以及獲得住房、醫療和教育的機會，以在人工智慧普及過程中維持信任。