第 15 屆國會 溫和質詢
前沿 AI 安全監管與跨部門事故報告框架
Ensuring Safety of Frontier AI Models Deployed in Singapore, and Setting Up Framework for Tracking and Reporting Serious...
陳以君(Charlene Chen)、朱佩玲(Choo Pei Ling)、葉漢榮(Yip Hon Weng)、任梓銘（Alex Yam）等議員就新加坡 AI 安全院對前沿 AI 模型的獨立測試能力、跨部門事故報告框架,以及類似澳大利亞自主 AI 代理越權訪問事件對政府系統韌性的影響,詢問數碼發展及新聞部長。高階政務部長陳杰豪(Tan Kiat How)代為答覆,指現有網路安全、資料保護與關鍵資訊基礎設施監管框架同樣適用於代理型 AI...
政策訊號: 這顯示新加坡傾向於將代理型 AI 的風險納入現有網路安全、資料保護和關鍵資訊基礎設施監管體系,而非另立專門的強制性前沿 AI 法規,同時通過內部試驗與國際合作逐步調整監管力度。
展開摘要、立場與原文
陳以君(Charlene Chen)、朱佩玲(Choo Pei Ling)、葉漢榮(Yip Hon Weng)、任梓銘（Alex Yam）等議員就新加坡 AI 安全院對前沿 AI 模型的獨立測試能力、跨部門事故報告框架,以及類似澳大利亞自主 AI 代理越權訪問事件對政府系統韌性的影響,詢問數碼發展及新聞部長。高階政務部長陳杰豪(Tan Kiat How)代為答覆,指現有網路安全、資料保護與關鍵資訊基礎設施監管框架同樣適用於代理型 AI 系統,政府正通過 GovTech 等機構試驗負責任地部署代理 AI,並持續審視是否需要強化相關框架,但未承諾設定強制性前沿 AI 安全測試的具體門檻或時間表。
要點
- • 現有的指導方針、法規、風險管理流程和監督機制同樣適用於代理型 AI 系統,包括維持人類問責的原則。
- • 政府通過 GovTech 等機構在公共服務領域試驗代理 AI 的應用,以瞭解如何負責任地落實相關係統。
- • 新加坡 AI 安全院持續與國際同行緊密合作,分享 AI 安全的最佳實踐。
- • 新加坡最近在聯合國等多邊場合與志同道合的國家簽署支援宣告,加強 AI 安全領域的國際合作。
政府立場
政府立場是,現有網路安全、資料保護及關鍵資訊基礎設施監管框架已適用於代理型 AI,相關框架正接受審視並強化,但政府未承諾為前沿 AI 模型設定強制性測試要求或具體門檻和時間表。
質詢立場
議員們擔心,現有框架可能未能明確界定 AI 事故的報告門檻、及時掌握海外開發商的通報義務,也未能為受 AI 系統影響的公眾提供足夠的保護與申訴渠道。
"因此,現有的指導方針和法規,包括風險管理流程和監督機制,同樣適用於代理型 AI 系統。"
原文節選（英文）
Dr Charlene Chen, Mr Alex Yam, Dr Choo Pei Ling and Mr Yip Hon Weng pressed the Senior Minister of State for Digital Development and Information, Tan Kiat How, on AI safety testing access, incident-reporting thresholds, and the resilience of government systems against agentic AI, following a reported incident in which an autonomous AI agent gained unauthorised access to Australian government systems. Tan Kiat How replied that existing guidelines, risk-management processes and oversight frameworks, including the principle of human accountability, already apply to agentic AI systems, and that these are being reviewed and strengthened. He said the Government, through GovTech and other agencies, is running trials to build internal capability for deploying agentic AI responsibly, and that Singapore's AI Safety Institute works with international counterparts, including through a recent statement of support with like-minded countries at the United Nations. On incident reporting, he said existing frameworks such as the Personal Data Protection Act already set thresholds that apply regardless of whether AI tools are involved, citing a recent case where an employee's personal use of a generative AI tool led to a data leak. He did not commit to a specific threshold or timeline for mandatory frontier AI safety testing, saying this is a rapidly evolving area that the Government will keep monitoring and adapting frameworks for.