第 15 届国会 温和质询
前沿 AI 安全监管与跨部门事故报告框架
Ensuring Safety of Frontier AI Models Deployed in Singapore, and Setting Up Framework for Tracking and Reporting Serious...
陈以君(Charlene Chen)、朱佩玲(Choo Pei Ling)、叶汉荣(Yip Hon Weng)、任梓铭（Alex Yam）等议员就新加坡 AI 安全院对前沿 AI 模型的独立测试能力、跨部门事故报告框架,以及类似澳大利亚自主 AI 代理越权访问事件对政府系统韧性的影响,询问数码发展及新闻部长。高级政务部长陈杰豪(Tan Kiat How)代为答复,指现有网络安全、数据保护与关键信息基础设施监管框架同样适用于代理型 AI...
政策信号: 这显示新加坡倾向于将代理型 AI 的风险纳入现有网络安全、数据保护和关键信息基础设施监管体系,而非另立专门的强制性前沿 AI 法规,同时通过内部试验与国际合作逐步调整监管力度。
展开摘要、立场与原文
陈以君(Charlene Chen)、朱佩玲(Choo Pei Ling)、叶汉荣(Yip Hon Weng)、任梓铭（Alex Yam）等议员就新加坡 AI 安全院对前沿 AI 模型的独立测试能力、跨部门事故报告框架,以及类似澳大利亚自主 AI 代理越权访问事件对政府系统韧性的影响,询问数码发展及新闻部长。高级政务部长陈杰豪(Tan Kiat How)代为答复,指现有网络安全、数据保护与关键信息基础设施监管框架同样适用于代理型 AI 系统,政府正通过 GovTech 等机构试验负责任地部署代理 AI,并持续审视是否需要强化相关框架,但未承诺设定强制性前沿 AI 安全测试的具体门槛或时间表。
要点
- • 现有的指导方针、法规、风险管理流程和监督机制同样适用于代理型 AI 系统,包括维持人类问责的原则。
- • 政府通过 GovTech 等机构在公共服务领域试验代理 AI 的应用,以了解如何负责任地落实相关系统。
- • 新加坡 AI 安全院持续与国际同行紧密合作,分享 AI 安全的最佳实践。
- • 新加坡最近在联合国等多边场合与志同道合的国家签署支持声明,加强 AI 安全领域的国际合作。
政府立场
政府立场是,现有网络安全、数据保护及关键信息基础设施监管框架已适用于代理型 AI,相关框架正接受审视并强化,但政府未承诺为前沿 AI 模型设定强制性测试要求或具体门槛和时间表。
质询立场
议员们担心,现有框架可能未能明确界定 AI 事故的报告门槛、及时掌握海外开发商的通报义务,也未能为受 AI 系统影响的公众提供足够的保护与申诉渠道。
"因此,现有的指导方针和法规,包括风险管理流程和监督机制,同样适用于代理型 AI 系统。"
原文节选（英文）
Dr Charlene Chen, Mr Alex Yam, Dr Choo Pei Ling and Mr Yip Hon Weng pressed the Senior Minister of State for Digital Development and Information, Tan Kiat How, on AI safety testing access, incident-reporting thresholds, and the resilience of government systems against agentic AI, following a reported incident in which an autonomous AI agent gained unauthorised access to Australian government systems. Tan Kiat How replied that existing guidelines, risk-management processes and oversight frameworks, including the principle of human accountability, already apply to agentic AI systems, and that these are being reviewed and strengthened. He said the Government, through GovTech and other agencies, is running trials to build internal capability for deploying agentic AI responsibly, and that Singapore's AI Safety Institute works with international counterparts, including through a recent statement of support with like-minded countries at the United Nations. On incident reporting, he said existing frameworks such as the Personal Data Protection Act already set thresholds that apply regardless of whether AI tools are involved, citing a recent case where an employee's personal use of a generative AI tool led to a data leak. He did not commit to a specific threshold or timeline for mandatory frontier AI safety testing, saying this is a rapidly evolving area that the Government will keep monitoring and adapting frameworks for.