杨莉明呼吁各国主动应对代理型 AI 治理风险

新加坡数码发展及新闻部长杨莉明在德里 AI 峰会发出明确警告：代理型 AI 的自主性带来新风险，各国必须主动治理，特别是医疗与社会服务领域。她说，政府与公民的接触点非常敏感——若 AI 把不准确的健康、社保或福利信息传给公民，并据此采取行动，后果严重。

她呼吁加强国际合作，把透明度、公平等抽象原则转化为可操作的安全保障，建立跨监管环境通用的标准化评估方法。她也强调能力建设，让所有国家都能参与技术证据的讨论，而不仅仅是大型 AI 研究生态。新加坡正在主动测试、制定标准，并与私营部门合作建立信任。

杨莉明警告，仅靠监管无法应对 AI 带来的更广泛社会压力。期望 AI 法规解决社会不平等并不现实——社会需要加强她所称的「社会团结」，包括职业转换支持、住房、医疗、教育等。她也指出，在日益分裂的全球科技格局中，新加坡的策略是保持作为可信节点，连接前沿技术同时把滥用风险降到最低。

字幕语言： zh-CN · 抓取日期： 2026-05-02 · 翻译日期：2026-05-02

新加坡数字发展与信息部长卓瑟芬敦促各国积极主动治理代理型人工智能带来的新兴风险，特别是在医疗保健和社会服务等领域。因为此类工具的自主性可能引入新的风险。她在德里举行的人工智能峰会上表示，其后果也变得复杂且难以预测。政府面临高风险，因为与公民的接触点非常敏感。没有公民，也没有政府希望在与公民互动时犯严重错误，比如向他们传达关于健康、社会保障或福利方面不准确的信息，不仅仅是被告知，而是基于这些信息采取行动。卓女士说。

张晓云表示，新加坡正在积极进行测试、制定标准，并与私营部门合作，以验证并建立对人工智能安全可靠使用的信任。她说，这样的工作无法单独完成，新加坡欢迎与其他合作伙伴加强合作。史蒂夫女士也呼吁加强合作，将人工智能安全原则转化为切实的保障措施，以应对全球治理的碎片化。她表示，挑战在于将透明度和公平性等概念转化为实际行动，这需要跨不同监管环境通用的标准化评估方法。我们需要能力建设，使所有国家都能有意义地参与技术证据的讨论，而不仅仅是大型人工智能研究生态系统。

我鼓励所有利益相关者将科学输入视为更持久有效治理的基础，而不是政策灵活性的限制，这种治理能够维持公众信任。数字发展和信息部长还强调，各国应共同努力，利用人工智能来降低风险并提高安全性。她在本月初发布的一份国际人工智能安全报告的专题讨论会上发表了这一观点。该报告聚焦于通用人工智能，即能够执行广泛任务的模型和系统。这些任务包括编写代码、分析数据、生成图像以及回答复杂问题。这些系统中最具能力的处于人工智能发展的前沿。报告还列出了包括恶意使用、诈骗和网络攻击在内的风险。

它们还会出现系统故障，比如系统捏造信息、产生错误输出或表现不可靠。另一个系统性风险是它可能引发市场混乱，影响人们做出明智选择的能力。报告还指出，没有单一的解决方案可以管理这些风险。报告称需要多重保障措施，包括威胁建模、能力测试和事件报告。报告还指出了治理上的缺口，快速发展和有限透明度使监管变得困难。最终，我们应努力达到一个阶段，让最终用户能够获得安全保障，不必过于担心是否进行了适当的测试。我们还未达到那个阶段。但我认为我们需要找到一种方法，制定出路线图。夫人，

Tio表示，新加坡在日益分裂的全球科技格局中对人工智能的应对策略是保持成为一个值得信赖的节点。这意味着保持新加坡与尖端技术的连接，同时确保技术不被滥用，并将误用风险降到最低。她指出技术脱钩风险日益增加，表示新加坡通过始终如一的原则性行为保持可信，但她警告说，仅靠监管无法应对人工智能带来的更广泛社会压力。她说：“我认为有时人们有一种愿望，一种倾向，想要思考通过某种方式监管人工智能，以减缓其发展速度，也许是为了防范所有风险。我并不低估确保人工智能安全设有防护措施的必要性。”

我只是想说，这些确实很重要，但过分期待人工智能法规能够解决其他重要问题，比如可能加剧的社会不平等，我认为这是不现实的。相反，社会需要加强她所称的社会团结，这包括支持职业转换以及获得住房、医疗和教育的机会，以在人工智能普及过程中维持信任。