# IMDA 官方介绍: AI Verify 治理测试框架

- 日期: 2023-01-15
- 相关方: IMDA Singapore (新加坡资讯通信媒体发展局) · IMDA Singapore
- 来源: https://www.youtube.com/watch?v=8NfNN1heFQY
- sgai: https://sgai.md/zh/videos/v035/
- 许可：sgai 自产内容（摘要、译文、分析）CC BY 4.0，署名并链接 sgai.md 即可；逐字原文（国会记录、演讲、字幕、政策原文）© 原权利人，仅供引用。条款：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 为什么重要

IMDA 2023 年推出全球首个 AI Verify 测试工具包，用自愿自评替代硬性立法，抢先卡位国际治理标准制定权

## 摘要

IMDA 官方视频介绍全球首个 AI 治理测试框架和工具包 AI Verify 的功能与应用。

## 要点

- AI Verify 是新加坡推出的国际试点 AI 治理测试框架与工具包。
- 工具包测试公平性、稳健性和可解释性三项原则，以及问责、安全等流程检查。
- AI Verify 在企业本地环境运行，保护知识产权与数据机密。

## 全文

© IMDA Singapore — 仅供引用。

[音乐] 从我们手机上的虚拟助手，到你最喜欢的网店推荐，再到自动驾驶车辆，人工智能显然已经渗透到我们生活的许多方面。随着越来越多的公司在其产品和服务中使用人工智能，培养对人工智能的信任是建立信心和释放业务变革机遇的关键。为了帮助企业与其利益相关者建立信任，新加坡推出了AI验证和AI治理测试框架及工具包。通过客观的技术测试和流程检查，AI验证可以帮助证明你的人工智能应用符合你所声明的性能基准。信息通信媒体发展局（MDA）邀请有兴趣的公司参与这一国际试点，测试他们的AI模型并分享反馈。目前作为最小可行产品推出的AI验证包含两个部分：治理测试框架和软件工具包。该框架与国际公认的AI治理原则保持一致。AI验证不定义伦理标准，而是允许AI开发者、用户和所有者根据这些原则验证他们对AI系统的声明。[音乐] 界面引导你一步步完成测试过程，操作简单，适合技术和非技术用户。[音乐] 测试涵盖公平性、稳健性和可解释性三个原则。引导式工作流程帮助你配置测试场景，协助选择与你的使用案例最相关的结果。以公平性为例，测试将帮助评估AI模型是否在性别或种族等人口统计群体间产生不同的结果。除了技术测试外，还有流程检查表供你自我评估所有治理原则，例如问责、安全、人类能动性和监督。工具包提供主要结果摘要、技术测试结果和流程检查分析。为保护你的知识产权和数据机密，AI验证在你的本地环境中运行。AI验证如何工作？AI验证非常易用，首先输入模型详情和参数，然后配置工具包如何连接你的AI模型并上传测试数据集，这将用于识别特征列表，随后即可运行测试。[音乐] 以可解释性为例，你可以指出是否已记录选择某个AI模型时的考虑因素，如理由、风险评估和权衡。你还可以提供反馈，确保框架持续符合行业需求。完成技术测试和流程检查后，你可以查看结果并下载报告。参与试点的公司将获得多项好处：你将率先全面使用与国际接轨的AI治理测试框架和工具包；工具包将帮助你对AI模型进行自我测试并生成报告，助力你与利益相关者建立信任；你还将有机会与其他参与公司建立网络和合作。向信息通信媒体发展局分享你的反馈和报告，将有助于完善AI验证并推动国际AI治理标准的发展。立即加入新加坡AI验证试点，构建可信赖的人工智能。[音乐] 了解更多信息，请访问go。

gov.sg 人工智能验证