# IMDA 官方介紹: AI Verify 治理測試框架

- 日期: 2023-01-15
- 相關方: IMDA Singapore (新加坡資訊通訊媒體發展局) · IMDA Singapore
- 來源: https://www.youtube.com/watch?v=8NfNN1heFQY
- sgai: https://sgai.md/zh-tw/videos/v035/
- 許可：sgai 自產內容（摘要、譯文、分析）CC BY 4.0，署名並連結 sgai.md 即可；逐字原文（國會記錄、演講、字幕、政策原文）© 原權利人，僅供引用。條款：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 為什麼重要

IMDA 2023 年推出全球首個 AI Verify 測試工具包，用自願自評替代硬性立法，搶先卡位國際治理標準制定權

## 摘要

IMDA 官方影片介紹全球首個 AI 治理測試框架和工具包 AI Verify 的功能與應用。

## 要點

- AI Verify 是新加坡推出的國際試點 AI 治理測試框架與工具包。
- 工具包測試公平性、穩健性和可解釋性三項原則，以及問責、安全等流程檢查。
- AI Verify 在企業本地環境執行，保護智慧財產權與資料機密。

## 全文

© IMDA Singapore — 僅供引用。

[音樂] 從我們手機上的虛擬助手，到你最喜歡的網店推薦，再到自動駕駛車輛，人工智慧顯然已經滲透到我們生活的許多方面。隨著越來越多的公司在其產品和服務中使用人工智慧，培養對人工智慧的信任是建立信心和釋放業務變革機遇的關鍵。為了幫助企業與其利益相關者建立信任，新加坡推出了AI驗證和AI治理測試框架及工具包。通過客觀的技術測試和流程檢查，AI驗證可以幫助證明你的人工智慧應用符合你所宣告的效能基準。信息通信媒體發展局（MDA）邀請有興趣的公司參與這一國際試點，測試他們的AI模型並分享反饋。目前作為最小可行產品推出的AI驗證包含兩個部分：治理測試框架和軟體工具包。該框架與國際公認的AI治理原則保持一致。AI驗證不定義倫理標準，而是允許AI開發者、使用者和所有者根據這些原則驗證他們對AI系統的宣告。[音樂] 介面引導你一步步完成測試過程，操作簡單，適合技術和非技術使用者。[音樂] 測試涵蓋公平性、穩健性和可解釋性三個原則。引導式工作流程幫助你配置測試場景，協助選擇與你的使用案例最相關的結果。以公平性為例，測試將幫助評估AI模型是否在性別或種族等人口統計群體間產生不同的結果。除了技術測試外，還有流程檢查表供你自我評估所有治理原則，例如問責、安全、人類能動性和監督。工具包提供主要結果摘要、技術測試結果和流程檢查分析。為保護你的智慧財產權和資料機密，AI驗證在你的本地環境中執行。AI驗證如何工作？AI驗證非常易用，首先輸入模型詳情和引數，然後配置工具包如何連線你的AI模型並上傳測試資料集，這將用於識別特徵列表，隨後即可執行測試。[音樂] 以可解釋性為例，你可以指出是否已記錄選擇某個AI模型時的考慮因素，如理由、風險評估和權衡。你還可以提供反饋，確保框架持續符合行業需求。完成技術測試和流程檢查後，你可以檢視結果並下載報告。參與試點的公司將獲得多項好處：你將率先全面使用與國際接軌的AI治理測試框架和工具包；工具包將幫助你對AI模型進行自我測試並生成報告，助力你與利益相關者建立信任；你還將有機會與其他參與公司建立網路和合作。向信息通信媒體發展局分享你的反饋和報告，將有助於完善AI驗證並推動國際AI治理標準的發展。立即加入新加坡AI驗證試點，構建可信賴的人工智慧。[音樂] 瞭解更多資訊，請訪問go。

gov.sg 人工智慧驗證