# 新加坡釋出 AI Verify 開源測試框架

- 日期: 2023-06-07
- 相關方: Josephine Teo (新加坡通訊及新聞部長) · CNA
- 來源: https://www.youtube.com/watch?v=Cxm9i1Sswes
- sgai: https://sgai.md/zh-tw/videos/v032/
- 許可：sgai 自產內容（摘要、譯文、分析）CC BY 4.0，署名並連結 sgai.md 即可；逐字原文（國會記錄、演講、字幕、政策原文）© 原權利人，僅供引用。條款：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 為什麼重要

新加坡把 IBM、微軟、谷歌拉進 AI Verify Foundation，押注企業自願自測而非強制立法，搶佔全球 AI 治理標準話語權

## 摘要

新加坡在亞洲科技大會上釋出 AI Verify Foundation,建立全球首個 AI 治理測試開源社群。

## 要點

- AI Verify 基金會彙集 IBM、微軟、谷歌等公司開發開源 AI 測試工具。
- 工具包將開源，覆蓋透明度、安全和問責等領域，由企業自我測試 AI 模型。
- Salesforce 的 Kathy Baxter 強調倫理需在資料收集階段嵌入，最大障礙是變革管理與人才。

## 全文

© CNA — 僅供引用。

新加坡正在利用科技巨頭的集體力量，幫助企業和監管機構使人工智慧更加安全。新加坡推出了一個網路，匯聚了IBM、微軟和谷歌等公司，共同開發用於響應或使用的人工智慧測試工具，並幫助制定國際人工智慧標準。該網路在亞洲科技X新加坡峰會上釋出，名為AI Verify基金會，涵蓋了大型科技公司和不同行業的企業。現在，他們將幫助推動人工智慧測試的開源社群，併為新加坡製造的人工智慧測試工具包——AI Verify做出貢獻。此舉正值人們對該技術日益普及及其快速發展的擔憂日益加劇之際。我們相信應以負責任的方式使用人工智慧，並將其用於善良目的，但我們也將努力保護社會免受最嚴重的人工智慧風險。私營部門和研究生態系統擁有豐富的專業知識，他們可以且必須被鼓勵有意義地參與，以推動人工智慧為公眾利益服務。2女士補充說，將AI Verify測試工具包開源，將使系統開發者、解決方案提供商以及研究社群能夠使用並貢獻於透明度、安全性和問責制等領域。此舉被視為幫助企業理解其所使用的人工智慧，調整以更好地滿足自身需求，並共同開發新的更好測試工具的良好方式。我們的前線記者海蒂·昂採訪了Salesforce倫理人工智慧實踐首席架構師凱西·巴克斯特，她強調了在構建人工智慧時將倫理作為基礎的重要性。你談到了資料收集，要真正將這些倫理實踐融入人工智慧流程，確實需要這類資料。那麼，倫理資料收集的一些指標是什麼？組織在收集此類資料時如何確保倫理實踐？絕對如此，如果你沒有將倫理放在心上，如果倫理不是你所做的事情和構建人工智慧的基礎，那麼很難在最後階段再加上倫理併產生實際影響。首先，最重要的是不僅要問“我們能做嗎”，還要問“我們應該做嗎”，這是人工智慧應該解決的問題嗎？然後你要考慮用於驅動模型的資料集，它是否代表了人工智慧將影響的所有人？這些資料集中存在哪些潛在的有害性和偏見？你必須測量這些，尋找它們，然後努力減輕它們。在構建模型時，你需要從將受到影響的人那裡獲得反饋，並且必須特別努力聯絡代表性不足的社群，確保他們也參與進來，這樣他們能夠識別你可能無法預測的傷害。我們目前在這方面處於什麼階段？過去十多年，特別是由女性和有色人種女性完成了許多令人驚歎的工作，這是一個非常令人振奮的領域。已經有很多非常好的工作完成了，也有許多資源和標準，比如NIST人工智慧風險管理框架，當然還有新加坡的AI Verify工具包，今天還宣佈了AI Verify基金會。確實有一些令人驚歎的工作正在推動可訪問的負責任人工智慧的實現。談到負責任的人工智慧，確保透明度的責任是否在於建立這些人工智慧系統的組織？政府需要制定哪些法規來確保合規？有調查顯示，人們對人工智慧，尤其是更強大的人工智慧，信任度不高。因此，組織確保透明度符合其最佳利益，因為透明度帶來信任。即使法規不要求這樣做，組織透明地展示其人工智慧的建立和使用方式，確實符合其最佳利益。公司如何透明地展示其人工智慧系統？對於想使用這些工具的消費者來說，這又是怎樣的情況？這是一個極好的問題，因為透明度涉及購買人工智慧的公司或審計人員，也涉及消費者。例如，如果你在紐約面試工作，必須告知你在招聘過程中使用了人工智慧。那麼，如何向消費者傳達人工智慧的使用情況？需要用通俗語言向消費者解釋模型的作用，同時為審計人員或採購決策者提供更技術性的細節。因此，鼓勵公司真正透明地展示其人工智慧系統的運作，同時使其具備倫理性。那麼，組織在將這些倫理實踐整合到流程中面臨的更大挑戰是什麼？首先，不幸的是，對於許多公司來說，這是變革管理的問題，是改變激勵結構的問題，不僅僅根據產品或功能賺多少錢來衡量成功，而是評估其影響，確保帶來更多的好處而非傷害。其次，是尋找具備正確技能的人才。雖然有許多人工智慧開發者，但並非所有人都有負責任構建人工智慧的背景。目前人工智慧倫理學家不多，我預計未來幾年會有很多人從相關專案畢業，因為年輕一代對創造為社會服務的技術充滿熱情和活力。