# シンガポール、AI Verify オープンソーステストフレームワークを発表

- 日付: 2023-06-07
- 関係者: Josephine Teo (シンガポール 通信及びニュース大臣) · CNA
- 出典: https://www.youtube.com/watch?v=Cxm9i1Sswes
- sgai: https://sgai.md/ja/videos/v032/
- ライセンス：sgai が作成した内容（要約・翻訳・分析）は CC BY 4.0（出典明記と sgai.md へのリンクが条件）。逐語的な原文（議会記録・演説・字幕・政策原文）は原権利者に帰属し、参照目的でのみ掲載。条項：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## なぜ重要か

シンガポールはIBM、マイクロソフト、グーグルをAI Verify Foundationに引き込み、強制的法制化ではなく企業による自発的自己評価に賭けながら、グローバルAI統治標準における発言権を占有しています。

## 要約

シンガポールはアジア科学技術会議で AI Verify Foundation を発表し、グローバル初の AI ガバナンステストオープンソースコミュニティを確立した。

## 要点

- AI Verify財団は、IBM、マイクロソフト、グーグルなどの企業を集約し、オープンソースのAIテストツールを開発しています。
- ツールキットはオープンソースで提供され、透明性、安全性、説明責任などの領域をカバーし、企業がAIモデルの自己テストを実施できるようにしています。
- SalesforceのKathy Baxterは、倫理がデータ収集段階に組み込まれる必要があることを強調し、最大の障壁は変革管理と人材であると述べています。

## 全文

© CNA — 参照目的でのみ掲載。

シンガポールは、テクノロジー大手が一堂に力を合わせて、企業と規制当局がAIをより安全にするのを支援しています。シンガポールは、IBM、マイクロソフト、Googleなどの企業を集めたネットワークを立ち上げました。このネットワークは、人工知能テストツールを共同開発し、対応や利用に活用されるツールの開発および国際的なAI標準の策定を支援しています。このネットワークはAsia Tech X Singapore Summitで発表され、AI Verify Foundationと呼ばれており、大手テクノロジー企業およびさまざまな業界の企業が参加しています。現在、彼らはAIテストのオープンソースコミュニティを推し進め、シンガポール発のAIテストツールキット「AI Verify」に貢献することになります。この動きは、このテクノロジーのますますの浸透とその急速な進化に対する懸念が高まっている時期に行われています。我々は、「責任ある方法でAIを使用し、善い目的のために活用すべきだと信じていますが、同時に社会をAIの最も深刻なリスクから守ることにも努力します」と考えています。民間部門と研究生態系は豊富な専門知識を持っており、彼らは意味のある参与を奨励され、AIが公共の利益のために機能することを推し進めることができ、またそうあるべきです。補足として、AI Verifyテストツールキットをオープンソースにすることにより、システム開発者、ソリューションプロバイダー、および研究コミュニティが透明性、セキュリティ、説明責任などの分野で使用および貢献することが可能になります。この動きは、企業が使用しているAIを理解し、自身のニーズをより良く満たすように調整し、そして共同でより優れたテストツールを開発するのを支援する有効な方法と見なされています。我々のフロント記者Heidiは、Salesforceの倫理的AI実践の主席アーキテクトであるCasey Baxterにインタビューしました。彼女はAI構築時に倫理を基盤とすることの重要性を強調しています。「あなたはデータ収集について言及されました。これらの倫理的実践をAIプロセスに真に統合するには、実際にこのようなデータが必要です。では、倫理的データ収集の指標にはどのようなものがあるのでしょうか？組織がこのようなデータを収集する際に、倫理的な実践をどのように確保するのでしょうか？」。「その通りです。もし倫理を念頭に置いていなかったり、倫理がAI構築の基盤ではなかったりした場合、後の段階で倫理を追加して実際の影響を与えることは難しいです。まず最も重要なことは、『できるのか』だけでなく『すべきなのか』と問うことです。これはAIが解決すべき問題なのでしょうか？次に、モデルを駆動するために使用されるデータセットを考慮する必要があります。それはAIが影響を与えるすべての人々を代表していますか？これらのデータセット内にはどのような潜在的な害と偏見が存在していますか？これらを測定し、探索し、そしてそれらを緩和するために努力しなければなりません。モデルを構築する際には、影響を受けるであろう人々からフィードバックを得る必要があり、代表性が不足している社会層と連絡を取るために特別な努力をしなければなりません。彼らも参加することで、あなたが予測できない可能性のある害を特定できるようにする必要があります」。現在、我々はこの分野でどのような段階にありますか？過去10年以上にわたり、特に女性と有色人種の女性によって、素晴らしい仕事が多く行われてきました。これは非常に励みになる分野です。すでに非常に優れた仕事が多く行われており、NIST人工知能リスク管理フレームワークのような多くのリソースと標準が存在しており、もちろんシンガポールのAI Verifyツールキットもあり、本日はAI Verify Foundationも発表されました。確かに責任あるAIのアクセス可能な実装を推し進める素晴らしい仕事が多く行われています。責任あるAIについて話すとき、透明性を確保する責任は、これらのAIシステムを構築する組織にあるのでしょうか？政府はコンプライアンスを確保するためにどのような規制を制定する必要があるのでしょうか？調査によると、人々はAI、特に強力なAIに対して高い信頼感を持っていません。したがって、組織が透明性を確保することは最良の利益に合致しています。なぜなら、透明性は信頼をもたらすからです。規制がそれを要求していなくても、組織がAIの創造と使用方法を透明に示すことは、確かに最良の利益に合致しています。企業はどのようにしてAIシステムを透明に示すことができますか？これらのツールを使用したい消費者にとっては、どのようなことになるのでしょうか？「これは非常に優れた質問です。なぜなら、透明性はAIを購入する企業や監査人にも関係していますが、消費者にも関係しているからです。例えば、ニューヨークで職務のインタビューを受けている場合、採用プロセスでAIが使用されたことを告知する必要があります。では、消費者にAIの使用方法をどのように伝えるのでしょうか？簡潔な言葉でモデルが何をするかを消費者に説明する必要があり、同時に監査人または採用決定者にはより技術的な詳細を提供する必要があります。したがって、企業が真にそのAIシステムの運用を透明に示しながら、倫理的にすることを奨励しています」。では、組織がこれらの倫理的実践をプロセスに統合する際に直面する最大の課題は何ですか？「まず、残念ながら、多くの企業にとって、これは変革管理の問題であり、インセンティブ構造を変更する問題です。製品またはフィーチャーでどの程度の収入を得るかによってのみ成功を測定するのではなく、その影響を評価し、より多くの利益をもたらし、害をもたらさないことを確保する必要があります。次に、正しいスキルを持つ才能を見つけることが課題です。多くのAI開発者がいますが、すべての人が責任あるAI構築の背景を持っているわけではありません。現在、AI倫理学者はあまり多くありませんが、今後数年間で、関連プログラムを卒業する多くの人々が出てくることを予想しています。なぜなら、若い世代は社会に奉仕する技術を創造することに熱情と活力を持っているからです」。