# IMDA 公式紹介：AI Verify ガバナンステストフレームワーク

- 日付: 2023-01-15
- 関係者: IMDA Singapore (シンガポール 資訊通信メディア発展局) · IMDA Singapore
- 出典: https://www.youtube.com/watch?v=8NfNN1heFQY
- sgai: https://sgai.md/ja/videos/v035/
- ライセンス：sgai が作成した内容（要約・翻訳・分析）は CC BY 4.0（出典明記と sgai.md へのリンクが条件）。逐語的な原文（議会記録・演説・字幕・政策原文）は原権利者に帰属し、参照目的でのみ掲載。条項：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## なぜ重要か

IMDAは2023年にグローバル初のAI Verifyテスト・ツールキットを推出し、厳格な法制化の代わりに自発的自己評価を使用することで、国際統治標準制定権を先制的に占有しました。

## 要約

IMDA 公式動画はグローバル初の AI ガバナンステストフレームワークおよびツールキット AI Verify の機能と応用を紹介した。

## 要点

- AI Verifyは、シンガポール推出の国際的AIガバナンステストフレームワークおよびツールキットです。
- ツールキットは、公平性、堅牢性および解釈可能性の3つの原則をテストするのに加え、アカウンタビリティ、安全などのプロセス確認も実施します。
- AI Verifyは企業のローカル環境で運行し、知的財産権およびデータ機密を保護します。

## 全文

© IMDA Singapore — 参照目的でのみ掲載。

[音楽] スマートフォンの仮想アシスタントから、お気に入りのオンラインストアの推奨、さらに自動運転車まで、人工知能は明らかに私たちの生活の多くの側面に浸透しています。ますます多くの企業が自社の製品およびサービスで人工知能を使用するようになるにつれて、人工知能への信頼を育むことが、自信を構築し、ビジネス変革の機会を解放するための鍵となります。企業と利害関係者の間に信頼を構築するのを支援するために、シンガポールはAI検証およびAIガバナンステストフレームワークとツールキットを導入しました。客観的な技術テストとプロセスチェックを通じて、AI検証は、ユーザーの人工知能アプリケーションが申告したパフォーマンスベンチマークに準拠していることを証明するのに役立つことができます。情報通信メディア発展庁（MDA）は、このパイロット計画への参加に関心のある企業を招待し、彼らのAIモデルをテストしてフィードバックを共有しています。現在、最小限の実行可能な製品として立ち上げられたAI検証は、2つの部分から構成されています：ガバナンステストフレームワークとソフトウェアツールキット。このフレームワークは、国際的に認識されたAIガバナンス原則と合致しています。AI検証は倫理基準を定義するのではなく、AI開発者、ユーザー、および所有者がこれらの原則に従ってAIシステムへの申告を検証することを可能にします。[音楽] インターフェースはユーザーをステップバイステップでテストプロセスを完了するようにガイドし、操作は簡単で、技術的なユーザーと非技術的なユーザーの両方に適しています。[音楽] テストは公正性、堅牢性、および解釈可能性の3つの原則を含みます。ガイド付きワークフローは、ユーザーがテストシナリオを構成し、使用事例に最も関連性のある結果を選択するのを支援します。公正性を例として、テストはAIモデルが性別または人種などの人口統計グループ間で異なる結果を生成するかどうかを評価するのに役立ちます。技術テストのほかに、問責性、セキュリティ、人間の能動性、および監視などすべてのガバナンス原則を自己評価するためのプロセスチェックリストがあります。ツールキットは主要な結果の要約、技術テストの結果、およびプロセスチェック分析を提供します。ユーザーの知的財産権とデータの機密性を保護するため、AI検証はユーザーのローカル環境で実行されます。AI検証はどのように機能しますか？AI検証は非常に使いやすく、最初にモデルの詳細とパラメータを入力してから、ツールキットがユーザーのAIモデルに接続する方法を構成し、テストデータセットをアップロードします。これは特性リストの識別に使用され、その後、テストを実行できます。[音楽] 解釈可能性を例として、特定のAIモデルを選択する際の考慮事項が記録されているかどうかを指摘できます。根拠、リスク評価、およびトレードオフなど。また、フレームワークが業界のニーズを継続して満たすことを確保するためにフィードバックを提供することもできます。技術テストとプロセスチェックを完了した後、結果を表示してレポートをダウンロードできます。パイロット計画に参加している企業は複数の利益を得られます：ユーザーは国際的に整合したAIガバナンステストフレームワークとツールキットを包括的に最初に使用できます；ツールキットはユーザーがAIモデルを自己テストしてレポートを生成するのを支援し、利害関係者との信頼を構築するのに役立ちます；ユーザーはまた、他の参加企業とのネットワーク構築と協力の機会があります。情報通信メディア発展庁にユーザーのフィードバックとレポートを共有することは、AI検証を改善し、国際的なAIガバナンス基準の発展を推進するのに役立ちます。今すぐシンガポールのAI検証パイロット計画に参加し、信頼できる人工知能を構築してください。[音楽] 詳細情報については、go にアクセスしてください。

gov.sg AI検証