250 名を超える AI 専門家がシンガポールに集まり、グローバルテスト標準について協議

シンガポールが提案したAIセキュリティテスト標準がISO国際会議の焦点となりました。米国、中国、日本、韓国などから250名を超える専門家が参加し、このワーキンググループがASEANで初めて開催されました。わずか3年余で、AIは生成型から多モーダル型、そしてエージェント型へと発展しており、標準はそのペースに追いつかなければなりません。現在、発表済みまたは開発中のAI標準は約100項目で、1年半前の3倍です。

シンガポールは2つの取り組みに注力しています。1つ目はAIレッドチームテストの規範化で、人員が積極的にモデルを誘導して不適切なコンテンツを生成させたり情報を漏洩させたりするテスト方法を確立することです。2つ目はテキスト生成型AIアプリケーションのテスト方法の確立で、ChatGPT、DeepSeekなどのチャットボットを対象としており、来年の完成を見込んでいます。同時期に、シンガポールはオープンソースツール『Project Moonshot』を公開してテストを支援しています。

初期の標準はスタートアップと大企業にガードレールを提供し、革新に対する自信を与えます。責任者はこのプロセスを滑走路の建設に例えています——AIイノベーションは高性能飛行機のようなもので、滑走路がなければ飛び立つことができません。シンガポールはこれを通じて国際社会に自らの位置づけを証明し、企業信頼の向上を図っています。

字幕言語： ja · 取得日： 2026-05-02

おかえりなさい。シンガポールが提案した人工知能の安全テスト標準は、世界中から250人以上の専門家によって議論されています。これはISO（国際標準化機構）の会議の一部であり、参加者にはアメリカ、中国、韓国、日本からの代表が含まれます。これはこの機関がASEAN地域で開催する初めての会議です。約100の人工知能標準がすでに公開されているか、策定中であり、1年半前の3倍です。人工知能の開発と応用の急速な進展を考えると、これらの標準は必要です。わずか3年余りの間に、私たちは人工知能が生成型AIから多モーダルAIへ、そしてエージェント機能を備えたAIへと発展するのを目撃しました。したがって、標準化作業は歩調を合わせなければなりません。早期に標準を組み込むことは、新しい滑走路を建設することのようなものです。人工知能のイノベーションは高性能航空機のようなものであり、安全で適切に建設された滑走路がなければ、その可能性を発揮することはできません。

初期の基準は、スタートアップと大規模企業にガードレールを提供し、自信を持ってイノベーションを進めることを可能にしました。Nicholas Ng は、提案された基準がいかに人工知能システムをより信頼性の高いものにするか、またシンガポールがどのようにこれから利益を得るかを説明しています。では、ChatGPT があなたに誤った情報を提供しないことをどのように確認するのでしょうか。これはまさに生成型人工知能システムの使用がもたらす可能性のあるリスクの1つであり、また特定の社会グループに対する偏った回答や個人のプライバシー侵害などの問題も含まれています。これらの問題の解決にはテストが必要であり、どのようにテストを実施するかは、各国と企業が継続して答えようと努力している問題です。特に人工知能モデルは他のタイプのソフトウェアとは異なるため、人工知能モデルは数百万から数十億のパラメータを有し、その動作の創発性はより複雑系理論を用いて理解することが適切です。

砂漠を想像してください。1粒の砂をただ見ているだけでは、砂丘の位置やその移動方法などを推察するのは難しいです。これは、より小さな構成要素から創発する振る舞いです。シンガポールはこの問題の解決を試みて、「Project Moonshot」という名前のオープンソースツールを公開し、テストプロセスを支援しました。さらに、具体的で明確かつ効果的な人工知能モデルのテスト方法を見つけるために、他の方法も採用しています。ISO配下の人工知能分科委員会も関連基準を策定しており、すでにいくつかの基準を発表しています。例えば、このようなシステムを評価するための一般的な方法、およびソフトウェアテスト実践を人工知能環境に適用することなどです。シンガポールでは、彼らは2つの主要な作業に焦点を当てます。最初のものは、人工知能レッドチームテスト（つまり、人員が製品を破壊しようとすることでセキュリティをテストする）を規範化することを目的としています。

例えば、モデルを誘導して不適切なコンテンツを生成させたり、情報を漏えいさせたりすることなどです。もう1つはシンガポールが昨年提案したもので、テキスト生成型人工知能アプリケーションのテスト方法を標準化することを目的としています。例えば、ChatGPT や DeepSeek を使用するチャットボットなどです。これらの基準を定義することで、人工知能開発者の参入を阻む問題が解決されるだけでなく、さらに広範な利益ももたらされます。これは困難な旅であり、大量の作業を完了する必要がありますが、絶対に価値があります。なぜなら、私たちは国際社会に貢献することができることを認識しているからです。もちろん、企業および商業機関もシンガポールのこの分野での位置付けを理解するようになり、これは信頼度をさらに高めるだけです。

この基準には、生成型人工知能アプリケーションの品質を評価するためのベンチマークテストを確立することに関する指針が含まれており、来年の完成が予想されています。