# 先端AI安全規制と部門横断事故報告フレームワーク

- 日付: 2026-10-07
- 収録: 2026-10-21
- 関係者: Dr Charlene Chen · Mr Alex Yam · Dr Choo Pei Ling · Mr Yip Hon Weng · Mr Tan Kiat How
- 出典: https://sprs.parl.gov.sg/search/#/sprs3topic?reportid=oral-answer-4231
- sgai: https://sgai.md/ja/debates/oral-answer-4231/
- ライセンス：sgai が作成した内容（要約・翻訳・分析）は CC BY 4.0（出典明記と sgai.md へのリンクが条件）。逐語的な原文（議会記録・演説・字幕・政策原文）は原権利者に帰属し、参照目的でのみ掲載。条項：https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## なぜ重要か

Tan Kiat How 上級政務担当国務相は口頭の追加質問で、既存のサイバーセキュリティ、個人データ保護、重要情報インフラの枠組みはすでにエージェント型 AI に適用され見直し中だとしつつ、安全試験の義務化や報告基準は約束しませんでした。

## 要約

Charlene Chen、Choo Pei Ling、Yip Hon Weng、Alex Yam Ziming などの議員が、シンガポール AI 安全研究所による最先端 AI モデルの独立テスト能力、部門横断的なインシデント報告メカニズム、およびオーストラリアの自律型 AI エージェントの越権アクセス事件に類似した政府システムのレジリエンスへの影響について、デジタル発展・情報省（MDDI）大臣に質問した。上級大臣タン・キアットハウが代わりに答弁し、既存のサイバーセキュリティ、データ保護、および重要情報基盤規制枠組みはエージェント型 AI システムにも同等に適用され、政府は GovTech などの機関を通じてエージェント型 AI の責任ある展開をテストしており、関連枠組みの強化が必要かどうかを継続的に検討しているが、強制的な最先端 AI 安全テストの具体的なしきい値またはタイムラインの設定は約束していないと述べた。

## 要点

- 既存のガイドライン、法規、リスク管理プロセス、および監視メカニズムはエージェント型 AI システムに同等に適用され、人間の説明責任を維持する原則を含む。
- 政府は GovTech などの機関を通じて公共サービス分野でエージェント型 AI の応用をパイロットしており、これらのシステムを責任ある方法で実装する方法を理解することを目指している。
- シンガポール AI 安全研究所は、国際的な同業者と継続的に緊密に協力し、AI 安全のベストプラクティスを共有している。
- シンガポールは最近、国連などの多国間フォーラムで志を同じくする国々と支持声明に署名し、AI 安全分野における国際協力を強化している。
- 既存のインシデント報告枠組み（例えば個人データ保護法）は既にしきい値を設定しており、AI ツールを使用しているかどうかに関わらず、すべての組織が準拠する必要があり、企業は従業員による無許可のジェネレーティブ AI（シャドウ AI）の使用がもたらすリスクも管理する必要がある。

## 全文

10番 Charlene Chen博士はデジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）シンガポールAI安全研究所（AISI）が先進的なAIモデルの能力を独立して評価する際に、開発者が提供するアクセス権限不足によって制限されているか、（b）アクセス権限を取得できない場合にリスクをどのように評価するか、および（c）十分に高いリスクがあると評価されたAIシステムに対して独立した安全テストを要求するかについてです。

11番 Charlene Chen博士はデジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）政府が既存の業界事件報告要件がAIシステムに関連する重大事件を十分にカバーしているかどうかを評価したか、および（b）不備が存在する場合、重大なAI事件に対処するための業界横断的な報告枠組みを検討するかについてです。

12番 Alex Yam Ziming氏は、最近のオーストラリア政府システムへの自律型AIエージェントによる違法アクセスに鑑みて、デジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）シンガポール政府のデジタルシステムが同様のエージェントAI行動に対する耐性を評価したか、および（b）既存のサイバーセキュリティと事件報告枠組みが人間のオペレーターによる明確な指示を受けていないAIシステムの自律行動を十分に対処しているかについてです。

13番 Choo Pei Ling博士はデジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）政府がシンガポールに展開される先端的なAIモデルのための強制的なセキュリティ要件を導入するかどうか。これには、展開前のリスク評価、独立した安全テスト、悪用防止対策、および重大事件の報告が含まれます。および（b）そうであれば、AI能力の発展に伴い、これらの要件がどのように実装および更新されるかについてです。

14番 Yip Hon Weng氏は、シンガポールが先端的なAIの国際的な監視を支持していることに鑑みて、デジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）独立テストアクセス権を取得できない場合、部長は海外モデルが基本的なサービスに展開するのに十分安全であるかどうかをどのように確認するか、および（b）展開前に検証可能なセキュリティ証拠を必要とすることが合理的であると証明する考慮因素はどれか。開発者の保証に頼るのではなく、についてです。

15番 Choo Pei Ling博士はデジタル発展・情報省（MDDI）部長に次を問い合わせています。（a）政府が、急速なAIモデルの進歩が既存のサイバーセキュリティ要件を超える追加的な保護措置を必要とするかを判断するためのしきい値または指標を設定しているかどうか、および（b）シンガポールが外国政府、主要なAI開発者、および国際的なサイバーセキュリティ機関と、国境を越えたAI対応のサイバー事件に関する緊急時対応計画を確立しているかについてです。

デジタル発展・情報省（MDDI）上級政務部長（タン・キアットハウ氏）（デジタル発展・情報省（MDDI）部長に代わって）：議長、本日の議題第10～15項の質問についてですが、これらの質問は昨日の国会会議において第45～51項の質問および第33項の書面回答質問への回答において処理済みです。[『シンガポールのデジタルシステムに対するエージェントAI行動の耐性評価』、公式報告書、2026年10月6日、第96巻、第38号、質問時間終了前に答弁されなかった口頭質問への回答部分を参照してください。]

議長：Charlene Chen博士。

Charlene Chen博士（Tampines）：議長、ありがとうございます。昨日の回答で、部長は事件と近接事件から学ぶことの重要性に言及されました。上級政務部長は、どのようなしきい値がAI事件の報告を必要とするか、また、人間の介入が実際の害を防いだ場合でも、重大な近接事件も報告されるべきかどうかについて、明確にしていただけますでしょうか？

私の2番目の補充質問は、部長の回答の大部分が政府システムと基本的なサービスに焦点を当てているということです。しかし、AIシステムはますます私的な組織によって展開されています。個人または財務情報に関連する場合など、AIシステムの意図しない行動から重大な影響を受ける可能性のある一般市民にとって、現在どのような保護措置と救済手段がありますか？彼らはAI関連の事件が彼らに影響を与えたことを知らせられる権利がありますか？

最後の補充質問です。シンガポールに展開されたAIシステムが国民に直接的で深刻なリスクをもたらしていることが判明した場合、リスク調査中、基盤モデルが海外から来ている場合を含めて、現在、我々の規制機関がその使用を一時停止または制限する権限を有していますか？

タン・キアットハウ氏：議長、議員が提起された3つの補充質問をありがとうございます。これらは大体同じテーマを中心に展開され、リスクをどのように考えるか、そして我々の対応措置に関するものです。したがって、これら3つの補充質問をまとめて回答させていただきます。

まず、AI、特にますます増える代理型および自律型AIシステムが、新しい機会とリスクをもたらしていることを認識していることを述べたいです。エージェント型システムの違いは、これらのシステムが操作を実行でき、外部システムと相互作用し、人間の監視を減らすために行動を調整できることです。したがって、我々の対応は2つの側面に焦点を当てています。

まず、エージェント型AIおよび議員が言及した自律システムから生じる多くのリスクが、既存の課題の延長であることを認識する必要があります。したがって、個人に対する影響であれ、重要な情報基盤インフラシステムまたは他の基本デジタルサービスに対する影響であれ、これらはすべて、今日直面している同じ課題の延長です。

したがって、リスク管理プロセスと監視を含む既存のガイドラインと規制は、エージェント型AIシステムにも適用されます。人間の説明責任を維持し、適切な統制とセーフガードを実施する原則も適用されます。さらに、データ保護、サイバーセキュリティ、および耐性の強化に向けた長期的な取り組みは、AIエージェントと相互作用するシステムの保護に役立ちます。

もちろん、エージェント型システムの自主性の増加に対応するため、これらの枠組みとシステムをどのように調整・強化するかを見直しており、同時にこの新興分野の国際的発展も監視しています。

ですから、強調したい第1の点は、これらのリスクはすでに我々の周りに存在しているということです。はい、新しい側面がある可能性がありますが、これらは既存のリスクであり、既存の枠組みが適用され、我々はそれらをどのように強化するかについて見直しています。

第2に、我々はまた独自の内部能力を開発する必要があります。既存の枠組みと方法を超える能力を開発しています。急速に進化する技術に追いつき、エージェント型システムの責任ある実装に必要なものを理解するため、試験と実験を実行しています。我々は確かに政府内でこれを行っています。政府技術庁（GovTech）がこれを行い、政府内の多くの他の機関も、適切な保護措置の下で既にこれを行い、責任を持ってこれを行っています。

私は、重要な情報基盤インフラストラクチャまたは基本デジタルサービスを運営していない組織であっても、エージェント型AIおよびシステムを展開する際には、適切な注意と責任を取ることをすべての民間セクター組織に奨励します。しかし、我々は能力を開発しており、これは新しく、新興の、急速に発展する分野です。我々はそれを監視し続け、必要に応じて枠組みと規制を更新します。

議長：Alex Yam Ziming氏。

Alex Yam Ziming氏（Marsiling-Yew Tee）：議長、ありがとうございます。上級政務部長の回答および部長の昨日の回答に感謝いたします。オーストラリアのOpenAI事件の特定の側面に焦点を当てたいと思います。これは我々にとって特に重要だと考えています。

オーストラリア政府は、開発者が最終的に識別して豪州政府に開示したため、事件発生後3ヶ月後にのみ不正アクセスについて知りました。ですから、我々の国内例では、法律はCIIおよび重要インフラ企業に事件報告を要求しています。しかし、今日、特に海外の開発者は、我々の当局が適切な措置を講じることができるよう、違法アクセスを迅速かつ早期に通知する明確な義務がありますか？

2番目の質問はテストについてです。サイバーセキュリティ庁（CSA）およびデジタル発展・情報省（MDDI）傘下の機関を含む我々の国内機関がシステムとエージェントに対して相当に強力なテストを実施し、モデルを開発していると相当確信しています。より厳密な独立テストを支持していますが、最近見た例はすべて開発者の仕事の範囲内にあり、それらのテストでさえ失控しています。悪意のあることは何も起こりませんでした。開発者がモデルをテストしており、それらもまた失控しているだけです。その場合、我々自身のテスト能力で危険が発見された場合でも、他の第三者にリスクをもたらさないようにするために、他にどのような保護措置を講じることができますか？

タン・キアットハウ氏：議長、議員の質問に順次お答えします。

第1は進行中の事項に関するものです。これはまだ活発な問題です。公開報道から、議員が言及した先端AI企業がオーストラリア政府と通信をしていることを読みました。ですから、これはアクティブな問題であり、我々はそれを監視しています。私が言いたいことは、先端AI企業がより大きな責任を引き受けて、彼らが開発したシステムが生み出すリスクを理解・管理することを歓迎します。これには、新興の能力とリスクの早期認識、およびこれらのシステムが広く展開される前に保護措置の実装が含まれます。

これらのシステムまたはAI先端モデルの能力が他者に害をもたらすか影響を与える場合、我々は確実に彼らが責任を引き受け、問題をできるだけ早く是正することを歓迎します。

同時に、過去数ヶ月の状況が大きく変わったと考えています。我々に対する脅威の風景を見ています。異なるサイバーリスク、デジタルリスクに直面しています。これはサイバー犯罪者、ハッカー、高度な持続的脅威（APT）から来ており、国家が後援する、国家が支援する行為者か、単なるスリルのためにデジタル手段で他のシステムに侵入する個人です。

任意の組織、任意の経済体に対するリスクは、数ヶ月前と比較して非常に異なります。最先端のAIモデルが脆弱性の検出に使用されたり、自律的なリンク操作を通じて脆弱性を悪用したりすることだけではなく、インターネット上で自由にダウンロードできるオープンソースAIモデルが多数ある状況です。悪質な行為者はこれらの能力を使用して、組織へのサイバー脅威を引き起こしたり、犯罪活動を行ったりすることができます。

ですから、脅威の風景は非常に異なっています。先端AIモデルの開発者によるリスクだけではなく、多くの行為者がオープンウェイトモデルをダウンロードし、それらを適応させ、独自のツールを作成し、独自のコンテキストを設定し、不当な目的に使用することができます。ですから、我々は他者が我々を侵害していることを待つだけではいけません。シンガポールと我々の組織、特に重要情報インフラを運営している組織は、必要な保護措置を講じる責任があります。

我々は多くのことを行うことができます。また、これらの基本的なサービスを運営している組織も多くのことを行うことができます。

まず、基本的なネットワークセキュリティ衛生対策を確立することが重要です。しばしば比喩を用いますが、情報技術システムを構築することは、建物に新しい部屋や翼、附属建築を追加することに似ています。時には、すべてのドアをロックし、すべての窓を保護したかどうか不確実な場合があります。エージェントや悪意のある行為者は同じ脆弱性——ロックされていないドアや不安全な窓——を悪用して、AI手段を通じてか、またはより従来の通常の手段を通じてか、私たちのシステムに侵入します。

したがって、まず必要な予防措置を講じる必要があります。ネットワークセキュリティ衛生を改善し、脆弱性を排除し、システム内の異常な行動を継続的に積極的に監視することです。これらのこと——基本衛生——は私たちが実行できることです。

第二に、悪意のある行為者がAI能力を使用する場合でも、私たち自身のシステム内でこれらのAI能力を展開して、脆弱性をより早く検出できるようにする必要があります。私たちは優位性を持つべきです。なぜなら、私たちは自分たちのシステムを理解しているからです。建物のレイアウトと設計図を知っています。附属建築がどこにあるか知っています。建物内の重要なサービスがどこにあるか知っています。したがって、私たちはAIを利用して自分たち自身の優位性をもたらします。これが私たちが実行すべき第二のことだと思います。

第三に、さらに重要なことに、これらのリスクへの恐怖や不安が、この技術を十分に活用することを妨げてはいけません。したがって、この技術を利用して価値を創造し、新しい製品、新しいサービスを作成し、国民に新しい機会を創出する必要があります。しかし、責任を持ってこれを行い、適切な保障措置を講じ、プロセスの中で学習し適応する必要があります。

議員の視点からすると、これらは私たちが実行できる実際的なことであり、すでに私たちを攻撃していることを他者から告げられるのを待つ必要はありません。

議長殿：Choo Pei Ling博士。

Choo Pei Ling博士（Chua Chu Kang）：議長先生、ありがとうございます。高級政務部長のご説明と回答に感謝申し上げます。補足的な質問がいくつかございます。

第一に、高級政務部長が共有された内容に基づき、何が政府をガイダンスから強制的な保障措置へと移行させるのか、先端的なAIシステムの展開前に、さらに詳しく説明いただけますか。例えば、著しく向上した自律性、外部システムを超える行動能力、または既存の保障措置では十分に対応できないリスクが生じた場合です。

第二の補足質問ですが、このようなトリガーポイントに達した場合、これらのより強い保障措置、または高級政務部長がこれまで用いられている「AI capabilities」という用語を用いる場合、海外で開発されたモデルを含めて、どの程度迅速に適用できますか。

最後に、外国の対応機関と主要なAI開発企業との共同演習を通じてテストされた国境を超えた緊急対応体制がすでに存在するかどうか、また、それらが警告、情報共有、および封じ込めの明確な責任を規定しているかどうかです。

タン・キアットハウ先生：先生、Choo Pei Ling博士のご質問に順次お答えいたします。博士は、ガイダンスを強制的な要件に転換する何らかの閾値が存在するかどうかをお尋ねになっています。これは私たちが継続的に監視および審査する必要がある事項です。ただし、申し上げたいことは、私たちが対処しているリスク、およびこれらのリスク軽減のために講じうる手段は、実のところ新規のリスクではないということです。これらは既存のリスク——重要情報基盤インフラに対するサイバー攻撃であれ、基本的なデジタルサービス内でのAIボットまたはエージェントの使用に起因するサービス中断であれ、例えば金融サービスまたは他のユーティリティ内での——です。これらは既存のリスクです。サイバーセキュリティの観点から、部門規制当局は、重要情報基盤インフラサービスのオペレータと緊密に協力し、どのような保障措置の実施が必要かを確認する必要があります。

したがって、自発的な保障措置であれ、例えば特定のユースケースでのエージェント型AIの使用であれ、あるいは特定の展開のために必要とされる保障措置の如何なるタイプであれ、これらはすべて部門規制当局と基本サービス運営者の間で論議される必要があります。

もちろんのこと、私たちは公共サービス内の異なるサービスでも同様に行っています。例えば、政府内では、政府技術庁は公共サービスの異なるサービス所有者と密接に協力して、どのようにAIを責任を持って使用するかを確認しています。

国際的な関与に関しては、これは非常に初期段階であり新興の領域です。私たちはニュースの見出しを読んでいます。例えば、AIセキュリティに関するより多くの対話を歓迎しています。シンガポールに関しては、私たちは建設的な役割を果たそうとしており、例えば私たちが主催する技術および科学会議を通じてそれを行っています。シンガポール内で多くのこのような会議を開催し、その分野の傑出した人物および技術的に信頼できる最先端の専門家をシンガポールに招き、相互に対話するためだけでなく、私たちと相互作用し、彼らの見方を私たちと共有するためです。

私たちはまた、異なるAIセキュリティ研究所と緊密に協力し続けています。シンガポール内のAIセキュリティ研究所は、ベストプラクティスを共有するために、他の国際的な対応機関と緊密に協力し続けています。

したがって、私たちは進行中の科学および工学対話に深く関与しています。しかし、これは新しい領域であり、まだ討議中です。最近、多国間フォーラム（国連など）では、より多くの志を同じくする国々と協力することを歓迎しています。シンガポールは最近、AIセキュリティに関する国際協力を強化するために、志を同じくする国々と支持声明に署名しました。これは私たちが国際的な対応機関と継続して緊密に協力する事項です。

議長殿：最後の補足質問、Yip Hon Weng先生。

Yip Hon Weng先生（Yio Chu Kang）：ありがとうございます、議長先生。高級政務部長のご回答に感謝申し上げます。これは非常に簡潔な補足質問です。これはAI開発速度の問題への対応です。

先端的なモデルおよびそれらの能力が展開後に急速に変化することから、部委は基本サービスの使用に対する要件について定期的な再評価と明確なインシデント報告体制を検討していますか。展開前の保証を一度限りの演習と見なすのではなく。

この質問を提起しているのは、システムが急速に変化する場合に公衆の信頼を維持するのに役立つからです。

タン・キアットハウ先生：先生、議員のご質問に感謝申し上げます。既存の法規制および規則には確かにインシデント報告フレームワークが存在します。異なる脅威環境および運営環境を踏まえ、これらのフレームワークが更新の必要性があるかどうかを確認するため、私たちは継続して審査いたします。ただし、これらのインシデント報告フレームワークの閾値はすでに所定の位置にあります。例えば、『個人データ保護法』に基づいて。

AIツールの使用の有無に関わらず、組織は依然としてこれらの既存の義務を遵守する必要があります。これには、個人データを保護するための合理的なセキュリティ措置、および自らのデータ保護義務を満たすための適切なポリシーと実践を含みます。

一部の議員はニュースで見たかもしれませんが、最近、組織の従業員がジェネレーティブAIツールを個人的に使用し、マーケティングメールを送信するためのメール配信スクリプトを開発したが、操作が不適切で、個人データが漏洩するという事件が発生しました。

このケースは、組織がAIツールの広範な個人使用に関連するリスク管理の必要性を強調しています。これは多くの組織が直面する別のリスク——先端的なAIモデルだけでなく、業界が呼ぶところの「shadow AI」——です。これは、従業員が組織の承認や認可を受けずにAIツールを組織のシステムに持ち込む可能性があることを組織が知らないことを意味しています。しかし、それは非常にアクセスしやすいのです。スマートフォンでダウンロードし、職場で自分自身の用途に使用するだけで、必要な保障措置がありません。

したがって、AIツールがより利用しやすくなるにつれ、従業員はそれらを進んで使用する可能性があり、これは称賛に値します——生産性のあるAI使用を妨げてはいけません。しかし、組織は、これらのツールがどのように使用されているかを理解し、適切なポリシーと保障措置を講じる必要があります。

したがって、これらの報告閾値およびフレームワークは既に所定の位置にあります。重要なのは、組織が従業員のAIツール使用を奨励しながら同時に正しい保障措置を備えた文化を構築する必要があり、また、AIツールをあらゆる組織に導入することがより容易になったため、新しいリスクがもたらされたことに注意する必要があるということです。

## Hansard (original, English)

© Parliament of Singapore — reproduced for reference only.

10 Dr Charlene Chen asked the Minister for Digital Development and Information (a) whether the Singapore AI Safety Institute's ability to independently evaluate advanced AI models has been constrained by insufficient access from developers; (b) how risks are assessed where such access is unavailable; and (c) whether independent safety testing will be required for AI systems assessed to pose sufficiently high risks.

11 Dr Charlene Chen asked the Minister for Digital Development and Information (a) whether the Government has assessed whether existing sectoral incident-reporting requirements adequately capture serious incidents involving AI systems; and (b) where gaps remain, whether a cross-sector reporting framework for serious AI incidents will be considered.

12 Mr Alex Yam asked the Minister for Digital Development and Information in light of the recent unauthorised access of the Australian government's systems by an autonomous AI agent (a) whether Singapore has assessed the resilience of Government digital systems against similar agentic AI behaviour; and (b) whether existing cybersecurity and incident-reporting frameworks adequately address autonomous actions by AI systems that were not specifically directed by human operators.

13 Dr Choo Pei Ling asked the Minister for Digital Development and Information (a) whether the Government will introduce mandatory safety requirements for frontier AI models deployed in Singapore, including pre-deployment risk assessments, independent safety testing, safeguards against misuse and reporting of serious incidents; and (b) if so, how will these requirements be enforced and updated as AI capabilities evolve.

14 Mr Yip Hon Weng asked the Minister for Digital Development and Information following Singapore’s support for international oversight of frontier AI (a) how the Ministry determines whether overseas models are sufficiently safe for deployment in essential services when independent testing access is unavailable; and (b) which considerations would justify requiring verifiable safety evidence before deployment, rather than relying on developers' assurances.

15 Dr Choo Pei Ling asked the Minister for Digital Development and Information (a) whether the Government has set thresholds or indicators for when rapid AI model advancements will require additional safeguards beyond existing cybersecurity requirements; and (b) whether Singapore has contingency arrangements with foreign governments, major AI developers, and international cybersecurity bodies for cross-border AI-enabled cyber incidents.

The Senior Minister of State for Digital Development and Information (Mr Tan Kiat How) (for the Minister for Digital Development and Information) : Sir, for the Question Nos 10 to 15 on the Order Paper today, these questions have been addressed in the reply to Question Nos 45 to 51 and Question No 33 for written reply at yesterday's Parliamentary Sitting. [ Please refer to " Assessment of Singapore's Digital Systems' Resilience Against Agentic AI Behaviours ", Official Report, 6 October 2026, Vol 96, Issue 38, Written Answers to Questions for Oral Answer not Answered by End of Question Time section. ]

Mr Speaker : Dr Chen.

Dr Charlene Chen (Tampines) : Thank you, Speaker. In her reply yesterday, the Minister mentioned the importance of learning from both incidents and near misses. Could the Senior Minister of State clarify what threshold would make an artificial intelligence (AI) incident reportable, and whether significant near misses should also be reported even when human intervention prevents actual harm?

My second supplementary question is, much of the Ministry's response has focused on Government systems and essential services. But AI systems are also increasingly being deployed by private organisations. For an ordinary citizen who may be seriously affected by an unintended action of an AI system, for example, involving their personal or financial information, what protections and avenues for redress are in place? And would they have a right to be informed that an AI-related incident has affected them?

My last supplementary question. If an AI system already deployed in Singapore is found to pose an immediate and serious risk to the public, do our regulators currently have the power to require its use to be suspended or restricted while the risk is investigated, including if the underlying model comes from overseas?

Mr Tan Kiat How : Sir, I thank the Member for her three supplementary questions. They are broadly aligned to the same theme, around how we are thinking about risks and what the responses are. So, let me take all her three supplementary questions together.

First, let me say that we recognise that AI, and increasingly, agentic and autonomous AI systems, presents new opportunities and risks. The difference for agentic systems is that these systems can execute actions, interact with external systems and adapt their behaviour to reduce human oversight. So, our response focuses on two areas.

First, we should recognise that many risks arising from agentic AI and some of the autonomous systems that the Member has alluded to are extensions of existing challenges. So, whether the impact is on the individual or the impact is on a critical information infrastructure system or another essential digital service, these are extensions of the same challenges that we face today.

Therefore, existing guidelines and regulations, including risk management processes and oversight also apply to agentic AI systems. The principle of maintaining human accountability and putting in place sufficient controls and guardrails also applies. In addition, our longstanding efforts into strengthening data protection, cybersecurity and resilience help protect the systems that AI agents interact with.

Of course, we are reviewing how to adapt and strengthen these frameworks and systems to account for the increased autonomy of agentic systems, while also monitoring international developments in this emerging field.

So, the first point that I would like to emphasise is that these risks are already with us. Yes, there might be some new dimensions to it, but these are existing risks, and existing frameworks apply and we are reviewing how to strengthen them.

Second, we have to also develop our own internal capabilities. We are developing capabilities to go beyond existing frameworks and approaches. We are running trials and experiments to stay abreast of the evolving technology and to understand what it takes to implement agentic systems responsibly. We certainly do so within the Government – the Government Technology Agency of Singapore (GovTech) does it and many other agencies within the Government are already doing it with the right safeguards and doing so responsibly.

I encourage all private sector organisations, even those who are not running critical information infrastructure or essential digital services, to also take appropriate care and responsibility when deploying AI agents and systems within their operations. But we are developing capabilities and this is a new area, emerging area, and rapidly evolving. We will continue to keep track of it and update our frameworks and regulations where needed.

Mr Speaker : Mr Alex Yam.

Mr Alex Yam (Marsiling-Yew Tee) : Thank you, Speaker. I thank the Senior Minister of State for his response and the Minister's reply yesterday. I want to focus on a particular aspect of the Open AI case in Australia, which I think is particularly important for us.

The Australian government was made aware of the unauthorised access only three months after the incident, because the developer eventually identified and disclosed it to the Australian government. So, in our local example, our legislation requires CII and critical infrastructure companies to report incidents. But is there a clear obligation today for developers, especially those who are overseas, to notify our authorities promptly and early so that we can take the appropriate measures?

The second question is about testing. I am quite certain that our local agencies, including the Cyber Security Agency and our agencies under the Ministry of Digital Development and Information do quite robust testings of systems and agents, and develop and models. While I support stronger independent testing, the examples that we have seen recently were within bounds of the developers' work and even those testing have gone out of hand. There is nothing nefarious that is going on. It is just a developer testing their model and those have also gone out of hand. So, what other safeguards can we put in place to ensure that even in our own testing capabilities, to discover dangers that we do not in itself create risk for other third parties as well?

Mr Tan Kiat How : Sir, let me address the Member's question in turn.

The first is around the ongoing matter; it is still a live issue. I have read publicly that the frontier AI company the Member mentioned is in correspondence with the Australian government. So, it is a live issue and we are monitoring it. I would say that we certainly welcome frontier AI companies to take greater responsibility in understanding and managing the risk arising from the systems that they develop, and this includes identifying emerging capabilities and risk early, and putting in place safeguards before these systems are widely deployed.

Where these systems or the AI frontier models' capabilities have caused harm or have caused impact on others, we certainly welcome that they take responsibility and to rectify the issue as soon as possible.

At the same time, I think the landscape has changed drastically over the last few months. We look at the threat landscape arrayed against us – and we have different cyber risk, digital risk that are arrayed against us – from cyber criminals, cyber hackers, advanced persistent threat (APT), which are state-sponsored, state-supported actors, or just individuals who, for the thrill of it, adopt digital solutions to hack into another system.

The risk arrayed against any organisation, any economy is very different compared to a few months ago. It is no longer just about the most frontier AI models being used to detect vulnerabilities or being able to exploit vulnerabilities by autonomously chaining actions together, but there are many open AI models out there online that is freely downloadable. Bad actors can use those capabilities to create cyber threats against organisations or for criminal enterprise.

So, the threat landscape is very different. It is not just about developers of frontier AI models being a risk, but there are many, many actors out there who can download open-weight models, adapt them, create their own harness, create their own contexts and use them for bad purposes. So, we cannot just wait for other people to tell us that they are hacking us. It is the onus on Singapore and our organisations, especially those running critical information infrastructure, to take the necessary safeguards.

There are many things that we can do, many things that the organisations running these essential services can do.

Firstly, making sure basic cyber hygiene is put in place. I often use an analogy: when you build information technology systems, it is like building new rooms and new wings or new annexes to your building. Sometimes, you may not know whether you have locked all your doors or secured all your windows. The agents or bad actors exploit the same vulnerabilities – an unlocked door or the unsecured window – to enter our systems, whether through AI means or more traditional conventional means.

So, first and foremost, take the necessary precaution: improve cyber hygiene, close down our vulnerabilities and continue an active monitoring of anomalous behaviour within our system. These are things – basic hygiene – things that we can do.

Second, even as bad actors use AI capabilities, we should as well be able to deploy those AI capabilities within our own system to make sure that we detect our vulnerabilities earlier, and we should have an advantage because we know our own system. We know the layout, the blueprint of our building. We know where the annexes are. We know where the critical services are in that building. So, we use AI to our own advantage. And that is the second thing I think we should do.

Thirdly, more importantly, is that we should not allow fear or anxiety about those risks to prevent us from making full use of the technology. So, we should use the technology to create value, new products, new services, create new opportunities for our people. But you do so responsibly, putting the right safeguards, learning along the way and adapting.

To the Member’s point, these are practical things we can do, without waiting for someone else to tell us that they have been hacking us.

Mr Speaker : Dr Choo Pei Ling.

Dr Choo Pei Ling (Chua Chu Kang) : Thank you, Speaker, and I thank the Senior Minister of State for his clarifications and response. I have a few supplementary questions.

One, based on what the Senior Minister of State has shared, could he further elaborate what would trigger the Government to move from guidance to mandatory safeguards before deployment of a frontier AI system? For example, when it demonstrates substantially greater autonomy, the ability to act across external systems or risks that existing safeguards cannot adequately contain.

The second supplementary question, if such a trigger is reached, how quickly can these stronger safeguards or in the Senior Minister of State’s previous terms, “AI capabilities” be applied, including where the model is developed overseas?

And lastly, have we had cross-border contingency arrangements that have been tested through joint exercises with foreign counterparts and major AI developers, and do they establish clear responsibilities for early warning, information sharing and containment?

Mr Tan Kiat How : Sir, let me address Dr Choo’s questions in turn. She asked whether there are any thresholds that turn the guidelines into mandatory requirements. This is something that we have to continue monitoring and reviewing. But let me say that the risk that we are dealing with and the steps that we can take to mitigate those risks are actually not new risks. These are existing risks – whether there is a cyberattack on our critical information infrastructure, or there is a service disruption caused by using AI bots or agents within an essential digital service, for example, in the financial services or other utilities. These are existing risks. From a cybersecurity point of view, the sectoral regulators would have to work closely with the operators of those critical information infrastructure services to look at the safeguards that need to be put in place.

So, whether it is a voluntary safeguard, for example, on the use of agentic AI in certain use cases or whatever kind of safeguards that needs to be put in place for certain deployment, those will have to be discussed between the sectoral regulators and the essential services operators.

And certainly, we do so for different services within the Public Service. For example, within the Government, GovTech works very closely with the different service owners of the public services to see how we use AI responsibly.

On international engagements, this is a very nascent, emerging area. We read the headlines. We welcome, for example, greater conversation and dialogue on AI safety. For Singapore, we try to play a constructive role, for instance through technical and scientific conferences, which we host. And there are a number of these conferences that we hold in Singapore with luminaries and very technically credible, frontier professionals in this space who are coming to Singapore, to not just have a conversation among themselves, but also interact with us and share their perspectives with us.

We have been also working very closely with different AI safety institutes. Our AI Safety Institute in Singapore has been working very closely with other international counterparts to share best practices.

So, we are deeply plugged into the scientific and engineering conversations that are happening. But this is a new area, something that is still being discussed. More recently, at multilateral fora, like the United Nations, we welcome more like-minded countries to work together. Singapore has recently signed a statement of support with like-minded countries to have greater international collaboration on AI safety. This is something we will continue to work on very closely with our international counterparts.

Mr Speaker : Last supplementary question, Mr Yip Hon Weng.

Mr Yip Hon Weng (Yio Chu Kang) : Thank you, Mr Speaker. I thank the Senior Minister of State for his response. Just a very short supplementary question. It is really to respond to the issue of the speed of development of AI.

As frontier models and their capabilities change rapidly after deployment, will the Ministry consider requiring periodic re-evaluation and clear incident reporting arrangements for essential service use, rather than treating pre-deployment assurance as a once-off exercise?

I ask this because this would help preserve public trust when systems evolve rapidly.

Mr Tan Kiat How : Sir, I thank the Member for his question. The existing regulations and rules do have incident reporting frameworks. We will continue to review those frameworks to see whether they need to be updated, given the different threat landscape and operating environment. But those incident reporting frameworks thresholds are already in place. For example, under the Personal Data Protection Act.

Regardless whether there are AI tools being used, organisations remain subject to those existing obligations. This includes putting in place reasonable security arrangements to protect personal data, and appropriate policies and practices to meet their data protection obligations.

Some Members will have seen in the news that there was a recent incident that occurred due to personal use of a GenAI tool by an organisation's employee who developed an email distribution script for sending marketing emails, but did so incorrectly, resulting in personal data being revealed.

This case underscores the need for organisations to manage the risk associated with widespread personal use of AI tools, which is another risk that many organisations face – so, not just frontier AI models, but what, in the industry, they call “shadow AI”. Which means that organisations may not know that your employee may be bringing AI tools into your organisation’s system and these are not sanctioned or approved by the organisation. But it is so easily accessible; you download it on your phone, use it for yourself in the workplace, without the necessary safeguards.

So, as AI tools become more accessible, employees may use them on their own initiative, which is something commendable – we should not discourage such productive use of AI. But organisations need to be aware of how these tools are being used, and put appropriate policies and safeguards in place.

So, those reporting thresholds and frameworks are in place. Importantly, it is for organisations to build a culture while encouraging employees to use AI tools to have the right safeguards and to be mindful that new risks are introduced because it is so much easier to bring AI tools into any organisation today.