書面答弁 · 2026-08-04 · 議会 15
シンガポールの法廷にAIで捏造・加工された証拠が提出された事例
ハニー・ソー（Ms Hany Soh）は法務大臣に書面で質問し、AIで捏造または加工された証拠が法廷に提出された事例を把握しているか、司法職員が備える十分な訓練と手段を持っているかを問うた。エドウィン・トン（Mr Edwin Tong）法務大臣は、こうした証拠は2つの場面で生じると答弁した。第1はディープフェイク画像や動画のようにAIで意図的に証拠を捏造・改ざんする場合である。シンガポール裁判所は公表判決でそのような認定はまだないと確認しているが、当事者が文書作成におけるAI依存の程度を説明できない場合に証拠を無視した例はあり、虚偽の証拠を故意に提出した者は刑事責任を負う。第2は宣誓供述書や報告書など法廷文書の作成にAIツールを使う場合で、問題はAIの利用そのものではなく、不注意な利用が不正確な内容、捏造、架空の引用を法廷文書に持ち込むことである。裁判所は2024年に「法廷利用者による生成AIツール利用ガイド」を発行し、提出資料の正確性・関連性・独立検証を求め、法務省の2026年3月「法律分野における生成AI利用ガイド」もこれを強調した。この責任を怠った弁護士が制裁を受けた公表事例は少なくとも2件ある。司法カレッジは裁判官にデジタル証拠の許容性・真正性・信頼性の訓練を行い、争いがあれば専門家証拠とデジタルフォレンジックに頼ることができる。
なぜ重要か
裁判所の2024年生成AIガイドと法務省の2026年3月法律分野ガイドが施行され、AI利用の怠慢で少なくとも2件の弁護士制裁があり、ディープフェイク証拠の判例はまだない
重要なポイント
- • AI証拠は2つの場面で生じる。ディープフェイク画像・動画のような意図的な捏造と、法廷文書作成でのAIの不注意な利用による誤り・捏造・架空の引用の混入
- • シンガポール裁判所は、公表判決でディープフェイク証拠の認定はまだないと確認したが、当事者がAI依存の程度を説明できない場合に証拠を無視した例はある
- • 裁判所の2024年「法廷利用者による生成AIツール利用ガイド」と法務省の2026年3月「法律分野における生成AI利用ガイド」はともに、資料の正確性・関連性・独立検証を求める
- • 検証責任を怠った弁護士に裁判所が制裁を科した公表事例は少なくとも2件
- • シンガポール司法カレッジは裁判官にデジタル証拠の許容性・真正性・信頼性の訓練を行い、争いがあれば専門家証拠とデジタルフォレンジックを使える
法務省はAI証拠のリスクを「意図的な捏造」と「不注意な利用」に分けて別々に対応する。前者は既存の刑法と、出所を説明できない証拠を排除する裁判所の権限で、後者は裁判所の2024年ガイドと法務省の2026年3月業界ガイドで検証責任を法廷利用者と弁護士に負わせ、すでに制裁で実効性を示している。政府は司法カレッジの継続的訓練、専門家証拠、デジタルフォレンジックで裁判官は十分対応できると判断し、新たな立法は提案していない。
質問者のハニー・ソーは2点に注目した。裁判所がすでにAIで捏造・加工された証拠に直面しているか、そして司法職員がそれを見抜く能力を持っているかである。答弁は「ディープフェイク証拠の公表認定はなし、AI作成文書では制裁2件」という線引きを示し、第2点には訓練とフォレンジック能力で応じた。
シンガポールは司法手続きにおける生成AIのガバナンスを「ソフトロー＋既存の制裁」の路線で進めている。裁判所の2024年ガイドと法務省の2026年3月の法律分野ガイドが規範層を、架空の引用で弁護士が制裁を受けた公表事例2件が執行層をなし、ディープフェイク証拠は刑法と裁判官の証拠裁量に委ねられる。答弁は原則を明確に示した。問題はAIを使うことではなく独立した検証を怠ることであり、これは責任を利用者に置くシンガポールのAIガバナンスの一貫した考え方と一致する。ディープフェイク技術の普及に伴い、裁判所のデジタルフォレンジック能力と専門家証拠が次の段階の圧力点になる。
“ここでの懸念はAIの利用そのものではなく、過失や不注意なAIの利用が不正確な内容、捏造、架空の引用を法廷文書に持ち込むことである。”
参加者 (2)
全文翻訳（日本語）
Hansard 原文 · 2026-09-04
73号議員ハニー・ソー氏は、法務大臣に対して以下をお尋ねしました。(i) 当省は、AIにより偽造または増強された証拠が法廷に提出された事例があることを認識していますか。(ii) 司法職員および官吏は、このような事態を防止するための十分な研修と装備を受けていますか。
エドウィン・トン・チュン・ファイ氏：裁判手続きの中で提出されるAIにより偽造または増強された証拠には、二つの類型が考えられます。
第一の類型は、AIを利用して故意に証拠を偽造または操作する場合であり、例えば、ディープフェイクの画像またはビデオが挙げられます。シンガポール裁判所が確認したところ、現在のところ、公開判決の中でこのような事例が認定されていません。しかし、当事者が文書作成時のAI依存度を十分に説明することができなかった事例においても、裁判所がこの点を見過ごしている場合があります。いずれにせよ、明知のうえで虚偽の証拠を提出した一方は、法律上の深刻な結果に直面することになります。これには刑事責任も含まれます。
第二の類型は、宣誓書や報告書など法廷に提出する文書をAIツールで作成する場合です。ここでの懸念は、AIツール使用の有無ではなく、不注意な使用により法廷文書に不正確性、改ざん、または虚偽の引用が生じることです。
2024年、シンガポール裁判所は『法廷利用者向け生成AI使用ガイドライン』を発表し、法廷利用者には、法廷に提出するすべての文書が正確であり、関連性があり、独立して検証されていることを確保する責任があることを明確に示しました。この責任は、法務省が2026年3月に発表した『法律業界における生成AI使用ガイドライン』で強調されました。少なくとも2件の公開事例において、シンガポール裁判所は、この責任を履行しなかった弁護士に対して制裁を課しました。
このような事態を検出するため、シンガポール司法学院は裁判官に対して、証拠の採納可能性、真正性および信頼性の問題、デジタル証拠を含めて対処するための研修を提供しています。真正性または信頼性が異議を唱えられた場合、裁判所は専門家証拠およびデジタルフォレンジクス分析に依拠して検証することもできます。
シンガポール裁判所は、複数の学習プラットフォーム、技術、およびエキスパート支援を組み合わせることで、技術発展の歩調に合わせています。特に裁判官は、多面的で総合的な継続研修フレームワークの一部として、訴訟中の証拠問題への対処に関する研修を受けています。
英語原文
SPRS Hansard 原本記録 · 取得日：2026-09-04
73 Ms Hany Soh asked the Minister for Law whether (i) the Ministry is aware of instances in which artificial intelligence-fabricated or augmented evidence has been tendered as evidence before a Court of law and (ii) judicial staff and officers are sufficiently trained and equipped to guard against such cases.
Mr Edwin Tong Chun Fai : Artificial intelligence (AI)-fabricated or augmented evidence tendered in Court proceedings may arise in two broad scenarios.
First is the deliberate fabrication or manipulation of evidence using AI, such as deepfake images or videos. The Singapore Courts have confirmed that there have yet to be such findings in a published decision. However, the Courts have in instances disregarded evidence where a party cannot satisfactorily explain the extent of reliance on AI in preparing the document. Nevertheless, any party who knowingly tenders false evidence faces serious consequences under the law, including criminal liability.
The second scenario is the use of AI tools in the preparation of documents filed in Court, such as affidavits and reports. The concern here is not the use of AI in itself, but where the negligent or careless use of AI introduces inaccuracies, fabrications or fictitious citations into Court documents.
In 2024, the Singapore Courts issued the Guide on the use of Generative Artificial Intelligence Tools by Court Users which makes clear that Court users are responsible for ensuring that all materials placed before the Court are accurate, relevant and independently verified. This responsibility is underscored in the Ministry's Guide for the Use of Generative AI in the Legal Sector issued in March 2026. There have been at least two published cases where the Singapore Courts have imposed sanctions on lawyers for failing in such responsibility.
To detect such occurrences, the Singapore Judicial College provides training to judges to deal with issues of admissibility, authenticity and reliability of evidence, including digital evidence. Where authenticity or reliability is contested, the Courts may also rely on expert evidence and digital forensic analysis for verification.
The Singapore Courts keep pace with technological developments through a range of learning platforms supported by technical and expert assistance. Judges, in particular, are trained to deal with evidentiary issues in litigation as part of a multi-pronged comprehensive continuous training framework.