書面答弁 · 2024-08-07 · 議会 14
ディープフェイク検出と政治風刺の区別
議員は、政府の現在のディープフェイク検出技術の精度、有害なディープフェイクと合法的な政治風刺の区別方法、および誤判定への対応について質問している。政府は、技術が継続的に更新されており、精度は公開されていないと対応し、『虚偽情報対策法』に基づいて有害コンテンツに対応することを強調し、風刺は違法を構成しないと述べている。政府は国際的経験に注視し、選挙セキュリティをさらに保障する必要があるかどうかを検討している。コア争点は、技術の透明性と言論の自由のバランスにある。
重要なポイント
- • Deepfake detection tools constantly updated
- • Satire is not automatically unlawful
- • Misidentification can be appealed in court
技術機密を保守し、法律に従って偽情報を打撃します
技術精度と誤判定リスクに注視します
AI偽情報の規制を強化します
“We do not publish their accuracy levels as our tools are constantly being updated to keep up with technology.”
参加者 (2)
全文翻訳（日本語）
Hansard 原文 · 2026-05-02
29 ホー・ティン・ルー女史が数字発展・情報大臣に質問しました：(a) 政府が人工知能により生成されたコンテンツ内のディープフェイクを検出するために使用している技術の現在の精度はどの程度ですか。(b) 政府はどのようにして有害なディープフェイク・コンテンツと、類似の技術を使用した正当な政治風刺またはミームを区別するのですか。(c) 動画が誤ってディープフェイクと識別された場合、どのように対処されますか？
チャン・ユー・ジュアン女史：政府は、改ざんされたコンテンツを検出、識別、および評価するための複数のツールおよび技術を保有しており、人工知能（AI）により生成されたディープフェイク等のコンテンツが含まれます。これらのツールは、商業的に調達されたもの、内部開発されたもの、または研究者との協力により開発されたもの（例えば、オンライン安全先進技術センターとの協力）である可能性があります。これらのツールの精度を公開していない理由は、我々のツールが技術の進展に対応するため継続的に更新されているためです。同時に、能力の詳細すべてを公開することは公共の利益に合致しません。なぜなら、悪意のある行為者がこの情報を利用する可能性があるためです。
特定の基準を満たす場合、政府はオンラインの虚偽情報に対して行動を起こすことができ、これには人工知能により生成された虚偽情報が含まれます。そのようなコンテンツが虚偽であり、公共の利益を損害する場合、政府は『防止オンライン虚偽情報および操作法』（POFMA）に基づいて行動を起こすことができます。風刺またはパロディそのものだけでは、POFMA措置を講じるための根拠を構成しません。ただし、公共の利益を損害する虚偽情報を含む場合は例外です。個人に対するPOFMA指令（ディープフェイク・コンテンツに関する指令を含む）に異議を唱える者は、裁判所に上訴することができます。
多くの国家は、人工知能の使用および応用がもたらす危害およびリスク（ディープフェイクの悪意のある使用を含む）を軽減する必要性を認識しています。一部の国家は、選挙過程の完全性を保護するため、選挙期間中に保障措置を実施しています。我々は、さらなる保障措置が必要であるかどうかについて検討中であり、準備ができた時点で更新を提供する予定です。
英語原文
SPRS Hansard 原本記録 · 取得日：2026-05-02
29 Ms He Ting Ru asked the Minister for Digital Development and Information (a) what is the current accuracy rate of the Government’s deepfake detection technologies for AI-generated content; (b) how will the Government differentiate between harmful deepfakes and legitimate political satire or memes using similar technologies; and (c) what happens if videos are wrongly identified as deepfakes.
Mrs Josephine Teo : There are a variety of tools and techniques available to the Government to detect, identify and assess manipulated content, including artificial intelligence (AI)-generated content such as deepfakes. These may be sourced commercially, developed in-house or in partnership with researchers such as those at the Centre for Advanced Technologies in Online Safety. We do not publish their accuracy levels as our tools are constantly being updated to keep up with technology. It is also not in the public interest to reveal the full extent of capabilities as malicious actors may exploit it.
The Government can take action against online falsehoods when certain thresholds are met, including falsehoods generated with the help of AI. Action may be taken under the Protection from Online Falsehoods and Manipulation Act (POFMA) if such content is false and against the public interest. Satire or parody do not by themselves meet the criteria for POFMA action, unless they contain falsehoods that harm public interest. Individuals who disagree with POFMA directions issued to them, including those for deepfake content, can file an appeal in court.
Many countries have recognised the need to mitigate the harms and risks from AI use and application, including the malicious use of deepfakes. Some countries have already put in place safeguards, especially during elections, in order to protect the integrity of the electoral process. We are studying if further safeguards are required and will provide an update when ready.