書面答弁 · 2024-11-11 · 議会 14
ソーシャルメディアとAIによる青少年ラディカル化の加速
質問は、ソーシャルメディアがどのように青少年のラディカル化を加速させるか、および今後5年間でAIがラディカル化において果たす役割と対応計画に焦点を当てています。政府は、オンラインプラットフォームとアルゴリズムが過激なコンテンツの拡散を助長し、AIはラディカル化を加速させてテロプロパガンダを支援すると指摘しました。政府は法律制定と部門横断的な協力を通じて、過激なコンテンツのブロックおよびコミュニティアウトリーチなどの包括的措置を講じています。中核的争点は、技術がもたらすラディカル化の速度向上とコンテンツ規制の困難さにあります。
重要なポイント
- • Social media amplifies extremist content
- • AI accelerates radicalisation and propaganda
- • Government uses multi-pronged counter-radicalisation
女性のAI教育参与向上をサポートします
女性の参与率が低いことに注目します
女性STEM教育を推進します
“AI can quickly auto-translate existing propaganda into multiple languages and create personalised messages at scale.”
参加者 (2)
全文翻訳（日本語）
Hansard 原文 · 2026-05-02
8号議員チュー・テック・ミン氏は内政大臣に以下の質問をしています：(a) ソーシャルメディアがいかに青年の過激化を加速させるのか；(b) 人工知能（AI）が今後5年間において青年の過激化にどのような役割を果たすのか；(c) ソーシャルメディアと人工知能が青年の過激化に対する悪影響に対応するための計画にはどのようなものがあるのか。
シャンムガム大臣：青年の過激化は緊迫した問題です。2015年のイラクとシリアのイスラム国（ISIS）の台頭以来、内部安全局（ISD）は『内部安全法』に基づいて、20歳以下の青年14人の事件を扱ってきました。このうち6人はシンガポール内で攻撃を起こす意図を持っていました。これらすべての人物は、彼らがオンラインで見つけた暴力的過激主義資料を通じて自己激進化しました。
インターネットは、既製の暴力的過激主義資料とテロ宣伝を提供することで、過激化プロセスを促進しており、これらのコンテンツは私たちのデジタルネイティブの青年が容易にアクセスできます。青年がこうしたコンテンツの検索を始めると、ソーシャルメディアアルゴリズムはより過激なコンテンツを推奨する可能性があり、それによってこれらの資料の消費が加速されます。これらのオンラインプラットフォームはまたエコーチェンバーとして機能し、同じ志向を持つユーザーとの相互作用は過激な信念を強化する可能性があります。過激主義者とテロリストはまた、ソーシャルメディアとオンラインゲームプラットフォームを悪用して青年を過激化し、勧誘しています。これらの要因は過激化の速度を加速させます。青年がこうしたオンライン資料に接触してから過激化するまでの過程は、数ヶ月、あるいは数週間と迅速に進む可能性があります。
人工知能（AI）はさらに過激化プロセスを加速させ、テロリズムに関連した活動を促進するでしょう。テロ組織は人工知能ツールを使用して、彼らのオンライン宣伝を生成・拡散しています。人工知能は、既存の宣伝を複数の言語に迅速に自動翻訳し、大規模に個人化されたメッセージを作成して勧誘業務を促進することができます。人工知能はまた、訓練を受けた眼でさえも区別することが難しい、ますますリアルな合成マルチメディアの作成に使用されています。これらの「ディープフェイク」は悪意のある方によって社会に分裂を生み出し、暴力を扇動するために使用されています。
政府は、青年のオンライン過激化の脅威に対処するための包括的なアプローチを採用しています。近年、私たちは極端主義とテロリズムの宣伝（人工知能によって生成されたコンテンツを含む）をブロックまたは削除するための立法的手段を強化しました。例えば、改正『放送法』（2023年2月から有効）と『オンライン犯罪危害法』（2024年2月から有効）は、テロリズムを宣揚・教唆し、暴力を扇動するコンテンツを含む、極端主義または犯罪コンテンツへのアクセスを禁止することを政府に認めています。しかし、すべてのそのようなコンテンツの検出や削除は実行不可能です。
過激化の脅威に源流で対処するため、内部安全局は他の政府機関とコミュニティパートナーと連携してアウトリーチ活動を展開してきました。例えば、内部安全局は教育省と協力して、学校指導者、教師、学校カウンセラー、学生指導者に向けて反テロ・反過激化のアウトリーチ活動を展開しています。また、学校のカリキュラムを通じて学生のメディアリテラシーを強化しています。これらの取り組みは、青年と教育者に過激化の危険に対する認識を高め、また疑わしい過激化事例の早期報告の重要性について認識を高めることを目指しています。
英語原文
SPRS Hansard 原本記録 · 取得日：2026-05-02
8 Mr Desmond Choo asked the Minister for Home Affairs (a) how has social media accelerated the radicalisation of youths; (b) how will artificial intelligence (AI) play a role in the radicalisation of youths in the next five years; and (c) what are the plans to address the adverse impact of social media and AI on youth radicalisation.
Mr K Shanmugam : Youth radicalisation is a pressing concern. Since 2015, following the rise of the Islamic State in Iraq and Syria (ISIS), the Internal Security Department (ISD) has dealt with 14 youths, aged 20 or below, under the Internal Security Act. Six had intentions to mount attacks in Singapore. All were self-radicalised through violent extremist materials they found online.
The Internet facilitates radicalisation by providing a ready source of violent extremist material and terrorist propaganda, easily accessed by our digital-native youth. Consumption of such material may be amplified by social media algorithms that recommend more extremist content once the youths start searching for such content. These online platforms also serve as echo chambers, where interactions with likeminded users may reinforce radical beliefs. Extremist and terrorist elements have also misused social media and online gaming platforms to radicalise and recruit youth. These factors have resulted in an acceleration in the speed of radicalisation. From the point where a youth encounters such online material, to the point of his or her radicalisation, the process can be as fast as a few months, if not weeks.
Artificial intelligence (AI) will further hasten the radicalisation process and facilitate terrorism-related activities. Terrorist groups are exploiting AI tools to generate and disseminate their online propaganda. AI can quickly auto-translate existing propaganda into multiple languages and create personalised messages at scale to facilitate recruitment efforts. AI is also being used to produce increasingly convincing synthetic multimedia, indistinguishable even to the trained eye. These "deepfakes" have been used by malicious parties to sow discord in society as well as incite violence.
The Government takes a holistic approach to tackle the threat of online radicalisation among youths. In recent years, we have strengthened our legislative levers to block or remove extremist and terrorist propaganda, including those generated by AI. For example, the amended Broadcasting Act (effective since February 2023) and the Online Criminal Harms Act (effective since February 2024) allow the Government to disable access to egregious or criminal content online, including those that advocate and instruct on terrorism and those that incite violence. However, it is not feasible to detect or remove all such content.
To tackle the radicalisation threat upstream, ISD has been working with other Government agencies and community partners to conduct outreach. For example, ISD has collaborated with the Ministry of Education, to conduct counter-terrorism and counter-radicalisation outreach to schools, including school leaders, teachers, school counsellors and student leaders. There are also efforts to enhance the students' media literacy through the school curriculum. These efforts aim to sensitise youths and educators to the dangers of radicalisation and the importance of early reporting of suspected radicalisation cases.