# 아동 성착취 방지를 위한 온라인 플랫폼의 설계 단계 안전 원칙 의무화

- 날짜: 2026-09-09
- 수록: 2026-09-26
- 관련자: Ms Elysa Chen · Ms Rahayu Mahzam
- 출처: https://sprs.parl.gov.sg/search/#/sprs3topic?reportid=oral-answer-4191
- sgai: https://sgai.md/ko/debates/oral-answer-4191/
- 라이선스: sgai가 작성한 내용(요약·번역·분석)은 CC BY 4.0(출처 표기 및 sgai.md 링크 조건). 원문 전문(의회 기록·연설·자막·정책 원문)은 원권리자에게 귀속되며 참고용으로만 게재. 조건: https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 왜 중요한가

정부는 AI 챗봇·메시징·게임 서비스를 온라인 안전 규제에 포함할지 검토 중이며, X는 이미 강화 감독 대상

## 요약

Elysa Chen 의원은 디지털개발정보부 장관에게 아동 성착취 방지를 위해 온라인 플랫폼에 설계 단계부터의 안전 원칙 도입을 의무화할 것인지, 그리고 그 시기를 질의했다. 디지털개발정보부 국무장관 Rahayu Mahzam은 정보통신미디어개발청(IMDA)의 온라인 안전 실무규범에 따라 지정 소셜 미디어 서비스와 앱 스토어는 이미 아동 성착취 콘텐츠를 선제적으로 탐지하고 신속히 삭제해야 하며, 이는 설계 단계부터의 안전 원칙에 부합한다고 답했다. 2026년 3월 31일 IMDA 평가 보고서에서 X의 심각한 약점이 확인되어 경고 서한 발송과 강화 감독 조치가 내려졌다. 보충 질의에서 Chen 의원은 메시징 서비스, 게임 플랫폼, AI 동반자 앱도 포함되는지 물었다. Rahayu 국무장관은 AI 챗봇, 메시징, 게임 서비스를 규제 대상에 포함할지 검토 중이며 준비되면 세부 내용을 발표하겠다고 했고, 온라인안전위원회(OSC)는 피해자가 제기한 개별 사안을 다루며 플랫폼 설계를 선제적으로 규제하는 기관이 아니라고 설명했다.

## 핵심 포인트

- IMDA의 온라인 안전 실무규범에 따라 지정 소셜 미디어 서비스와 앱 스토어는 온라인 그루밍 등 아동 성착취 및 학대 행위를 선제적으로 탐지하고 신속히 삭제해야 함
- 이들 서비스는 아동 성착취물을 포함한 유해 콘텐츠에 대한 싱가포르 이용자의 노출을 줄이는 시스템과 절차도 갖춰야 하며, 정부는 이것이 설계 단계부터의 안전 원칙에 부합한다고 봄
- 2026년 3월 31일 발표된 IMDA 온라인 안전 평가 보고서는 X의 아동 성착취물 탐지·삭제 조치에 심각한 약점이 있다고 지적했고, X는 경고 서한을 받고 강화 감독 대상이 됨
- 정부는 AI 챗봇, 메시징, 게임 서비스로 규제 범위를 확대할지 검토 중이며 준비되면 세부 내용을 발표할 예정
- 2026년 6월부터 운영 중인 온라인안전위원회(OSC)는 피해자가 제기한 개별 사안을 다루며 플랫폼 설계를 선제적으로 규제하는 기관이 아님. 설계 관련 요건은 IMDA가 소셜 미디어 서비스 규범에 따라 집행

## 전문

8 Elysa Chen 의원은 디지털개발정보부 장관에게 (a) 싱가포르에서 운영되는 온라인 플랫폼이 아동 성착취를 방지하기 위해 설계 단계부터의 안전(safety-by-design) 원칙을 도입하도록 요구받게 되는지, (b) 그렇지 않다면 그 이유는 무엇인지, (c) 다른 곳에서는 이미 국제 기준이 시행되고 있는 점을 고려할 때 부처가 언제 그러한 보호 장치를 의무화할 것인지 질의했다.

디지털개발정보부 국무장관(Rahayu Mahzam)(디지털개발정보부 장관을 대신하여): 의장님, 정보통신미디어개발청(IMDA)의 온라인 안전 실무규범에 따라 지정된 소셜 미디어 서비스와 앱 스토어는 아동 성학대를 목적으로 한 온라인 그루밍 등 자사 플랫폼상의 아동 성착취 및 학대 행위를 선제적으로 탐지하고 신속하게 삭제해야 합니다.

또한 이들 서비스는 아동 성착취물을 포함한 유해 콘텐츠에 대한 싱가포르 이용자의 노출을 줄이기 위한 시스템과 절차를 갖춰야 합니다. 이는 발생한 피해에 사후 대응하는 대신 플랫폼이 선제적 보호 장치를 구축하여 피해를 예방하도록 요구하는 설계 단계부터의 안전 원칙과 부합합니다.

IMDA는 또한 지정 플랫폼들이 각자의 온라인 안전 실무규범을 준수하는지 정기적으로 평가합니다. 2026년 3월 31일 발표된 지정 소셜 미디어 서비스에 대한 최신 온라인 안전 평가 보고서에서 IMDA는 X가 자사 플랫폼상의 아동 성착취 및 학대물을 선제적으로 탐지하고 삭제하는 조치에 심각한 약점이 있음을 확인했습니다. IMDA는 X에 경고 서한을 발송하고, 심각한 약점을 시정하도록 책임을 묻기 위해 X를 강화 감독 대상에 올렸습니다.

의장: Chen 의원.

Elysa Chen 의원(비샨-토아파요): 국무장관께 감사드립니다. 현재 실무규범은 지정된 소셜 미디어와 앱 배포 서비스에만 아동 성착취 관련 의무를 부과하고 있습니다. 그루밍과 원치 않는 접촉 위험이 발생하는 메시징 서비스와 Roblox, Minecraft 같은 게임 플랫폼이 적용 범위에 포함될 것인지, 그리고 지정 기준은 무엇인지 묻고 싶습니다.

두 번째 보충 질문도 드리고 싶습니다. 인공지능(AI) 동반자 앱과 대화형 에이전트는 이제 미성년자와 장시간 사적인 상호작용을 이어가고 있습니다. 그런데도 이들은 두 실무규범 모두의 적용 범위 밖에 있습니다. 이러한 서비스가 지정될 것인지, 그리고 소셜 미디어 서비스와 동일한 탐지 및 신고 의무를 지게 될 것인지 여쭙고 싶습니다.

마지막으로, 온라인안전위원회(OSC)는 2026년 6월부터 운영되고 있습니다. OSC에 아동 성착취에 대한 설계 단계부터의 안전 기준을 집행할 명시적 권한이 부여될 것인지, 그리고 시행 일정은 어떻게 될 것인지 묻고 싶습니다.

Rahayu Mahzam: 의장님, 이 문제에 대한 의원님의 우려에 감사드립니다. 첫 번째와 두 번째 질문과 관련해, 이는 저희도 우려하는 사안입니다. 아동에 대한 지원과 보호가 충분히 폭넓도록 현행 온라인 안전 조치의 범위를 정기적으로 검토하고 있습니다. 이는 싱가포르의 온라인 안전을 강화하기 위한 노력의 일환입니다.

여기에는 의원님이 언급하신 AI 챗봇, 메시징, 게임 서비스 등 다른 유형의 온라인 서비스로 규제 범위를 확대할지 여부도 포함되며, 현재 검토 중입니다. 준비가 되면 더 자세한 내용을 발표하겠습니다.

OSC에 관한 질문과 관련해 여기서 한 가지 분명히 하고자 합니다. OSC는 다른 기능을 수행합니다. 이 목적을 위해서는 IMDA가 온라인 안전 실무규범-소셜 미디어 서비스, 이른바 소셜 미디어 서비스(SMS) 규범에 따라 지정 소셜 미디어 서비스와 협력합니다. SMS 규범은 지정 소셜 미디어 서비스가 아동 성착취에 대응하는 보호 장치를 포함한 온라인 안전 조치를 마련하도록 요구합니다.

OSC에 대해 좀 더 설명드리면, OSC는 피해자가 특정 온라인 위해에 대해 구제를 요청하는 창구입니다. 온라인안전위원(Commissioner of Online Safety)은 플랫폼에 지시를 내릴 권한이 있지만, 이는 피해자가 개시해야 하므로 개별 사안에 대응하는 것입니다. 플랫폼 설계를 선제적으로 규제하는 기관이 아닙니다. 다만 OSC는 주요 온라인 서비스 제공업체들과 소통해 왔으며, 이미지 기반 아동 학대를 포함한 온라인 위해가 적시에 처리되도록 앞으로도 긴밀히 협력할 것입니다.

## Hansard (original, English)

© Parliament of Singapore — reproduced for reference only.

8 Ms Elysa Chen asked the Minister for Digital Development and Information (a) whether online platforms operating in Singapore will be required to incorporate safety-by-design principles to prevent child sexual exploitation; (b) if not, why not; and (c) when will the Ministry mandate such safeguards, given that international standards are already in place elsewhere.

The Minister of State for Digital Development and Information (Ms Rahayu Mahzam) (for the Minister for Digital Development and Information) : Mr Speaker, under the Infocomm Media Development Authority's (IMDA's) Codes of Practice for Online Safety, designated social media services and app stores are required to proactively detect and swiftly remove child sexual exploitation and abuse activity on their platforms, such as online grooming for child sexual abuse.

Additionally, these services are required to put in place systems and processes to mitigate Singapore users' exposure to harmful content, including child sexual exploitation material. These are aligned with safety-by-design principles that require platforms to build proactive safeguards and prevent harm, rather than react to the harm that occurs.

IMDA also regularly assesses the designated platforms' compliance with their respective Codes of Practice for Online Safety. In the latest Online Safety Assessment Report for designated social media services published on 31 March 2026, IMDA found serious weaknesses in X's measures to proactively detect and remove child sexual exploitation and abuse material on its platform. IMDA issued a Letter of Caution to X and placed it under Enhanced Supervision to hold it accountable to rectify its serious weaknesses.

Mr Speaker : Ms Chen.

Ms Elysa Chen (Bishan-Toa Payoh) : I thank the Minister of State. The Codes of Practice currently impose child sexual exploitation duties only on designated social media and app distribution services. I wanted to ask whether messaging services and gaming platforms, such as Roblox and Minecraft, where grooming and unsolicited contact risks arise, will be brought within scope and what criteria govern designation?

I also wanted to ask a second supplementary question. Artificial intelligence (AI) companion applications and conversational agents now sustain prolonged, private interactions with minors. Yet they fall outside both Codes of Practice. May I ask whether such services will be designated and whether they will carry the same detection and reporting obligations as social media services?

Last, the Online Safety Commission (OSC) has been operational since June 2026. I would like to ask whether it will be given an explicit mandate to enforce safety by design standards against child sexual exploitation and what might the timeline be for such an implementation?

Ms Rahayu Mahzam : Mr Speaker, we appreciate the Member's concerns on this issue. In relation to questions one and two, these are things that we are also concerned with. We are regularly reviewing the scope of our current online safety measures to ensure that the support and the protection for children is extensive. It is part of our efforts to enhance online safety in Singapore.

This also includes whether to extend our regulatory ambit to include other types of online services, such as what the Member mentioned – the AI chat bots, messaging, gaming services and we are reviewing this. We will announce more details when we are ready.

With regard to the question on the OSC, I would like to just make a clarification here. The OSC serves a different function. For this purpose, it is IMDA, which works with the designated social media services under the Code of Practice for Online Safety – Social Media Services, what we call the Social Media Services (SMS) Code. The SMS code imposes requirements on the designated social media services to put in place online safety measures, including safeguards to address child sexual exploitation.

So, just to expand the clarification on the OSC, it is an avenue for victims to seek relief for specified online harms. The Commissioner of Online Safety is empowered to issue directions to platforms, but these are in response to individual cases, because it has to be triggered by the victims. It is not a proactive regulator of platform design. But they have engaged with major online service providers and will continue to work closely with them to ensure that online harms, including image-based child abuse, are addressed in a timely manner.