서면 답변 · 2026-08-04 · 국회 15
청소년과 아동의 AI 조장 자해 사례 보고
하니 소(Ms Hany Soh)는 사회가족개발부 장관에게 서면 질의해, 지난 3년간 인공지능이 조장했거나 AI와 관련된 청소년·아동 자해 사례 보고를 받았는지, 어떤 예방 조치가 있는지 물었다. 마사고스 줄키플리(Mr Masagos Zulkifli) 장관은 부처가 AI와 특별히 관련된 자해 보고를 추적하지 않으며, 자해 요인은 다면적이고 사례마다 다르다고 답했다. 정부의 방침은 젊은 이용자가 기술을 안전하게 쓰도록 교육하는 것이다. 학교에서는 사이버 웰니스와 정신건강 교육 수업으로 책임 있는 온라인 이용자가 되고 AI 도구를 안전하게 쓰도록 가르친다. 정보통신미디어개발청의 Digital for Life 포털은 부모가 AI 위험을 이해하고 자녀가 AI 플랫폼과 상호작용할 때 심신 건강을 지키도록 돕는다. 부모는 학교 상담사나 TOUCH Community Services에 도움을 청할 수 있고, 청소년은 mindline 1771, mindline.sg, CHAT 등 First Stop for Mental Health 서비스에서 지원을 받을 수 있다. 규제 면에서는 IMDA의 소셜미디어 서비스 온라인 안전 실무 규범이 지정 소셜미디어에 이용자의 자해 콘텐츠 노출을 줄이고 고위험 검색어를 검색하는 이용자에게 안전 정보를 제공하도록 요구한다.
왜 중요한가
사회가족개발부는 AI 관련 자해 보고를 추적하지 않으며, 방어선은 학교 사이버 웰니스 수업과 IMDA 소셜미디어 안전 규범에 기대고 있어 AI 동반자 위험에 관한 전용 자료가 아직 없다
핵심 요점
- • 사회가족개발부는 AI 관련 자해 보고를 별도로 추적하지 않으며, 자해 요인은 다면적이고 사례마다 다르다고 본다
- • 학교 사이버 웰니스와 정신건강 교육 수업으로 안전하고 책임 있는 온라인 이용과 AI 도구의 안전한 사용을 가르친다
- • IMDA의 Digital for Life 포털이 AI 위험을 설명하고 AI 플랫폼과 상호작용하는 자녀를 보호하는 방법을 부모에게 안내한다
- • 도움 창구는 학교 상담사, TOUCH Community Services, mindline 1771, mindline.sg, CHAT 등 First Stop for Mental Health 서비스
- • IMDA의 소셜미디어 서비스 온라인 안전 실무 규범은 지정 플랫폼에 자해 콘텐츠 노출 최소화와 고위험 검색에 대한 안전 정보 표시를 요구한다
정부는 AI 관련 자해를 더 넓은 '디지털 웰니스' 틀에서 다룬다. 자해 요인이 다양하다는 이유로 전용 통계는 두지 않는다. 방어선은 세 겹으로, 학교 사이버 웰니스와 정신건강 교육, IMDA의 부모용 Digital for Life 자료와 기존 정신건강 지원망, 그리고 온라인 안전 실무 규범이 지정 소셜미디어 서비스에 부과하는 콘텐츠 의무다. AI 채팅이나 동반자 플랫폼에 특화된 규제 조치는 없다.
질의자 하니 소의 관심은 AI가 청소년과 아동 자해의 새로운 유발 요인이 되었는지에 있다. 지난 3년의 사례 보고 자료와 표적화된 보호 조치를 요구했지만, 답변은 그런 추적이 없음을 인정하고 기존의 일반 교육과 소셜미디어 규칙을 제시하는 데 그쳤다.
싱가포르는 'AI와 청소년 정신건강'을 아직 독립 항목으로 모니터링하지 않고 사이버 웰니스 교육과 소셜미디어 플랫폼 규제에 편입하고 있다. 유일한 강제 의무는 온라인 안전 실무 규범으로 지정된 소셜미디어 서비스에 부과되며, AI 챗봇과 동반자 앱은 그 규범의 적용 밖이다. 학생이 AI 도구를 안전하고 책임 있게 쓰도록 배운다는 한 문장은 AI 리터러시가 이미 교육부 교육과정에 들어 있음을 확인해 준다. 기록으로 남는 AI 관련 자해 사례가 앞으로 나온다면, 전용 자료의 부재가 정책 논의의 첫 공백이 될 것이다.
“사회가족개발부는 인공지능과 특별히 관련된 자해 보고를 추적하지 않는다.”
참여자 (2)
- Hany Soh
- Mr Masagos Zulkifli B M M
전문 번역(한국어)
Hansard 원문 · 2026-09-04
69번 의원 Hany Soh 여사는 사회 및 가족발전부 장관에게 질의합니다: (a) 지난 3년간 사회 및 가족발전부가 인공지능 유도 또는 이와 관련된 청소년 및 아동 자해 사건에 대한 보고를 받은 적이 있는지 여부; (b) 이러한 위험을 방지하기 위한 보호 조치로는 어떤 것들이 있는지.
Masagos Zulkifli 장관은 답변합니다: 사회 및 가족발전부(MSF)는 인공지능(AI)과 관련된 자해 보고를 특별히 추적하지 않았습니다. 그러나 우리는 자해를 야기하는 요인들이 일반적으로 다층적이며 개별 사례에 따라 다르다는 것을 주목합니다.
정부의 접근 방식은 싱가포르인, 특히 젊은 사용자들을 교육하여 과학기술을 안전하고 건강하게 사용할 수 있는 지식과 의식을 갖추도록 하는 것입니다. 학교에서 학생들은 인터넷 건강 및 정신건강 교육 프로그램을 통해 안전하고 존중하며 책임 있는 인터넷 사용자가 되는 법을 배웁니다. 학생들은 또한 인공지능 도구를 안전하고 책임 있게 사용하는 방법을 교육받습니다.
정보통신미디어발전청(IMDA)의 「디지털 라이프」포털 웹사이트는 인공지능의 위험을 설명하는 자원을 제공하며, 학부모들이 자녀가 인공지능 플랫폼을 사용할 때 그들의 복지를 보장하는 방법을 지도합니다. 자녀가 디지털 기술 사용(인공지능 플랫폼과의 상호작용 포함)으로 인해 정신건강 문제가 나타난다고 의심하는 학부모들은 학교 상담사 또는 지역사회 서비스 기관의 도움을 받을 수 있습니다. 예를 들어, TOUCH 지역사회 서비스는 인터넷 및 정신건강 문제의 영향을 받는 청소년들에게 상담 및 개입 프로그램을 제공합니다.
청소년들은 「정신건강 첫 멈춤」 서비스에서 정신건강 지원을 받을 수 있습니다. 예를 들어 전국 정신건강 핫라인 1771, mindline.sg, 청소년 지역사회 아웃리치 팀, CHAT 및 지역사회의 청소년 통합 팀이 있습니다.
IMDA는 사용자가 플랫폼에서 자해 콘텐츠에 접하는 것을 최소화하기 위한 규제 보호 조치를 두었습니다. 『소셜미디어 서비스 온라인 안전 행동 강령』은 지정된 소셜미디어 서비스에 사용자의 자해 콘텐츠 접근을 최소화하도록 요구하며, 고위험 검색어(자해와 관련된 어휘 포함)를 검색하는 사용자에게 관련 안전 정보를 제공하도록 합니다.
영어 원문
SPRS Hansard 원본 기록 · 수집일: 2026-09-04
69 Ms Hany Soh asked the Minister for Social and Family Development (a) whether the Ministry has received any reports on artificial intelligence-encouraged or related cases of self-harm by teenagers and children in the past three years; and (b) what are the safeguards in place to prevent such risks.
Mr Masagos Zulkifli B M M : Ministry of Social and Family Development (MSF) does not track reports of self-harm specifically related to artificial intelligence (AI). Nevertheless, we note that the factors contributing to self-harm are often multi-faceted and may differ from case to case.
The Government's approach is to educate Singaporeans, especially young users, with the knowledge and awareness to use technology in a safe and healthy way. In schools, students are taught to be safe, respectful and responsible online users through their Cyber Wellness and Mental Health Education lessons. Students are also taught to use AI tools safely and responsibly.
The Infocomm Media Development Authority's (IMDA's) Digital for Life portal provides resources that explain the risks of AI and guide parents on how to safeguard their children's well-being when interacting with AI platforms. Parents who suspect that their children are struggling with mental health issues arising from digital technology use, including interactions with AI platforms, can seek help from school counsellors or community service providers, such as TOUCH Community Services, which runs counselling and intervention programmes for youths affected by cyber and mental wellness issues.
Youths may also seek mental health support from First Stop for Mental Health services, such as national mindline 1771, mindline.sg, Youth Community Outreach Teams, CHAT and Youth Integrated Teams in the community.
IMDA has regulatory safeguards to minimise users' exposure to self-harm content on platforms. The Code of Practice for Online Safety for Social Media Services requires designated social media services to minimise users' exposure to self-harm content and provide relevant safety information to users searching for high-risk search terms, including those relating to self-harm.