서면 답변 · 2026-05-06 · 국회 15
AI 생성 정치 딥페이크 영상에 대한 평가와 POFMA·OCHA에 따른 규제 개입 기준
노동자당 실비아 림 의원은 디지털개발정보부 장관에게 서면 질의했다. 정치인 관련 AI 딥페이크 영상이 "명백한 조작"이어서 온라인 허위정보 및 조작 방지법(POFMA)상 지시가 불필요하다고 판단하기 전에 정부가 취약계층을 대상으로 검증을 실시하는지, 그리고 온라인 범죄 피해 방지법(OCHA)에 따른 선제적 개입이 발동되려면 어느 정도의 대중 혼란이 있어야 하는지를 물었다. 조세핀 테오 장관은 POFMA상 싱가포르에서 유포된 허위 사실에 대해 공익에 부합하면 정정 지시를 내릴 수 있으며 딥페이크 영상도 포함된다고 답했다. OCHA에 따라 부속서 1의 범죄나 사기·악성 사이버 활동의 준비가 의심되는 경우 플랫폼에 접근 차단을 지시할 수 있다. 정부는 유해 콘텐츠를 종합적으로 평가하며 개입은 단일 요인으로 결정되지 않는다고 강조했고, IMDA의 '생활을 위한 디지털 스킬' 프레임워크와 고령자 대상 생성형 AI 워크숍 등 공교육이 입법만큼 중요하다고 밝혔다.
핵심 요점
- • 림 의원: 딥페이크를 "명백한 조작"으로 판단하기 전 취약계층 검증 여부 질의
- • 테오 장관: POFMA로 정정 지시, OCHA로 접근 차단 지시 가능
- • 정부는 유해 콘텐츠를 종합 평가, 개입은 단일 요인으로 결정되지 않음
- • IMDA 디지털 스킬 프레임워크와 고령자 생성형 AI 워크숍이 공교육 담당
정부는 기존 POFMA·OCHA 체계로 딥페이크 영상에 충분히 대응할 수 있으며, 개입은 단일 정량 기준이 아닌 사안별 종합 평가에 따르고 공교육이 입법만큼 중요하다는 입장이다.
림 의원은 정부가 POFMA를 발동하지 않을 때 취약계층의 판별 능력을 실제로 검증했는지 의문을 제기하고, OCHA 선제 개입에 필요한 대중 혼란 기준을 명확히 하라고 요구했다.
정부는 딥페이크 규제에서 정량 기준보다 사안별 재량을 고수하고 미디어 리터러시 교육을 입법과 동등하게 두며, 단기간 내 개입의 경성 기준을 설정하지 않을 것임을 시사한다.
“따라서 공교육 이니셔티브는 국민이 온라인에서 더 경계하고 분별력을 갖추도록 돕는 데 입법만큼 중요하다.”
참여자 (2)
전문 번역(한국어)
Hansard 원문 · 2026-06-09
질문 32: 림서즛 의원이 디지털 발전 및 정보부 장관에게 다음을 답변하도록 요청합니다: (a) 정치 공직자와 관련된 인공지능 생성 딥페이크 동영상이 명백히 허위이며 『2019년 온라인 허위정보 및 조작 방지법』에 따른 지시 발령이 필요하지 않다고 판정하기 전에, 정부가 취약 집단을 대상으로 테스트를 실시했는지 여부; (b) 『2023년 온라인 범죄 해악 법』에 따라 적극적 개입을 취하기 전에, 이러한 동영상에 대한 공중 혼동 정도가 어느 임계값에 도달해야 하는가.
장서분 장관: 『온라인 허위정보 및 조작 방지법』에 따라, 허위 사실 진술이 싱가포르에서 전파되고 정정 지시 발령이 공공 이익에 부합하는 경우, 장관은 정정 지시를 발령할 수 있습니다. 이는 딥페이크 동영상을 통해 전파되는 온라인 허위정보를 포함합니다.
『온라인 범죄 해악 법』(OCHA)에 따라, 해당 온라인 활동이 OCHA 제1부칙에 규정된 특정 범죄 행위를 추진하려는 것으로 합리적으로 의심되거나, 또는 해당 온라인 활동이 사기 또는 악의적 사이버 활동 실행을 위한 준비라고 의심되거나 이를 믿을 이유가 있는 경우, 정부는 온라인 서비스 제공자에게 싱가포르 사용자의 해당 온라인 콘텐츠 또는 활동에 대한 접근을 금지하도록 지시할 수 있습니다. 여기에는 딥페이크 이미지 및 동영상이 포함됩니다.
정부는 해로운 온라인 콘텐츠를 종합적으로 평가하고, 각 사건의 여러 요소와 관련 법률에 따른 조건을 바탕으로 적절한 대응을 결정합니다. 따라서 개입 조치는 어떤 단일 요소에 의해서만 결정되지 않습니다.
우리는 사회의 여러 집단이 온라인에서 사실과 허위를 구분하는 능력에 대해 자신감이 부족할 수 있음을 인식합니다. 따라서 공공 교육 이니셔티브와 입법은 동등하게 중요하며, 모두 우리 국민이 인터넷을 사용할 때 더욱 경계심을 갖고 분별력 있게 행동하도록 도움이 됩니다. 예를 들어, IMDA에서 개발한 『디지털 생활 기술 프레임워크』는 싱가포르인에게 허위 및 오도 콘텐츠를 식별하고 대응하는 기술을 갖추도록 합니다. 싱가포르 디지털 오피스도 노년층을 대상으로 생성형 인공지능 워크숍을 개최하며, 내용은 인공지능 생성 허위정보로부터 보호하는 방법과 안전하고 현명하게 인터넷을 사용하는 방법을 다룹니다.
영어 원문
SPRS Hansard 원본 기록 · 수집일: 2026-06-09
32 Ms Sylvia Lim asked the Minister for Digital Development and Information (a) whether the Government does testing on vulnerable groups before determining that AI-generated deepfake videos involving political office-holders are so obviously fabricated that directions under the Protection from Online Falsehoods and Manipulation Act 2019 are unnecessary; and (b) what threshold of public confusion arising from such videos must be met before a proactive intervention under the Online Criminal Harms Act 2023.
Mrs Josephine Teo : Under the Protection from Online Falsehoods and Manipulation Act, a Minister can issue a Correction Direction if a false statement of fact has been communicated in Singapore, and it is in the public interest to issue the Correction Direction. This includes online falsehoods communicated via deepfake videos.
Under the Online Criminal Harms Act (OCHA), the Government can issue directions to online service providers to disable Singapore users' access to an online content or activity, when there is reasonable suspicion that the online activity is in furtherance of a specified criminal offence under the First Schedule of OCHA, or when there is suspicion or reason to believe that the online activity is preparatory to the commission of a scam or malicious cyber activity. This includes deepfake images and videos.
The Government assesses harmful online content holistically and determines the appropriate response, based on a range of factors for each case and the legal conditions under the relevant legislation. As such, intervention is not determined by any single factor alone.
We recognise that there are segments of society who may be less confident in their ability to discern between fact and falsehood online. Public education initiatives are therefore as important as legislation to help our people become more vigilant and discerning when they go online. For example, the Digital Skills for Life framework, developed by the Infocomm Media Development Authority, equips Singaporeans with skills to identify and respond to false and misleading content. The SG Digital Office also runs Gen AI workshops for seniors, which cover how to stay safe and smart online against AI-generated misinformation.