서면 답변 · 2024-08-07 · 국회 14
딥페이크 탐지 및 정치 풍자 정의
의원이 정부의 현재 딥페이크 탐지 기술의 정확도, 해로운 딥페이크와 합법적인 정치 풍자를 구분하는 방법, 오판 처리에 대해 질의했습니다. 정부는 기술이 지속적으로 업데이트되며 정확도를 공개하지 않는다고 응답하고, 《POFMA》에 따라 해로운 내용을 처리하며 풍자는 불법이 아니라는 점을 강조했습니다. 정부는 국제 경험에 주목하고 선거 보안을 추가로 보장할 필요가 있는지 연구하고 있습니다. 핵심 쟁점은 기술 투명성과 언론의 자유의 균형입니다.
핵심 요점
- • Deepfake detection tools constantly updated
- • Satire is not automatically unlawful
- • Misidentification can be appealed in court
기술 기밀성, 법에 따른 허위정보 단속
기술 정확도 및 오판 위험에 주목
AI 허위정보 감시 강화
“We do not publish their accuracy levels as our tools are constantly being updated to keep up with technology.”
참여자 (2)
전문 번역(한국어)
Hansard 원문 · 2026-05-02
29번 하팅여 여사가 디지털발전정보부 장관에게 질문하다: (a) 정부가 인공지능 생성 내용의 딥페이크를 탐지하는 데 사용하는 기술의 현재 정확도는 얼마나 되는가; (b) 정부가 유해한 딥페이크 내용과 유사한 기술을 사용하는 합법적인 정치 풍자나 밈을 어떻게 구분할 것인가; (c) 비디오가 딥페이크로 잘못 식별될 경우 어떻게 처리할 것인가?
장옥권 여사: 정부는 변조된 내용을 탐지, 식별, 평가하기 위한 다양한 도구 및 기술을 보유하고 있으며, 이는 인공지능(AI) 생성 내용 예컨대 딥페이크를 포함합니다. 이러한 도구는 상업적으로 구매한 것, 내부 개발한 것, 또는 (온라인 안전 고급 기술 센터와의 협력과 같은) 연구원과의 협력을 통해 개발한 것일 수 있습니다. 우리는 이러한 도구의 정확도를 공개하지 않습니다. 왜냐하면 우리의 도구는 기술 발전을 따라가기 위해 지속적으로 업데이트되기 때문입니다. 동시에 모든 능력의 세부사항을 공개하는 것은 또한 공공 이익과 맞지 않습니다. 왜냐하면 악의적인 행위자가 이러한 정보를 악용할 수 있기 때문입니다.
특정 임계값을 충족할 때, 정부는 온라인 허위 정보에 대해 조치를 취할 수 있으며, 이는 인공지능을 이용하여 생성된 허위 정보를 포함합니다. 이러한 내용이 허위이고 공공 이익을 해치는 경우, 정부는 「온라인 거짓 정보 및 조작 방지법」(POFMA)에 따라 조치를 취할 수 있습니다. 풍자 또는 패러디는 그 자체로는 POFMA에 따른 조치를 취하는 조건이 되지 않습니다. 단, 공공 이익을 해치는 허위 정보를 포함하는 경우는 예외입니다. 개인에게 발부된 POFMA 지시(딥페이크 내용에 대한 지시 포함)에 이의를 제기하는 자는 법원에 항소할 수 있습니다.
많은 국가가 이미 인공지능 사용 및 응용으로 인한 해악과 위험을 완화할 필요성을 인식했으며, 이는 딥페이크의 악의적 사용을 포함합니다. 일부 국가는 이미 선거 기간 동안 선거 과정의 무결성을 보호하기 위한 보호 조치를 시행했습니다. 우리는 현재 추가적인 보호 조치가 필요한지 여부를 연구 중이며, 준비가 되면 업데이트를 제공할 것입니다.
영어 원문
SPRS Hansard 원본 기록 · 수집일: 2026-05-02
29 Ms He Ting Ru asked the Minister for Digital Development and Information (a) what is the current accuracy rate of the Government’s deepfake detection technologies for AI-generated content; (b) how will the Government differentiate between harmful deepfakes and legitimate political satire or memes using similar technologies; and (c) what happens if videos are wrongly identified as deepfakes.
Mrs Josephine Teo : There are a variety of tools and techniques available to the Government to detect, identify and assess manipulated content, including artificial intelligence (AI)-generated content such as deepfakes. These may be sourced commercially, developed in-house or in partnership with researchers such as those at the Centre for Advanced Technologies in Online Safety. We do not publish their accuracy levels as our tools are constantly being updated to keep up with technology. It is also not in the public interest to reveal the full extent of capabilities as malicious actors may exploit it.
The Government can take action against online falsehoods when certain thresholds are met, including falsehoods generated with the help of AI. Action may be taken under the Protection from Online Falsehoods and Manipulation Act (POFMA) if such content is false and against the public interest. Satire or parody do not by themselves meet the criteria for POFMA action, unless they contain falsehoods that harm public interest. Individuals who disagree with POFMA directions issued to them, including those for deepfake content, can file an appeal in court.
Many countries have recognised the need to mitigate the harms and risks from AI use and application, including the malicious use of deepfakes. Some countries have already put in place safeguards, especially during elections, in order to protect the integrity of the electoral process. We are studying if further safeguards are required and will provide an update when ready.