서면 답변 · 2026-08-04 · 국회 15
싱가포르 법원에 AI로 조작·보강된 증거가 제출된 사례
하니 소(Ms Hany Soh)는 법무부 장관에게 서면 질의해, AI로 조작되거나 보강된 증거가 법원에 제출된 사례를 알고 있는지, 사법 관계자가 이를 막을 충분한 훈련과 수단을 갖췄는지 물었다. 에드윈 통(Mr Edwin Tong) 법무장관은 이런 증거가 두 가지 상황에서 생긴다고 답했다. 첫째는 딥페이크 이미지나 영상처럼 AI로 고의로 증거를 조작·변조하는 경우다. 싱가포르 법원은 공표 판결에서 그런 인정은 아직 없다고 확인했지만, 당사자가 문서 작성에서 AI 의존 정도를 설명하지 못할 때 증거를 배척한 사례는 있으며, 허위 증거를 고의로 제출한 사람은 형사 책임을 진다. 둘째는 진술서나 보고서 같은 법원 문서 작성에 AI 도구를 쓰는 경우로, 문제는 AI 사용 자체가 아니라 부주의한 사용이 부정확한 내용, 조작, 허구의 인용을 법원 문서에 끌어들이는 것이다. 법원은 2024년 '법원 이용자의 생성형 AI 도구 사용 지침'을 발행해 제출 자료의 정확성·관련성·독립 검증을 요구했고, 법무부의 2026년 3월 '법률 분야 생성형 AI 사용 지침'도 이를 강조했다. 이 책임을 다하지 못한 변호사가 제재받은 공표 사례가 최소 두 건 있다. 사법대학은 판사에게 디지털 증거의 허용성·진정성·신뢰성 훈련을 제공하며, 다툼이 있으면 전문가 증거와 디지털 포렌식에 기댈 수 있다.
왜 중요한가
법원의 2024년 생성형 AI 지침과 법무부의 2026년 3월 법률 분야 지침이 시행 중이고, AI 오용으로 최소 2건의 변호사 제재가 있었으며 딥페이크 증거 판례는 아직 없다
핵심 요점
- • AI 증거는 두 상황에서 생긴다. 딥페이크 이미지·영상 같은 고의적 조작과, 법원 문서 작성에서 AI의 부주의한 사용으로 오류·조작·허구 인용이 섞이는 경우
- • 싱가포르 법원은 공표 판결에서 딥페이크 증거 인정은 아직 없다고 확인했지만, 당사자가 AI 의존 정도를 설명하지 못할 때 증거를 배척한 사례는 있다
- • 법원의 2024년 '법원 이용자 생성형 AI 도구 사용 지침'과 법무부의 2026년 3월 '법률 분야 생성형 AI 사용 지침'은 모두 자료의 정확성·관련성·독립 검증을 요구한다
- • 검증 책임을 다하지 못한 변호사에게 법원이 제재를 가한 공표 사례가 최소 두 건
- • 싱가포르 사법대학은 판사에게 디지털 증거의 허용성·진정성·신뢰성 훈련을 제공하며, 다툼이 있으면 전문가 증거와 디지털 포렌식을 쓸 수 있다
법무부는 AI 증거 위험을 '고의적 조작'과 '부주의한 사용'으로 나눠 따로 대응한다. 전자는 기존 형법과 출처를 설명하지 못하는 증거를 배제하는 법원의 권한으로, 후자는 법원의 2024년 지침과 법무부의 2026년 3월 업계 지침으로 검증 책임을 법원 이용자와 변호사에게 지우고 이미 제재로 실효성을 보였다. 정부는 사법대학의 지속적 훈련, 전문가 증거, 디지털 포렌식이면 판사가 충분히 대응할 수 있다고 보고 새 입법은 제안하지 않았다.
질의자 하니 소는 두 가지에 주목했다. 법원이 이미 AI로 조작·보강된 증거를 마주했는지, 그리고 사법 관계자가 이를 가려낼 능력이 있는지다. 답변은 '딥페이크 증거의 공표 인정은 없음, AI 작성 문서에는 제재 두 건'이라는 경계를 제시하고, 두 번째 사항에는 훈련과 포렌식 역량으로 응했다.
싱가포르는 사법 절차의 생성형 AI 거버넌스를 '연성법 + 기존 제재' 노선으로 운영한다. 법원의 2024년 지침과 법무부의 2026년 3월 법률 분야 지침이 규범 층을, 허구 인용으로 변호사가 제재받은 공표 사례 두 건이 집행 층을 이루고, 딥페이크 증거는 형법과 판사의 증거 재량에 맡긴다. 답변은 원칙을 분명히 했다. 문제는 AI를 쓰는 것이 아니라 독립적 검증을 빠뜨리는 것이며, 이는 책임을 이용자에게 두는 싱가포르 AI 거버넌스의 일관된 사고와 같다. 딥페이크 기술이 퍼지면서 법원의 디지털 포렌식 역량과 전문가 증거가 다음 단계의 압력 지점이 될 것이다.
“여기서 우려는 AI 사용 자체가 아니라, 과실이나 부주의한 AI 사용이 부정확한 내용, 조작, 허구의 인용을 법원 문서에 끌어들이는 경우다.”
참여자 (2)
전문 번역(한국어)
Hansard 원문 · 2026-09-04
의원 Hany Soh가 법무부장관에게 질의: (i) 부서에서 인공지능 위조 또는 강화 증거가 법원에 증거로 제출된 사례를 인지하고 있는지 여부; (ii) 사법부 인원 및 공무원이 이러한 상황을 방지하기 위해 충분한 교육 및 장비를 갖추고 있는지 여부
Edwin Tong Chun Fai 씨: 법정 절차에서 제출되는 인공지능(AI) 위조 또는 강화 증거는 대체로 두 가지 상황에서 나타날 수 있습니다.
첫 번째 상황은 AI를 의도적으로 이용하여 증거를 위조하거나 조작하는 것이며, 예를 들어 딥페이크 이미지나 비디오가 포함됩니다. 싱가포르 법원은 현재까지 공표된 판결에서 이러한 사례가 인정된 경우가 없음을 확인했습니다. 그러나 법원은 특정 상황에서 당사자들이 문서 작성 시 AI에 대한 의존도를 만족스럽게 설명하지 못한 증거를 배제했습니다. 그럼에도 불구하고 허위 증거를 제출했음을 알면서 제출한 당사자는 형사 책임을 포함한 심각한 법적 결과를 직면하게 됩니다.
두 번째 상황은 AI 도구를 이용하여 법원에 제출할 문서를 준비하는 것(예: 선서 진술서 및 보고서)입니다. 여기서의 관심은 AI 사용 자체가 아니라, AI를 부주의하거나 소홀하게 사용함으로써 법원 문서에 나타나는 부정확성, 위조 또는 허위 인용입니다.
2024년, 싱가포르 법원은 「법원 이용자를 위한 생성형 인공지능 도구 사용 지침」을 발표하였으며, 법원에 제출되는 모든 자료가 정확하고 관련성 있으며 독립적으로 검증되도록 해야 할 책임이 법원 이용자에게 있음을 명시했습니다. 이러한 책임은 2026년 3월 싱가포르 법무부에서 발표한 「법률 업계 생성형 AI 사용 지침」에서 강조되었습니다. 공표된 최소 두 건의 사건에서 싱가포르 법원은 이 책임을 이행하지 못한 변호사에게 제재를 가했습니다.
이러한 사건을 적발하기 위해 싱가포르 사법 학원은 법관들에게 증거의 증거능력, 진정성 및 신뢰성 문제(디지털 증거 포함)를 다루기 위한 교육을 제공합니다. 진정성 또는 신뢰성이 문제가 될 경우, 법원은 전문가 증거 및 디지털 법의학 분석에 의존하여 검증할 수 있습니다.
싱가포르 법원은 다양한 학습 플랫폼을 통해 기술과 전문가 지원을 결합하여 기술 발전 추세를 따라잡습니다. 특히 법관들은 다각적인 종합적 지속 교육 프레임워크의 일부로서 소송 절차에서 증거 문제를 다루기 위한 교육을 받습니다.
영어 원문
SPRS Hansard 원본 기록 · 수집일: 2026-09-04
73 Ms Hany Soh asked the Minister for Law whether (i) the Ministry is aware of instances in which artificial intelligence-fabricated or augmented evidence has been tendered as evidence before a Court of law and (ii) judicial staff and officers are sufficiently trained and equipped to guard against such cases.
Mr Edwin Tong Chun Fai : Artificial intelligence (AI)-fabricated or augmented evidence tendered in Court proceedings may arise in two broad scenarios.
First is the deliberate fabrication or manipulation of evidence using AI, such as deepfake images or videos. The Singapore Courts have confirmed that there have yet to be such findings in a published decision. However, the Courts have in instances disregarded evidence where a party cannot satisfactorily explain the extent of reliance on AI in preparing the document. Nevertheless, any party who knowingly tenders false evidence faces serious consequences under the law, including criminal liability.
The second scenario is the use of AI tools in the preparation of documents filed in Court, such as affidavits and reports. The concern here is not the use of AI in itself, but where the negligent or careless use of AI introduces inaccuracies, fabrications or fictitious citations into Court documents.
In 2024, the Singapore Courts issued the Guide on the use of Generative Artificial Intelligence Tools by Court Users which makes clear that Court users are responsible for ensuring that all materials placed before the Court are accurate, relevant and independently verified. This responsibility is underscored in the Ministry's Guide for the Use of Generative AI in the Legal Sector issued in March 2026. There have been at least two published cases where the Singapore Courts have imposed sanctions on lawyers for failing in such responsibility.
To detect such occurrences, the Singapore Judicial College provides training to judges to deal with issues of admissibility, authenticity and reliability of evidence, including digital evidence. Where authenticity or reliability is contested, the Courts may also rely on expert evidence and digital forensic analysis for verification.
The Singapore Courts keep pace with technological developments through a range of learning platforms supported by technical and expert assistance. Judges, in particular, are trained to deal with evidentiary issues in litigation as part of a multi-pronged comprehensive continuous training framework.