# 고위험 AI 배치를 규제하는 핵심 위험 임계값과 완전 자동화 결정에 대한 필수 인간 감독

- 날짜: 2026-07-07
- 수록: 2026-07-20
- 관련자: Mr Alex Yeo · Mrs Josephine Teo
- 출처: https://sprs.parl.gov.sg/search/#/sprs3topic?reportid=written-answer-23658
- sgai: https://sgai.md/ko/debates/written-answer-23658/
- 라이선스: sgai가 작성한 내용(요약·번역·분석)은 CC BY 4.0(출처 표기 및 sgai.md 링크 조건). 원문 전문(의회 기록·연설·자막·정책 원문)은 원권리자에게 귀속되며 참고용으로만 게재. 조건: https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 왜 중요한가

양리명은 강제 인적 감시에 대한 강제적 약속을 제시하지 않았으며, 「직장 공정법」 등 기존 법률로만 보완하고 있어 AI 자동 의사결정 문책은 여전히 소프트 법에만 의존하고 있습니다.

## 요약

NAIS 업데이트의 "필요하고 효과적인 경우 규제 또는 입법한다"는 구절과 관련해, 알렉스 여(Alex Yeo) 의원은 디지털발전정보부에 질의했다. (a) 고위험 AI 배치의 규제 필요성을 결정하는 핵심 위험 요인이나 임계값은 무엇인지, (b) 고용 결정 등 개인에게 중대한 영향을 주는 완전 자동화 결정에 의미 있는 인간 감독을 의무화할지이다. 조세핀 테오 장관은, 어떤 기술이든 규제 필요성은 배치 방식, 발생할 수 있는 해의 성격, 기존 조치의 효과성에 달려 있다고 답했다. 많은 AI 위험은 기존 법으로 이미 다뤄지며, AI를 쓰는 고용주도 곧 시행될 《직장공정법》을 준수해야 하고, 《온라인범죄피해법》은 경찰이 AI 기반 사기를 차단하게 한다. 기존 조치가 미흡하고 적절한 대응을 설계할 수 있으면 정부는 적시에 입법한다(《선거(온라인 광고 공정성)(개정)법》 등). 이는 산업별 지침으로 보완되며, MAS는 금융권 《AI 위험관리 지침》을 협의했고 보건부는 《의료 AI 지침》(AIHGle 2.0)을 갱신했다. 정부는 적절한 규제 태도를 계속 연구한다.

## 핵심 포인트

- 규제 필요성은 배치 방식·해의 성격·기존 조치의 충분성에 달려 있으며 일률적 "고위험" 임계값은 두지 않음
- 많은 AI 위험은 기존 법으로 이미 커버: AI 채용은 《직장공정법》, AI 사기는 OCHA, 딥페이크는 선거법
- 산업별 지침(MAS AI 위험관리, 보건부 AIHGle 2.0)이 경성법을 보완

## 전문

제50번 양승재 씨(Mr Alex Yeo)는 NAIS 업데이트 중 「정부는 필요하고 효과적할 때 규제 또는 입법을 진행할 것」이라는 표현에 관하여 디지털 개발 정보부에 질문했습니다: (a) 어떤 핵심 위험 요소 또는 임계값이 고위험 AI 배포에 대한 규제가 필요한 시점을 결정하는가; (b) 부서가 개인에게 실질적인 영향을 미치는 완전 자동화된 결정(예: 고용 결정 또는 고위험 시나리오)에 대해 의미 있는 인적 감독을 의무적으로 요구할 것인가.

양리명 여사(Mrs Josephine Teo): 다른 기술과 마찬가지로 규제 필요 여부는 그 배포 방식, 야기할 수 있는 피해의 특성, 그리고 기존 조치가 이러한 피해에 충분히 대응할 수 있는지 여부에 따라 결정됩니다.

싱가포르의 맥락에서 많은 인공지능(AI) 위험이 기존 입법을 통해 대응되었습니다. 예를 들어, AI 도구를 사용하는 고용주는 여전히 곧 시행될 「직장 공정성법」에서 공정성 및 우수자 채용에 관한 요구사항을 준수해야 합니다. 마찬가지로 「사이버범죄피해법」 등의 법률은 싱가포르 경찰청이 AI로 인한 사기를 예방하고 차단할 수 있게 합니다. 기존 조치가 불충분하다고 평가되고 적절한 대책을 설계할 수 있을 때, 정부는 이를 신속하게 시행할 것을 보장합니다. 예를 들어, 「선거(온라인 광고 정직성)(수정)법」의 통과는 선거 기간 중 디지털로 생성되거나 변조된 후보자 콘텐츠의 악용을 방지하기 위한 것입니다.

이러한 법률은 특정 산업의 지침으로 보완됩니다. 이러한 지침은 초기에 반드시 강제 준수를 위한 것이 아니라, 규제 기관이 향후 정책을 고려할 때 유용한 피드백을 제공합니다. 예를 들어, 싱가포르금융청(MAS)은 금융 서비스 산업 「인공지능 위험 관리 지침」에 대한 협의를 이미 진행했습니다. 보건부는 「의료 인공지능 지침」(AIHGle 2.0)을 업데이트했습니다.

정부는 항상 책임감 있게 AI를 개발하고 배포할 필요성을 강조합니다. 기술과 위험 환경이 진화함에 따라 우리는 적절한 AI 규제 태세를 계속 연구하고 기존 조치가 충분한지 평가할 것입니다.

## Hansard (original, English)

© Parliament of Singapore — reproduced for reference only.

50 Mr Alex Yeo asked the Minister for Digital Development and Information further to the Update to NAIS, which states that Government will "regulate or legislate where necessary and effective" (a) what key risk factors or thresholds determine when a high-risk AI deployment would warrant regulation; and (b) whether the Ministry will mandate meaningful human oversight over fully automated decisions that materially affect individuals, such as employment decisions or high-risk scenarios.

Mrs Josephine Teo: As with any technology, the need for regulation depends on how it is deployed, the nature of harm that may be caused and whether existing measures are effective in addressing those harms.

In Singapore's context, many artificial intelligence (AI) risks are already addressed through existing legislation. For example, employers that use AI tools must still comply with the requirements for fair and merit-based employment practices in the upcoming Workplace Fairness Act. Similarly, laws like the Online Criminal Harms Act enable the Singapore Police Force to prevent and disrupt AI-enabled scams. Where existing measures are assessed to be inadequate and a suitable response can be designed, the Government will ensure its timely implementation. For example, the Elections (Integrity of Online Advertising) (Amendment) Act was passed to prevent the misuse of digitally generated or manipulated content of candidates during elections.

These laws are complemented by guidelines in specific sectors. Such guidelines may not be for compliance at the outset but provide regulatory agencies with useful feedback as they consider future policies. For example, the Monetary Authority of Singapore has consulted on Guidelines on AI Risk Management for the financial services sector, while the Ministry of Health has updated the AI in Healthcare Guidelines (AIHGle 2.0).

The Government has consistently emphasised the need for responsible AI development and deployment. We will continue to study the appropriate regulatory stance for AI and assess whether existing measures are adequate as the technology and risk landscape evolves.