서면 답변 · 2026-05-06 · 국회 15
대국민 자율 AI 에이전트의 실질적 인간 책임성 확보와 고위험 부문 의무 거버넌스 전환 경로
노동자당 실비아 림(Sylvia Lim) 의원은 에이전틱 AI 모델 거버넌스 프레임워크 발표 이후 디지털개발정보부 장관에게 서면 질의를 통해, 명시적 공개 의무가 없는 상황에서 대중과 상호작용하는 자율 AI 에이전트의 '실질적 인간 책임성'을 어떻게 확보할 것인지, 그리고 어떤 조건이 충족되면 이 프레임워크가 자율 규범에서 고위험 부문의 강제 기준으로 전환되는지를 물었다. 조세핀 테오(Josephine Teo) 장관은 프레임워크가 에이전틱 AI 배치 시 실질적 인간 책임성을 확보하기 위한 지침을 제시한다고 답했다. 고위험이거나 되돌릴 수 없는 행동은 인간 검토 없이 실행되어서는 안 되며, 인간 승인이 필요한 체크포인트나 행동 경계를 설정해야 한다. 프레임워크는 또한 사용자가 에이전트와 상호작용하고 있다는 사실과 에이전트의 역량·데이터 접근 권한을 사전에 알리는 투명성을 강조한다. 장관은 에이전틱 AI의 활용 사례와 적절한 안전장치가 아직 진화 중이므로, 부문별 규제기관과 함께 배치 실태를 모니터링하고 국제 모범 사례를 참고해 필요시 프레임워크를 조정하겠다고 밝혔다. 자율에서 강제로의 구체적 전환 조건은 제시하지 않았다.
핵심 요점
- • 실비아 림 의원은 자율 AI 에이전트의 '실질적 인간 책임성' 확보 방안을 추궁
- • 프레임워크는 고위험·비가역적 행동에 인간 검토와 승인을 요구
- • 에이전트와의 상호작용 사실과 역량·데이터 접근의 사전 고지를 강조
- • 자율 프레임워크의 강제 기준 전환을 위한 구체적 조건은 제시되지 않음
에이전틱 AI 거버넌스는 현 단계에서 자율 프레임워크로 유도하며—고위험 행동은 인간 검토를 거치고 사용자에게 투명성을 유지—정부는 부문별 규제기관과 배치 실태를 모니터링해 필요시 조정하되, 강제 기준 전환의 조건은 당분간 설정하지 않는다는 입장이다.
노동자당 실비아 림 의원은 공개 의무가 없는 상황에서 '실질적 인간 책임성'이 실현되기 어렵다며, 프레임워크가 자율 규범에서 고위험 부문 강제 기준으로 격상되는 조건을 명확히 할 것을 정부에 요구했다.
싱가포르는 에이전틱 AI에 대해 '연성 규범 우선' 노선을 이어간다. 모델 프레임워크로 인간 검토와 투명성 기대치를 설정하고 부문별 규제기관과 국제 사례를 통해 반복 개선하되, 강제 규제의 문턱은 의도적으로 비워 정책 유연성을 확보한다.
“위험이 크거나 되돌릴 수 없는 행동이 인간의 검토 없이 실행되도록 해서는 안 된다.”
참여자 (2)
전문 번역(한국어)
Hansard 원문 · 2026-06-09
31번 린 루이 수안 여사는 「에이전트 인공지능 거버넌스 모델 프레임워크」발표 후 디지털 발전 및 정보부 부장관에게 다음 질문을 제기하였습니다: (a) 명확한 공개 요구사항이 없는 상황에서 부서가 대중과 상호작용하는 자율 인공지능 에이전트가 「실질적인 인적 책임성」을 갖도록 보장할 계획인지, 그리고 (b) 어떤 요인이 해당 프레임워크가 자발적 규범에서 고위험 업종에 대한 의무적 기준으로 전환되도록 촉발할 것인지입니다.
셰 메이화 여사: 「에이전트 인공지능 거버넌스 모델 프레임워크」는 조직이 에이전트 인공지능을 배포할 때 실질적인 인적 책임성을 보장하기 위한 지침을 제공합니다. 조직은 인적 검토 없이 고위험 또는 돌이킬 수 없는 행동이 진행되도록 허용해서는 안 됩니다. 따라서 적절한 조치에는 인간의 승인이 필요한 체크포인트 또는 행동 경계를 파악하는 것이 포함됩니다. 해당 프레임워크는 또한 사용자에게 투명성을 강조하며, 예를 들어 사용자가 에이전트와 상호작용 중임을 사전에 공개하고 에이전트의 능력과 데이터 접근에 관해 설명하는 것이 있습니다.
에이전트 인공지능의 사용 사례와 이에 상응하는 보호 조치는 계속 진화하고 있습니다. 따라서 우리는 규제 기관과 협력하여 각 업종이 에이전트 인공지능을 어떻게 배포하고 있으며 위의 원칙을 실행에 옮기고 있는지 계속 모니터링하고, 국제 모범 사례를 계속 협의하고 학습하며, 필요에 따라 프레임워크를 조정할 것입니다.
영어 원문
SPRS Hansard 원본 기록 · 수집일: 2026-06-09
31 Ms Sylvia Lim asked the Minister for Digital Development and Information following the launch of the Model AI Governance Framework for Agentic AI (a) how does the Ministry intend to ensure "meaningful human accountability" for autonomous AI agents that interact with the public in the absence of explicit disclosure requirements; and (b) what triggers would necessitate transitioning the Framework from a voluntary code to enforceable standards for high-risk sectors.
Mrs Josephine Teo : The Model Artificial Intelligence (AI) Governance Framework for Agentic AI (Framework) sets out guidance for organisations to ensure meaningful human accountability in deploying agentic AI. They should not allow high stakes or irreversible actions to take place without human review. Appropriate actions therefore include identifying checkpoints or action boundaries that require human approval. The Framework also emphasises transparency towards users, such as declaring upfront that users are interacting with agents and the agents' capabilities and data access.
Agentic AI use cases and the appropriate safeguards are still evolving. Hence, together with sector regulators, we will continue to monitor how various sectors deploy agentic AI and put the above principles in practice, continue to consult and learn from best practices internationally, to make the adjustments to the framework as necessary.