서면 답변 · 2026-05-06 · 국회 15
대국민 자율 AI 에이전트의 실질적 인간 책임성 확보와 고위험 부문 의무 거버넌스 전환 경로
노동자당 실비아 림(Sylvia Lim) 의원은 에이전틱 AI 모델 거버넌스 프레임워크 발표 이후 디지털개발정보부 장관에게 서면 질의를 통해, 명시적 공개 의무가 없는 상황에서 대중과 상호작용하는 자율 AI 에이전트의 '실질적 인간 책임성'을 어떻게 확보할 것인지, 그리고 어떤 조건이 충족되면 이 프레임워크가 자율 규범에서 고위험 부문의 강제 기준으로 전환되는지를 물었다. 조세핀 테오(Josephine Teo) 장관은 프레임워크가 에이전틱 AI 배치 시 실질적 인간 책임성을 확보하기 위한 지침을 제시한다고 답했다. 고위험이거나 되돌릴 수 없는 행동은 인간 검토 없이 실행되어서는 안 되며, 인간 승인이 필요한 체크포인트나 행동 경계를 설정해야 한다. 프레임워크는 또한 사용자가 에이전트와 상호작용하고 있다는 사실과 에이전트의 역량·데이터 접근 권한을 사전에 알리는 투명성을 강조한다. 장관은 에이전틱 AI의 활용 사례와 적절한 안전장치가 아직 진화 중이므로, 부문별 규제기관과 함께 배치 실태를 모니터링하고 국제 모범 사례를 참고해 필요시 프레임워크를 조정하겠다고 밝혔다. 자율에서 강제로의 구체적 전환 조건은 제시하지 않았다.
핵심 요점
- • 실비아 림 의원은 자율 AI 에이전트의 '실질적 인간 책임성' 확보 방안을 추궁
- • 프레임워크는 고위험·비가역적 행동에 인간 검토와 승인을 요구
- • 에이전트와의 상호작용 사실과 역량·데이터 접근의 사전 고지를 강조
- • 자율 프레임워크의 강제 기준 전환을 위한 구체적 조건은 제시되지 않음
에이전틱 AI 거버넌스는 현 단계에서 자율 프레임워크로 유도하며—고위험 행동은 인간 검토를 거치고 사용자에게 투명성을 유지—정부는 부문별 규제기관과 배치 실태를 모니터링해 필요시 조정하되, 강제 기준 전환의 조건은 당분간 설정하지 않는다는 입장이다.
노동자당 실비아 림 의원은 공개 의무가 없는 상황에서 '실질적 인간 책임성'이 실현되기 어렵다며, 프레임워크가 자율 규범에서 고위험 부문 강제 기준으로 격상되는 조건을 명확히 할 것을 정부에 요구했다.
싱가포르는 에이전틱 AI에 대해 '연성 규범 우선' 노선을 이어간다. 모델 프레임워크로 인간 검토와 투명성 기대치를 설정하고 부문별 규제기관과 국제 사례를 통해 반복 개선하되, 강제 규제의 문턱은 의도적으로 비워 정책 유연성을 확보한다.
“위험이 크거나 되돌릴 수 없는 행동이 인간의 검토 없이 실행되도록 해서는 안 된다.”
참여자 (2)
영어 원문
SPRS Hansard · Fetched: 2026-06-09
31 Ms Sylvia Lim asked the Minister for Digital Development and Information following the launch of the Model AI Governance Framework for Agentic AI (a) how does the Ministry intend to ensure "meaningful human accountability" for autonomous AI agents that interact with the public in the absence of explicit disclosure requirements; and (b) what triggers would necessitate transitioning the Framework from a voluntary code to enforceable standards for high-risk sectors.
Mrs Josephine Teo : The Model Artificial Intelligence (AI) Governance Framework for Agentic AI (Framework) sets out guidance for organisations to ensure meaningful human accountability in deploying agentic AI. They should not allow high stakes or irreversible actions to take place without human review. Appropriate actions therefore include identifying checkpoints or action boundaries that require human approval. The Framework also emphasises transparency towards users, such as declaring upfront that users are interacting with agents and the agents' capabilities and data access.
Agentic AI use cases and the appropriate safeguards are still evolving. Hence, together with sector regulators, we will continue to monitor how various sectors deploy agentic AI and put the above principles in practice, continue to consult and learn from best practices internationally, to make the adjustments to the framework as necessary.