양리밍이 각국에 에이전트형 AI 거버넌스 위험에 적극 대응할 것을 호소하다

싱가포르 디지털 개발 및 뉴스부 장관 양리밍이 델리 AI 정상회담에서 명확한 경고를 발표했습니다. 에이전트 AI의 자율성은 새로운 위험을 초래하며, 각국은 특히 의료 및 사회 서비스 분야에서 능동적으로 거버넌스를 추진해야 합니다. 그녀는 정부와 국민의 접촉점이 매우 민감하다고 했으며, AI가 부정확한 보건, 사회보장 또는 복지 정보를 국민에게 제공하고 이에 따라 조치를 취할 경우 그 결과는 심각하다고 강조했습니다.

그녀는 국제 협력의 강화를 촉구했으며, 투명성과 공정성 등의 추상적 원칙을 실행 가능한 안전 보장으로 전환하고 다양한 규제 환경을 아우르는 표준화된 평가 방법을 확립할 것을 주장했습니다. 또한 역량 구축을 강조하여 대규모 AI 연구 생태계뿐만 아니라 모든 국가가 기술 증거에 대한 논의에 참여할 수 있도록 했습니다. 싱가포르는 현재 능동적으로 테스트하고, 표준을 제정하며, 민간 부문과 협력하여 신뢰를 구축하고 있습니다.

양리밍은 규제만으로는 AI가 초래하는 더 광범위한 사회적 압력에 대응할 수 없다고 경고했습니다. AI 법규로 사회 불평등을 해결할 것이라 기대하는 것은 현실적이지 않으며―사회는 그녀가 「사회 단결」이라고 칭하는 것을 강화해야 하며, 여기에는 직업 전환 지원, 주택, 의료, 교육 등이 포함됩니다. 또한 점점 더 분열되는 글로벌 기술 지형 속에서 싱가포르의 전략은 신뢰할 수 있는 노드로서 첨단 기술과 연결되는 한편 악용 위험을 최소화하는 것이라고 지적했습니다.

자막 언어: ko · 수집 날짜: 2026-05-02

싱가포르 디지털개발정보부 장관 조오세펀은 의료 보건과 사회 서비스 등의 분야에서 특히 에이전트 인공지능이 야기하는 신흥 위험을 적극적으로 관리할 것을 각국에 촉구했습니다. 이러한 도구의 자율성이 새로운 위험을 초래할 수 있기 때문입니다. 그녀는 델리에서 개최된 인공지능 정상회의에서 그 결과가 복잡해지고 예측하기 어려워졌다고 지적했습니다. 정부는 시민과의 접점이 매우 민감하기 때문에 높은 위험에 직면하고 있습니다. 어느 시민도, 어느 정부도 시민과의 상호작용 시 심각한 오류를 범하기를 원하지 않습니다. 예를 들어, 건강, 사회보장, 또는 복지에 관한 부정확한 정보를 전달하는 것 같은 오류, 단지 정보를 받는 것이 아니라 그 정보를 바탕으로 조치를 취하는 것입니다. 조 장관이 말했습니다.

장 샤오윤은 싱가포르가 적극적으로 테스트를 수행하고 있으며, 표준을 제정하고 있으며, 인공지능의 안전하고 신뢰할 수 있는 사용에 대한 신뢰를 검증하고 구축하기 위해 민간부문과 협력하고 있다고 말했습니다. 그녀는 이러한 작업은 혼자만으로는 완료될 수 없으며, 싱가포르는 다른 협력 파트너와의 협력 강화를 환영한다고 말했습니다. 스티브 여사는 또한 AI 안전 원칙을 실질적인 보장 조치로 전환하여 글로벌 거버넌스의 단편화에 대응하기 위해 협력을 강화할 것을 촉구했습니다. 그녀는 도전이 투명성과 공정성 같은 개념을 실제 조치로 전환하는 것이며, 이는 서로 다른 규제 환경에 걸쳐 보편적으로 적용할 수 있는 표준화된 평가 방법이 필요하다고 지적했습니다. 우리는 모든 국가가 대형 인공지능 연구 생태계뿐만 아니라 기술 증거에 대한 논의에 의미 있게 참여할 수 있도록 하는 역량 구축이 필요합니다.

나는 모든 이해관계자가 과학적 입력을 정책 유연성의 제한이 아니라 더욱 지속적이고 효과적인 거버넌스의 기초로 간주할 것을 권장합니다. 이러한 거버넌스는 공중 신뢰를 유지할 수 있습니다. 디지털개발정보부 장관은 또한 각국이 공동으로 노력하여 인공지능을 활용해 위험을 감소시키고 안전성을 향상시켜야 한다고 강조했습니다. 그녀는 이달 초 발표된 국제 인공지능 안전 보고서에 대한 패널 토론에서 이러한 견해를 표현했습니다. 보고서는 범용 인공지능에 초점을 맞추고 있으며, 이는 광범위한 작업을 수행할 수 있는 모델과 시스템입니다. 이러한 작업에는 코드 작성, 데이터 분석, 이미지 생성, 복잡한 질문에 대한 답변이 포함됩니다. 이러한 시스템 중 가장 유능한 것들은 인공지능 발전의 최전선에 있습니다. 보고서는 또한 악의적 사용, 사기, 사이버 공격을 포함한 위험들을 나열했습니다.

이들은 또한 시스템이 정보를 조작하거나, 오류 있는 출력을 생성하거나, 신뢰할 수 없게 행동하는 것 같은 시스템 고장을 나타냅니다. 또 다른 시스템적 위험은 시장 혼란을 야기할 수 있으며, 사람들이 현명한 선택을 할 수 있는 능력에 영향을 미친다는 것입니다. 보고서는 또한 이러한 위험을 관리할 수 있는 단일 해결책이 없다고 지적했습니다. 보고서는 위협 모델링, 성능 테스트, 사건 보고를 포함한 다중 보호 조치가 필요하다고 명시합니다. 보고서는 또한 거버넌스의 결함을 지적했으며, 빠른 발전과 제한된 투명성이 규제를 어렵게 만들었습니다. 궁극적으로, 최종 사용자가 적절한 테스트가 수행되었는지에 대해 너무 걱정할 필요 없이 안전 보장을 받을 수 있는 단계에 도달하기 위해 노력해야 합니다. 우리는 아직 그 단계에 도달하지 못했습니다. 하지만 나는 우리가 로드맵을 제시하는 방법을 찾아야 한다고 생각합니다. 여사,

Tio는 점점 분열되고 있는 글로벌 기술 환경에서 인공지능에 대한 싱가포르의 대응 전략은 신뢰할 수 있는 노드로 남아있는 것이라고 말했습니다. 이는 싱가포르가 첨단 기술과의 연결을 유지하면서도 기술이 남용되지 않도록 하고 오용 위험을 최소화한다는 의미입니다. 그녀는 기술 디커플링 위험이 점점 증가하고 있음을 지적했으며, 싱가포르는 일관되고 원칙적인 행동을 통해 신뢰성을 유지한다고 말했습니다. 하지만 그녀는 규제만으로는 인공지능이 야기하는 더욱 광범위한 사회적 압력에 대응할 수 없다고 경고했습니다. 그녀는 다음과 같이 말했습니다: 「나는 때때로 사람들이 어떤 방식으로든 인공지능을 규제하여 발전 속도를 늦추고 모든 위험을 방지하려는 경향이 있다고 생각합니다. 나는 인공지능의 안전성이 보호 조치를 갖추도록 보장하는 것의 필요성을 결코 과소평가하지 않습니다.」

나는 다만 이러한 것들이 정말로 중요하지만, 인공지능 규제가 악화될 수 있는 사회적 불평등 같은 다른 중요한 문제들을 해결할 수 있기를 지나치게 기대하는 것은 비현실적이라고 생각합니다. 반대로, 사회는 그녀가 언급한 사회적 연대를 강화할 필요가 있으며, 여기에는 직업 전환 지원 및 인공지능 확산 과정에서 신뢰를 유지하기 위해 주택, 의료, 교육에 대한 접근 기회 제공이 포함됩니다.