IMDA 공식 소개: AI Verify 거버넌스 테스트 프레임워크

IMDA가 출시한 AI Verify는 AI 거버넌스 테스트 프레임워크 및 소프트웨어 도구 모음이며, 현재 최소 실행 가능 제품으로서 출시되었습니다. 이는 국제적으로 인정된 AI 거버넌스 원칙과 대조하여 개발자, 사용자, 소유자가 자신의 AI 시스템에 대한 주장을 검증할 수 있게 하며, 새로운 윤리 표준을 정의하지 않습니다.

도구 모음은 안내식 워크플로우를 통해 기술 사용자와 비기술 사용자가 공정성(다양한 인구 집단의 결과 차이 평가), 견고성 및 해석 가능성을 테스트할 수 있도록 돕고, 책임성, 보안, 인간 행위성, 감시 등의 원칙에 대한 프로세스 체크리스트를 제공합니다. 모든 테스트는 엔터프라이즈 로컬 환경에서 실행되며, 지식 재산권과 데이터를 보호합니다.

IMDA는 기업이 국제 시범 사업에 참여하도록 초청하며, AI 거버넌스 국제 표준의 발전을 추진하기 위해 피드백을 제출하도록 하고, 동시에 참여 기관이 AI 모델의 투명성에 관하여 이해관계자들과 신뢰를 구축하도록 돕습니다.

자막 언어: ko · 수집 날짜: 2026-05-02

[음악] 스마트폰의 가상 비서부터 선호하는 온라인 쇼핑 추천, 그리고 자율주행 차량에 이르기까지, 인공지능은 분명히 우리 생활의 여러 방면에 침투해 있습니다. 점점 더 많은 기업이 제품과 서비스에 인공지능을 활용함에 따라, 인공지능에 대한 신뢰를 구축하는 것이 자신감을 확보하고 업무 변혁의 기회를 개방하기 위한 핵심입니다. 기업과 이해관계자 간 신뢰를 구축하기 위해 싱가포르는 AI 검증 및 AI 거버넌스 테스트 프레임워크와 도구 모음을 출시했습니다. 객관적인 기술 테스트와 프로세스 검사를 통해, AI 검증은 귀사의 인공지능 애플리케이션이 귀사가 주장한 성능 기준을 충족함을 증명하는 데 도움이 될 수 있습니다. MDA는 이 국제 파일럿 프로젝트에 관심 있는 기업을 초청하여 자신의 AI 모델을 테스트하고 피드백을 공유하도록 합니다. 현재 최소 기능 제품으로 출시된 AI 검증은 두 부분으로 구성되어 있습니다: 거버넌스 테스트 프레임워크와 소프트웨어 도구 모음입니다. 해당 프레임워크는 국제적으로 인정된 AI 거버넌스 원칙과 일치합니다. AI 검증은 윤리 표준을 정의하지 않으며, 오히려 AI 개발자, 사용자 및 소유자가 이러한 원칙에 따라 자신의 AI 시스템에 대한 주장을 검증할 수 있도록 허용합니다. [음악] 인터페이스는 테스트 과정을 단계별로 안내하며, 조작이 간단하고 기술 사용자와 비기술 사용자 모두에게 적합합니다. [음악] 테스트는 공정성, 견고성, 해석 가능성의 세 가지 원칙을 포함합니다. 안내식 워크플로우는 테스트 시나리오를 구성하도록 도움을 주며, 사용 사례와 가장 관련성 있는 결과를 선택하는 것을 지원합니다. 공정성을 예로 들면, 테스트는 AI 모델이 성별이나 인종 등 인구 통계 집단 간에 다른 결과를 생성하는지 평가하는 데 도움이 될 것입니다. 기술 테스트 외에도, 책임성, 안전, 인간 능동성 및 감시와 같은 모든 거버넌스 원칙을 자가 평가하기 위한 프로세스 체크리스트가 있습니다. 도구 모음은 주요 결과 요약, 기술 테스트 결과 및 프로세스 검사 분석을 제공합니다. 귀사의 지적재산권과 데이터 기밀성을 보호하기 위해, AI 검증은 귀사의 로컬 환경에서 실행됩니다. AI 검증은 어떻게 작동합니까? AI 검증은 매우 사용하기 쉽습니다. 먼저 모델 상세 정보와 매개변수를 입력한 다음, 도구 모음이 귀사의 AI 모델에 연결하는 방식을 구성하고 테스트 데이터세트를 업로드하며, 이를 통해 특성 목록을 식별한 후 테스트를 실행할 수 있습니다. [음악] 해석 가능성을 예로 들면, 특정 AI 모델을 선택할 때의 고려 사항(예: 근거, 위험 평가 및 트레이드오프)이 기록되었는지 여부를 표시할 수 있습니다. 또한 피드백을 제공하여 프레임워크가 계속해서 업계 요구사항을 충족하도록 할 수 있습니다. 기술 테스트와 프로세스 검사를 완료한 후, 결과를 보고 보고서를 다운로드할 수 있습니다. 파일럿 프로젝트에 참여하는 기업은 여러 이점을 얻게 됩니다: 귀사는 국제 표준과 맞춘 AI 거버넌스 테스트 프레임워크와 도구 모음을 포괄적으로 먼저 사용하게 될 것입니다; 도구 모음은 귀사가 AI 모델을 자가 테스트하고 보고서를 생성하여 이해관계자와의 신뢰 구축을 지원하는 데 도움이 될 것입니다; 귀사는 또한 다른 참여 기업과 네트워킹 및 협력의 기회를 갖게 될 것입니다. MDA에 귀사의 피드백과 보고서를 공유하면 AI 검증을 개선하고 국제 AI 거버넌스 표준의 발전을 추진하는 데 도움이 될 것입니다. 지금 싱가포르 AI 검증 파일럿에 참여하여 신뢰할 수 있는 인공지능을 구축하십시오. [음악] 더 많은 정보를 원하시면 go를 방문하십시오.

gov.sg AI 검증