# IMDA 공식 소개: AI Verify 거버넌스 테스트 프레임워크

- 날짜: 2023-01-15
- 관련자: IMDA Singapore (싱가포르 정보통신미디어발전청) · IMDA Singapore
- 출처: https://www.youtube.com/watch?v=8NfNN1heFQY
- sgai: https://sgai.md/ko/videos/v035/
- 라이선스: sgai가 작성한 내용(요약·번역·분석)은 CC BY 4.0(출처 표기 및 sgai.md 링크 조건). 원문 전문(의회 기록·연설·자막·정책 원문)은 원권리자에게 귀속되며 참고용으로만 게재. 조건: https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 왜 중요한가

IMDA가 2023년 전 지구적 최초의 AI Verify 테스트 도구 모음을 출시하여, 자발적 자기평가로 강제 입법을 대체하며 국제 거버넌스 표준 제정권을 선점했습니다.

## 요약

IMDA 공식 영상은 글로벌 최초의 AI 거버넌스 테스트 프레임워크 및 도구 AI Verify의 기능과 응용을 소개합니다.

## 핵심 포인트

- AI Verify는 싱가포르가 추진한 국제 시범 AI 거버넌스 테스트 프레임워크 및 도구 모음입니다.
- 이 도구 모음은 공정성, 강건성, 설명 가능성의 세 가지 원칙을 테스트하며, 책임성, 안전성 등 프로세스 점검을 수행합니다.
- AI Verify는 기업의 로컬 환경에서 실행되어 지식재산권과 데이터 기밀성을 보호합니다.

## 전문

© IMDA Singapore — 참고용으로만 게재.

[음악] 스마트폰의 가상 비서부터 선호하는 온라인 쇼핑 추천, 그리고 자율주행 차량에 이르기까지, 인공지능은 분명히 우리 생활의 여러 방면에 침투해 있습니다. 점점 더 많은 기업이 제품과 서비스에 인공지능을 활용함에 따라, 인공지능에 대한 신뢰를 구축하는 것이 자신감을 확보하고 업무 변혁의 기회를 개방하기 위한 핵심입니다. 기업과 이해관계자 간 신뢰를 구축하기 위해 싱가포르는 AI 검증 및 AI 거버넌스 테스트 프레임워크와 도구 모음을 출시했습니다. 객관적인 기술 테스트와 프로세스 검사를 통해, AI 검증은 귀사의 인공지능 애플리케이션이 귀사가 주장한 성능 기준을 충족함을 증명하는 데 도움이 될 수 있습니다. MDA는 이 국제 파일럿 프로젝트에 관심 있는 기업을 초청하여 자신의 AI 모델을 테스트하고 피드백을 공유하도록 합니다. 현재 최소 기능 제품으로 출시된 AI 검증은 두 부분으로 구성되어 있습니다: 거버넌스 테스트 프레임워크와 소프트웨어 도구 모음입니다. 해당 프레임워크는 국제적으로 인정된 AI 거버넌스 원칙과 일치합니다. AI 검증은 윤리 표준을 정의하지 않으며, 오히려 AI 개발자, 사용자 및 소유자가 이러한 원칙에 따라 자신의 AI 시스템에 대한 주장을 검증할 수 있도록 허용합니다. [음악] 인터페이스는 테스트 과정을 단계별로 안내하며, 조작이 간단하고 기술 사용자와 비기술 사용자 모두에게 적합합니다. [음악] 테스트는 공정성, 견고성, 해석 가능성의 세 가지 원칙을 포함합니다. 안내식 워크플로우는 테스트 시나리오를 구성하도록 도움을 주며, 사용 사례와 가장 관련성 있는 결과를 선택하는 것을 지원합니다. 공정성을 예로 들면, 테스트는 AI 모델이 성별이나 인종 등 인구 통계 집단 간에 다른 결과를 생성하는지 평가하는 데 도움이 될 것입니다. 기술 테스트 외에도, 책임성, 안전, 인간 능동성 및 감시와 같은 모든 거버넌스 원칙을 자가 평가하기 위한 프로세스 체크리스트가 있습니다. 도구 모음은 주요 결과 요약, 기술 테스트 결과 및 프로세스 검사 분석을 제공합니다. 귀사의 지적재산권과 데이터 기밀성을 보호하기 위해, AI 검증은 귀사의 로컬 환경에서 실행됩니다. AI 검증은 어떻게 작동합니까? AI 검증은 매우 사용하기 쉽습니다. 먼저 모델 상세 정보와 매개변수를 입력한 다음, 도구 모음이 귀사의 AI 모델에 연결하는 방식을 구성하고 테스트 데이터세트를 업로드하며, 이를 통해 특성 목록을 식별한 후 테스트를 실행할 수 있습니다. [음악] 해석 가능성을 예로 들면, 특정 AI 모델을 선택할 때의 고려 사항(예: 근거, 위험 평가 및 트레이드오프)이 기록되었는지 여부를 표시할 수 있습니다. 또한 피드백을 제공하여 프레임워크가 계속해서 업계 요구사항을 충족하도록 할 수 있습니다. 기술 테스트와 프로세스 검사를 완료한 후, 결과를 보고 보고서를 다운로드할 수 있습니다. 파일럿 프로젝트에 참여하는 기업은 여러 이점을 얻게 됩니다: 귀사는 국제 표준과 맞춘 AI 거버넌스 테스트 프레임워크와 도구 모음을 포괄적으로 먼저 사용하게 될 것입니다; 도구 모음은 귀사가 AI 모델을 자가 테스트하고 보고서를 생성하여 이해관계자와의 신뢰 구축을 지원하는 데 도움이 될 것입니다; 귀사는 또한 다른 참여 기업과 네트워킹 및 협력의 기회를 갖게 될 것입니다. MDA에 귀사의 피드백과 보고서를 공유하면 AI 검증을 개선하고 국제 AI 거버넌스 표준의 발전을 추진하는 데 도움이 될 것입니다. 지금 싱가포르 AI 검증 파일럿에 참여하여 신뢰할 수 있는 인공지능을 구축하십시오. [음악] 더 많은 정보를 원하시면 go를 방문하십시오.

gov.sg AI 검증