AI Verify Foundation

AI Verify는 두 부분으로 구성됩니다:

• AI Verify 테스트 프레임워크: 오픈소스 도구 모음(GitHub), 기업이 11개 차원에서 AI 시스템의 성능을 자체 평가할 수 있도록 합니다(투명성, 해석 가능성, 재현성, 보안, 개인정보보호, 견고성, 공정성, 책임성, 인간의 자율성, 복지, 사회적 이익)
• AI Verify Foundation: 거버넌스 도구 진화, 생태계 확장, 표준 제정을 담당하는 비영리 조직

기술적으로, AI Verify 프레임워크에는:

• 테스트 라이브러리: 자동화 테스트 스위트(성능, 공정성, 견고성 등)
• 프로세스 체크리스트: 수동 평가의 표준화된 설문
• 보고서 생성기: 표준화된 준수 보고서 출력

Foundation은 100+ 글로벌 회원을 보유하고 있으며, IBM, Microsoft, Google, Meta, Salesforce 등 대형 기업뿐만 아니라 Singtel, DBS, UOB, Standard Chartered 등 현지 기업도 포함됩니다.

AI Verify의 핵심 혁신은 AI 거버넌스를 「원칙」에서 「실행 가능한 테스트」로 변환하는 것입니다.

업계의 이전 문제점: 모두가 「책임감 있는 AI」, 「공정성, 투명성, 해석 가능성」이 필요하다고 말했지만, 자신의 시스템에서 이러한 추상적 원칙을 정확히 어떻게 테스트해야 하는지 말해줄 사람이 아무도 없었습니다. AI Verify는 처음으로 이러한 원칙을 구체적으로 변환했습니다:

• 11개 평가 차원
• 각 차원은 여러 자동 테스트 + 수동 검사 항목에 해당
• 테스트 결과는 표준화된 보고서 생성

이러한 접근 방식은 NIST AI Risk Management Framework, ISO/IEC 42001, EU AI Act의 준수 도구에 의해 반복적으로 참고되었습니다. 이것은 SOTA 기술 연구가 아니라 거버넌스 도구의 「사실상의 표준」입니다——이러한 「표준 경쟁」의 승리는 종종 기술적 승리보다 더 오래 지속됩니다.

2024년에는 생성형 AI(Generative AI Verify)로 확장되었으며, LLM 특유의 위험(환각, 탈옥, 저작권)에 대한 테스트 모듈을 추가했습니다.

AI Verify Foundation은 싱가포르 AI 전략의 가장 똑똑한 한 수입니다.

「7개의 전달 레버」에서:

• 레버 4(거버넌스): 거버넌스 프레임워크를 상용화 가능한 도구로 변환
• 레버 6(외교): Foundation 형태를 통해 「싱가포르 거버넌스 표준」을 국제화, 탈정치화

관점: 싱가포르는 AI Verify로 다른 국가들이 하지 않은 일을 했습니다——「국가 거버넌스 표준」을 「글로벌 오픈소스 도구」로 변환했습니다. EU AI Act는 법이므로 EU 관할권 밖에서는 효력이 없습니다; NIST AI RMF는 미국 공식 표준이므로 국제 수용도가 지정학적 영향을 받습니다; 하지만 AI Verify는 Apache 라이선스의 오픈소스 프로젝트이므로 누구나 사용할 수 있으며, 누구도 「싱가포르의 규제를 받는다」고 느끼지 않을 것입니다.

이런 「표준 외교」의 방식은 소국만이 할 수 있습니다——대국이 표준을 내놓으면 견제를 받지만, 소국이 표준을 내놓으면 오히려 중립적입니다. AI Verify는 싱가포르를 AI 거버넌스 이 분야에서 「중립 플랫폼」의 위치를 차지하게 했습니다.

관찰 가능한 병목: Foundation의 자금 지속 가능성(현재 주로 IMDA와 기업 회원비에 의존), 생태계 견인력(회원 명단은 화려하지만 깊이 있는 참여는 많지 않음), 기술 진화 속도(오픈소스 거버넌스 도구가 GenAI의 빠른 발전에 어떻게 따라가야 할지).