# 싱가포르가 AI Verify 오픈소스 테스트 프레임워크를 출시했습니다.

- 날짜: 2023-06-07
- 관련자: Josephine Teo (싱가포르 통신 및 뉴스부 장관) · CNA
- 출처: https://www.youtube.com/watch?v=Cxm9i1Sswes
- sgai: https://sgai.md/ko/videos/v032/
- 라이선스: sgai가 작성한 내용(요약·번역·분석)은 CC BY 4.0(출처 표기 및 sgai.md 링크 조건). 원문 전문(의회 기록·연설·자막·정책 원문)은 원권리자에게 귀속되며 참고용으로만 게재. 조건: https://github.com/meltflake/sgai/blob/main/DATA-LICENSE.md

## 왜 중요한가

싱가포르가 IBM, 마이크로소프트, 구글을 AI Verify Foundation에 참여시켜, 강제 입법이 아닌 기업의 자발적 자가 검증에 베팅하며 전 지구적 AI 거버넌스 표준 담론권을 선점했습니다.

## 요약

싱가포르가 아시아 기술 회의에서 AI Verify Foundation을 출시하여 전 세계 최초의 AI 거버넌스 테스트 오픈소스 커뮤니티를 구축했습니다.

## 핵심 포인트

- AI Verify 재단은 IBM, Microsoft, Google 등의 회사들과 함께 오픈소스 AI 테스트 도구를 개발합니다.
- 도구 모음은 오픈소스가 될 것이며, 투명성, 안전성 및 책임성 등의 분야를 다루며, 기업이 AI 모델을 자체 테스트합니다.
- Salesforce의 Kathy Baxter는 윤리가 데이터 수집 단계에 내장되어야 한다고 강조하며, 가장 큰 장애물은 변화 관리와 인재입니다.

## 전문

© CNA — 참고용으로만 게재.

싱가포르는 기술 거대 기업들의 집단적 힘을 활용하여 기업과 규제 기관이 인공지능을 더욱 안전하게 만들 수 있도록 돕고 있습니다. 싱가포르는 IBM, Microsoft, Google 등의 회사가 모여 인공지능 테스트 도구를 공동으로 개발하고 국제 인공지능 표준 제정을 돕는 네트워크를 출범했습니다. 이 네트워크는 Asia Tech X 싱가포르 서밋에서 공개되었으며, AI Verify Foundation이라 불리며, 대형 기술 회사와 다양한 업종의 기업들을 아우르고 있습니다. 현재, 그들은 인공지능 테스트의 오픈소스 커뮤니티를 추동하는 것을 도울 것이며, 싱가포르에서 만들어진 인공지능 테스트 도구 패키지인 AI Verify에 기여할 것입니다. 이는 기술의 광범위한 확산과 빠른 발전에 대한 우려가 갈수록 커지고 있는 와중에 이루어지는 조치입니다. 우리는 책임 있는 방식으로 인공지능을 사용하고 선한 목적으로 활용해야 한다고 믿으며, 동시에 사회를 가장 심각한 인공지능 위험으로부터 보호하기 위해 노력할 것입니다. 민간 부문과 연구 생태계는 풍부한 전문 지식을 보유하고 있으며, 인공지능이 공중 이익을 위해 봉사하도록 추동하기 위해 의미 있게 참여하도록 격려되어야 합니다. 한 관계자는 AI Verify 테스트 도구 패키지를 오픈소스로 공개하면, 시스템 개발자, 솔루션 제공자 및 연구 커뮤니티가 이를 사용하고 투명성, 보안, 책임성 등의 분야에 기여할 수 있게 될 것이라고 덧붙였습니다. 이는 기업이 자신이 사용하는 인공지능을 이해하고, 자신의 필요를 더 잘 충족하도록 조정하며, 새롭고 더 나은 테스트 도구를 공동으로 개발하는 것을 돕는 좋은 방법으로 간주됩니다. 우리의 기자 Heidi Ong이 Salesforce 윤리 인공지능 실무의 수석 아키텍처인 Casey Baxter를 인터뷰했으며, 그녀는 인공지능을 구축할 때 윤리를 기초로 삼는 것의 중요성을 강조했습니다. 당신은 데이터 수집에 대해 언급했는데, 이러한 윤리적 실무를 인공지능 프로세스에 진정으로 통합하려면 실제로 이러한 유형의 데이터가 필요합니다. 그렇다면 윤리적 데이터 수집의 일부 지표는 무엇입니까? 조직이 이러한 데이터를 수집할 때 어떻게 윤리적 실무를 보장할 수 있습니까? 정확히 그렇습니다. 만약 윤리를 마음에 두지 않는다면, 윤리가 당신이 하고 있는 일과 인공지능을 구축하는 기초가 아니라면, 마지막 단계에 윤리를 추가하고 실질적인 영향을 만들어내기 어렵습니다. 먼저, 가장 중요한 것은 「우리가 할 수 있는가」를 묻는 것뿐만 아니라 「우리가 해야 하는가」를 묻는 것입니다. 이것이 인공지능이 해결해야 할 문제인가요? 그 다음 모델을 구동하는 데 사용되는 데이터 세트를 고려해야 하는데, 인공지능이 영향을 미칠 모든 사람을 대표하는가요? 이 데이터 세트에는 어떤 잠재적 해악성과 편견이 존재합니까? 당신은 이를 측정하고, 찾아내고, 그 다음 완화하기 위해 노력해야 합니다. 모델을 구축할 때, 영향을 받을 사람들로부터 피드백을 얻어야 하며, 과소 대표된 커뮤니티와 연락하기 위해 특별한 노력을 기울여야 하고, 그들이 참여하도록 보장해야 합니다. 그렇게 하면 당신이 예측할 수 없는 피해를 식별할 수 있습니다. 우리는 현재 이 분야에서 어느 단계에 있습니까? 지난 10년 이상, 특히 여성과 유색인종 여성들이 이루어낸 많은 놀라운 작업이 있으며, 이는 매우 고무적인 분야입니다. 이미 많은 매우 좋은 작업이 완료되었으며, NIST AI 위험 관리 프레임워크와 같은 많은 리소스와 표준이 있고, 물론 싱가포르의 AI Verify 도구 패키지도 있으며, 오늘 AI Verify Foundation도 발표되었습니다. 정말로 접근 가능한 책임 있는 인공지능의 실현을 추동하고 있는 놀라운 일이 있습니다. 책임 있는 인공지능에 대해 말하면, 투명성을 보장할 책임이 이러한 인공지능 시스템을 만드는 조직에 있습니까? 정부가 준수를 보장하기 위해 어떤 규정을 제정해야 합니까? 조사에 따르면 사람들은 인공지능, 특히 더욱 강력한 인공지능에 대해 높은 신뢰도를 갖지 않고 있습니다. 따라서 조직이 투명성을 보장하는 것이 그들의 최선의 이익에 부합합니다. 왜냐하면 투명성은 신뢰를 가져오기 때문입니다. 규정이 이를 요구하지 않더라도, 조직이 인공지능의 생성 및 사용 방식을 투명하게 보여주는 것이 정말로 그들의 최선의 이익에 부합합니다. 회사는 어떻게 자신의 인공지능 시스템을 투명하게 보여줍니까? 이 도구들을 사용하고자 하는 소비자들에게는 이것이 어떻게 작동합니까? 이것은 매우 훌륭한 질문입니다. 왜냐하면 투명성은 인공지능을 구매하는 회사나 감사자뿐만 아니라 소비자도 포함하기 때문입니다. 예를 들어, 당신이 뉴욕에서 일자리 면접을 보는 경우, 채용 과정에서 인공지능을 사용했다고 알려야 합니다. 그렇다면, 소비자에게 인공지능의 사용을 어떻게 전달합니까? 소비자에게 모델의 기능을 평이한 언어로 설명해야 하며, 동시에 감사자 또는 구매 의사결정자에게는 보다 기술적인 세부 사항을 제공해야 합니다. 따라서 회사가 자신의 인공지능 시스템의 작동을 정말로 투명하게 보여주도록 장려하면서, 동시에 윤리성을 가지도록 해야 합니다. 그렇다면, 조직이 이러한 윤리적 실무를 프로세스에 통합할 때 직면하는 더 큰 도전은 무엇입니까? 먼저, 안타깝게도 많은 회사들에게는 이것이 변화 관리의 문제이자 인센티브 구조를 변경하는 문제입니다. 성공을 제품이나 기능으로 얼마나 많은 수익을 창출하는지에 따라서만 측정하는 것이 아니라, 그 영향을 평가하고 해를 끼치는 것이 아닌 더 많은 이익을 가져오도록 보장해야 합니다. 둘째, 올바른 기술을 갖춘 인재를 찾는 것입니다. 많은 인공지능 개발자가 있지만, 모두가 책임 있게 인공지능을 구축하는 배경을 가지고 있지는 않습니다. 현재 인공지능 윤리학자가 많지 않지만, 향후 몇 년 동안 관련 프로젝트를 졸업하는 사람들이 많을 것으로 예상합니다. 왜냐하면 젊은 세대가 사회에 봉사하는 기술을 창조하는 데 열정과 활력으로 가득 차 있기 때문입니다.