정책 / 프로젝트 파일
CSA AI 시스템 안전 지침
AI 시스템 전체 생명 주기 보안 모범 사례 지침입니다.
왜 중요한가
CSA가 8개월 이내에 Agentic AI 안전 가이드를 정본 확정했으며, 소프트 로 선행으로 자율 agent 위험 거버넌스의 싱가포르 샘플을 확립했습니다.
- 분류
- Sector Regulation
- 발표 / 업데이트
- 2024-10
- 발표 기관
- 사이버보안청(CSA)
상세 노트
CSA는 2024년 10월 AI 시스템 안전 지침 및 관련 실무 매뉴얼을 발표했으며, AI 보안 분야의 거버넌스 공백을 메웠습니다. 지침은 AI 시스템의 전체 생명 주기를 포함합니다: 계획 및 설계 단계의 위협 모델링, 개발 단계의 데이터 및 모델 보안, 배포 단계의 보안 테스트, 운영 단계의 모니터링 및 사건 대응. 적대적 공격 방어, 데이터 중독 방지, 모델 도용 방지, 공급망 보안 등 AI 특화 위험을 중점적으로 관심 있게 봅니다.
부속 문서인 Securing Agentic AI 보충 문서는 2025년 10월 22일 초안이 공개 협의용으로 발표되었고(2025년 12월 31일 마감), 최종본은 2026년 6월 17일 공개되어 이 지침을 Agentic AI 시나리오까지 확장했습니다. agent 역량에 따라 위험을 식별·평가하고, 워크플로를 매핑해 악용 가능한 취약 지점을 찾아내며, 자율성 수준별로 개발 생명주기 각 단계의 통제 방안을 제시합니다.