Vivian Balakrishnan, 유엔 총회에서 AI 안보 논의

자막 언어: ko · 수집 날짜: 2026-09-28

당신은 핵 버튼을 인간의 손에 두기를 원합니까, 아니면 인공지능의 손에 두기를 원합니까? 이 질문을 생각해 보십시오. 인공지능은 비상한 잠재력을 제공하지만, 그 능력의 발전 속도는 우리가 그 위험을 인식하는 속도를 훨씬 초월합니다. 하지만 여러분, 악마는 이미 병에서 나왔습니다. 지금 멈춤을 요구하기에는 너무 늦었습니다. 특히 초강대국들 간의 경쟁과 첨단 모델 회사를 이미 보유한 거대한 경제적 인센티브를 고려할 때 더욱 그렇습니다. 하지만 고성능 자동차 운전에 관한 비유를 들어보겠습니다. 고성능 자동차를 빠르고 안전하게 운전하려면 강력한 엔진이 필요합니다. 그러나 마찬가지로 좋은 브레이크도 필요합니다. 특히 자신의 공동체를 넘어서거나 국경을 넘을 때는 효과적인 공동 규칙, 신호등, 보험, 행동 규범 및 안전띠가 필요합니다. 엔진은 혁신입니다.

하지만 다시 말해서, 모든 강력한 엔진은 좋은 브레이크가 필요합니다——보장 조치입니다. 인공지능 능력의 진전에 따라 우리의 보장 조치도 발맞춰야 합니다. 우리는 배포 전에 엄격한 테스트와 평가를 수행해야 합니다. 우리는 자동화 시스템의 기능에 명확한 제약을 설정하고, 그 행동이 우리의 의도와 부합하지 않을 때 개입 메커니즘을 구축해야 합니다. 인공지능의 위험은 국경으로 국한되지 않을 것이므로, 우리는 공동의 글로벌 이해를 형성하고 이 도전에 집단적으로 어떻게 대응할 것인지를 명시하기 위한 규칙을 제정해야 합니다. 마치 우리가 뉴욕, 베이징, 모스크바, 싱가포르 어디에 있든 교통신호등을 같은 방식으로 이해하는 것처럼 말입니다. 가장 중요한 점은 인류가 궁극적으로 통제권과 책임을 유지해야 한다는 것입니다. 제가 극단적인 사고 실험 하나를 들어보겠습니다.

당신은 핵 버튼을 인간의 손에 두기를 원합니까, 아니면 인공지능의 손에 두기를 원합니까? 이 질문을 생각해 보십시오. 오늘날 부족한 자원은 법적 프레임워크나 기술이 아닙니다. 그것은 신뢰입니다. 신뢰는 위험이 공개되고, 테스트가 포괄적이고 신뢰할 수 있으며, 협력이 포용적이고 일방적 이점을 얻기 위해 사용되지 않는다는 것을 의미합니다.