AI 안전과 책임 있는 사용

자막 언어: ko · 수집 날짜: 2026-10-09

인공지능이 우리 개인의 생활과 업무의 여러 부분에서 흔한 요소가 되고 있습니다. 하지만 안전 위험에 대한 우려가 높아지면서, 우리는 어떻게 인공지능을 이해하고, 만들고, 협력할 수 있을까요? CNA의 Rani Zami Zamani가 싱가포르의 AI Con에 방문했습니다. >> 집에 있는 인공지능, 학습과 업무를 돕는 인공지능, 그리고 여가를 제공하는 인공지능이 있습니다. 우리는 물리 인공지능과 생성형 인공지능의 발전이 과거 어느 때보다도 빠른 변화의 시대에 있습니다. AICON 2026은 개발자, 산업 지도자, 정책 입안자, 학계 인사를 한자리에 모아 인공지능을 선한 목적으로 어떻게 개발할지 함께 논의합니다. >> 창의성 관점에서 보면, 우리는 이렇게 혁신적인 기술을 본 적이 없습니다. 인공지능이 일자리를 빼앗을 수도 있지만, 우리의 일이나 사명은 일자리 그 자체를 보호하는 것이 아니라 근로자를 보호하는 것입니다.

따라서 우리가 하나의 커뮤니티로 단결하는 한, 음, 아시다시피, 이것이 우리가 AI Con을 하나의 이니셔티브로 활용하고자 하는 이유입니다. 커뮤니티를 진정으로 결집하고 모아 기술 변화에 대한 두려움을 극복하기 위해 Vibe 코딩, 생성형 인공지능을 이용한 영화 제작, 스토리텔링, 자신의 창의적 에이전트를 구축하는 방법을 배우는 워크숍이 있습니다. 이것들은 AICON이 인공지능 교육과 도입 사이의 간격을 메우는 방식들입니다. 동시에, 그것은 책임 있는 인공지능에 대한 대화를 추진하고, 사회적 이익을 제공하면서 동시에 위험과 피해를 최소화할 수 있는 시스템을 개발하고 배치하려고 시도합니다. >> 모든 강력한 기술과 마찬가지로, 따라서 거대한 책임이 따릅니다.

대형 기술 기업의 지도자들이 인공지능의 증가하는 위험에 대해 경고하고 법규 제정과 전 세계적 조율을 촉구했습니다. 이는 이 기술이 고용, 안보, 복지에 미칠 수 있는 피해를 대비하기 위한 것입니다.

최근 인공지능 분야의 발전과 함께 인공지능 안전이 지속적인 우려 사항이었습니다. 하지만 많은 사람들이 이를 충분히 이해하지 못하고 있습니다. OpenAI의 Hugging Face 사건으로 인해 사람들이 주목하기 시작했습니다. 지도자, 정부 지도자, 산업 지도자들은 법규와 정책 측면에서의 조치 필요성을 표명해야 합니다. 우리의 초점은 국민이 인공지능의 힘을 활용하면서 동시에 자신을 보호하는 방법을 알 수 있도록 하는 것입니다. >> 의무화가 필요하다고 말하는 사람들도 있을 것입니다. 우리는 모든 국가가 참여하도록 해야 합니다. 최소한 표준상 합의에 도달해야 합니다. 어떤 종류의 공동 노력이나 신호 체계에 대해 논의하고 합의해야 합니다. 이렇게 하면 인공지능이 한쪽에서 악의적인 행동을 했을 때 다른 국가들이 즉시 이를 알게 될 것입니다.

인공지능의 독특한 점은 기회가 매우 크다는 것입니다. 음, 왜냐하면 거의 모든 다른 조직에서 작동할 수 있고, 발전을 가속화하며 많은 이점을 가져올 수 있기 때문입니다. AICON의 조직자들은 인공지능 문해력과 유창성이 이 기술을 안전하게 사용하도록 보장하는 데 중요한 역할을 한다고 말합니다. 그들은 인공지능의 기회와 위험의 균형을 맞추는 것이 보호장치와 법규에 대한 논의를 행동으로 변환하여 이 기술을 사회의 긍정적인 힘으로 만들 것이라고 희망합니다. Ronnie Samani, CNA 싱가포르.