AI에 관한 몇 가지 질문과 답변

어제 NUS 신 글로벌 기업가 싱가포르 포럼에 참석했는데, 세 번째 원탁 토론에서 주최자가 몇 가지 질문을 던졌고, 제 생각을 기록해 둡니다.

Q1: 기업은 어떻게 모델을 선택할 것인가? 오픈 소스 vs 폐쇄 소스? 범용 vs 산업별 모델?

기업은 어떤 원칙에 따라 선택을 해야 합니까?

한 가지 원칙, 두 가지 예외.

원칙: 기본적으로 가장 똑똑한 모델을 사용하세요. 가장 똑똑한 모델로 규칙을 설계하고, 샘플을 생성하며, 산출물을 점검합니다. 똑똑한 모델이 매니저 역할, 소형 모델이 생산 라인 작업자 역할입니다.

• 예외 1: 데이터가 나갈 수 없음(규정 준수, 보안) → 자체 배포 오픈 소스. 예시: 재무 데이터는 대형 모델에 연결하지 않고, 재무 사무실에 몇 개의 카드를 놓고 적절한 오픈 소스 모델을 실행합니다.
• 예외 2: 단위 경제 계산이 맞지 않음(대량, 반복, 단순) → 소형 모델. 예시: 콘텐츠 분류 태그 지정, 매일 대량 처리, 소형 모델을 사용해야 비용 효율성이 나옵니다.

추가로 특정 모델에 종속되지 않도록 하고 자체 라우팅 레이어를 구축하세요.

Q2: 모델 능력이 점점 동질화될 때, 차세대 회사의 핵심 경쟁력은 무엇입니까?

만약 하나만 선택할 수 있다면 어떤 것을 선택하시겠습니까? Data (데이터), Workflow (워크플로우), Ecosystem (생태계), Brand & Trust (브랜드와 신뢰), Distribution (유통), Judgement (창업팀 판단력)?

저는 Data를 선택합니다. 하지만 제가 말하는 Data는 많은 사람들이 말하는 것과 다를 수 있습니다.

공개 데이터 모델은 모두 학습되었고, 정적 데이터 세트는 경쟁 우위를 구성할 수 없습니다. 대부분의 회사는 「독자적 데이터 세트」라는 경쟁 우위를 갖추지 못했습니다. 제가 Data를 선택한 이유는 대부분의 회사 내 데이터가 「아직 전자화되지 않은」 단계이거나 「이미 전자화되었지만 인간이 보기 위한」 단계에 있을 수 있기 때문입니다. 실제로는 AI가 비즈니스와 워크플로우에 접근할 방법이 없습니다. 물론 먼저 데이터부터 시작해야 합니다.

데이터부터 시작하는 것에는 또 다른 의미가 있습니다. 단순히 「AI가 데이터를 보도록」하는 것만으로는 충분하지 않습니다. 권한을 갖춰야 하고, A2A——AI Agent들이 상호 대화할 때 민감 정보가 유출되지 않아야 합니다. 데이터 작업을 제대로 해야만 엔터프라이즈 컨텍스트를 안전하게 AI에 넘길 수 있습니다.

인간 조직은 구조로 권한을 관리하며, 각 개인은 자신의 부분만 봅니다. 회사 전체 컨텍스트를 가진 agent는 보안 악몽입니다. 한 번의 prompt injection이 전체 유출을 초래합니다.

Q3: AI 시대에 CEO의 가장 중요한 능력은 어떻게 변할 것입니까?

CEO는 단순히 위임만 할 수는 없습니다. 실제로 자신이 AI 능력을 직접 체감해야 합니다. 위임은 안정적인 기술에 적합하지만, AI 능력의 경계는 매달 변합니다. 위임의 피드백 루프는 너무 느립니다.

직접 체감하는 가장 간단하고 직접적인 방법은 이렇습니다. 가장 똑똑한 모델의 200달러 계정을 구입하고, 이를 사용해 가능한 한 많은 비즈니스 문제를 해결하며, 매달 그 계정의 예산을 모두 사용하세요.

AI는 역사상 CEO에게 가장 친화적인 기술 혁명입니다. AI의 인터페이스는 자연언어이며, CEO들의 질문 능력과 검증 판단력을 충분히 발휘할 수 있습니다.

FDE라는 용어가 최근 많이 사용되고 있는데, 「AI 실행 담당자」라는 더 실질적인 번역이 있습니다. 저는 외부 컨설턴트 형태의 FDE는 별로 낙관하지 않지만, CEO가 기업의 진정한 「AI 실행 담당자」가 될 수 있다고 생각합니다. 비즈니스를 이해하고, 판단력이 있으며, 전사적 정보를 가지고 있고, 자원을 배분할 수 있기 때문입니다.

Q4: 진정한 AI Native Company란 무엇입니까? 미래 기업은 무엇에 따라 조직되어야 합니까?

먼저 컨텍스트(context)의 진화 역사를 살펴봅시다——이 관점에서 저는 데이터 중심 조직이라고 생각합니다.

• Chatbot 시대에는 컨텍스트를 사람이 수동으로 첨부했습니다.
• Claude Code / Cowork 시대에는 컨텍스트가 파일 시스템이었습니다.
• 엔터프라이즈 시대의 컨텍스트는 개인을 초월하고, 부서를 초월하며, 권한을 포함해야 합니다——현재 베스트 프랙티스가 없습니다.

먼저 거대한 원칙은 논하지 말고, 더 많은 업무가 AI와 관계를 맺도록 합시다. AI는 어떤 한 사람이나 어떤 한 부서의 일이 아니라, 모두의 일입니다.

구현의 핵심은 업무 증량을 이루는 것이지, 비용 절감이 아닙니다. 현재 많은 기업들이 AI를 핑계로 인원을 감축하는 모습을 봅니다. 이는 잘못된 것입니다. 효율 개선의 올바른 지표는 얼마나 많은 인원을 줄였는가가 아니라, 같은 인원이 이전에 감히 하지 못하던 일을 얼마나 많이 했는지, 그리고 업무와 이익이 얼마나 증가했는지입니다.

따라서 어떤 회사가 AI Native인지를 판단하려면:

• 데이터의 위치 — 사람의 머릿속에 있는지, 각 업무 시스템에 분산되어 있는지, 아니면 Agent가 읽을 수 있는 장소에 있는지
• 사람과 Agent의 업무 분담 인터페이스
• AI가 업무 증량에서 차지하는 비중