SEA-LION

SEA-LION 是一个开源大语言模型家族，不是单一模型。它包含多个尺寸（3B、7B/8B、70B）、多个底座（早期自研，v3 起基于 Llama 3 和 Gemma 做继续训练）、多种用途（基础模型、Instruct 微调、RAG 适配版）。

技术栈层面：

• 训练数据：以东南亚 11 种官方语言为核心（英语、中文、马来语、印尼语、泰语、越南语、菲律宾语、泰米尔语、缅甸语、高棉语、老挝语），训练语料约 1 万亿 token，其中东南亚语言占比远高于通用大模型
• 基座选择：v1 自研架构 → v2 基于 Llama 2 → v3 基于 Llama 3 / Gemma 做继续预训练 + 指令微调
• 算力：依赖新加坡国家超算中心（NSCC）与 Google Cloud / AWS 的赞助算力
• 开源协议：MIT / Apache 商业友好协议，允许企业直接商用
• 配套工具：SEA-HELM（评估基准）、SEA-Guard（安全防护）共同构成完整工具链

模型可以在 HuggingFace 上直接下载，也可以通过 sea-lion.ai 的官方 API 调用。它是少数几个由国家级机构出品、却完全开源、且明确鼓励商业使用的大模型。

SEA-LION 在 LLM 生态里有一个非常清晰的位置：「东南亚语言 SOTA 基座」。

它解决的核心技术问题是——通用大模型在东南亚小语种上的表现塌陷。比如 GPT-4 在英语/中文上能打 95 分，但在缅甸语、高棉语、老挝语上经常掉到 30-40 分（在 SEA-HELM 这套基准上能复现）。这背后的根因是训练数据：通用大模型的训练语料里东南亚语言占比通常不到 1%。

SEA-LION 的解法是继续预训练（continued pre-training）：

• 拿 Llama 3 / Gemma 这种已经具备通用能力的强基座
• 用大量东南亚语言语料做继续训练，恢复对小语种的语义保真
• 同时不损伤太多英语能力（这是技术难点）

这条路走通后，SEA-LION 在 SEA-HELM 上的东南亚语言任务超过了同尺寸的 Llama 3、Gemma、Qwen——这是它最有说服力的硬数据。

更宏观看，SEA-LION 也是「开源大模型的区域化适配」这条路径的一个重要案例。它证明了：不是每个国家都需要自己训 GPT-4，但每个语言区都可能需要自己的继续训练版本——这套思路后来被印尼、马来西亚、越南等都开始模仿。

SEA-LION 是新加坡 AI 战略最具象征意义的输出——比任何政策文件都更能说明「新加坡要做什么样的 AI」。

在「七条传导杠杆」里，SEA-LION 同时落在 3 条上：

• 杠杆 5（政府自用）：政府部门基于 SEA-LION 部署本地化 AI 服务，避免把数据交给海外大厂
• 杠杆 6（外交）：SEA-LION 是新加坡在 ASEAN AI 合作、GPAI、Bletchley/Seoul 峰会上的「技术名片」，证明小国家也能产出全球开源模型
• 杠杆 3（产业应用）：开源后，本地企业（特别是金融、政府、医疗这种敏感数据场景）可以直接微调使用，不必受制于海外 API

观点：SEA-LION 的真正价值不在它的技术指标，而在它是一个「主权 AI」的样板项目。它告诉东南亚：「你们也可以有自己的 LLM 基座，不必只用 OpenAI」。这种叙事价值远大于它对任何单个 benchmark 的提升。

但 SEA-LION 也有真实瓶颈：

• 不是从零训练——它依赖 Llama 3 / Gemma 这些 Meta/Google 的开源底座，这意味着如果未来这些底座转闭源，整个项目要重做
• 资源远小于大厂——AISG 的算力预算是大厂的 1/100，迭代速度天然慢
• 商业闭环未跑通——目前主要是政府和开源社区在用，企业端付费场景未规模化

这些瓶颈也正好是 NAIS 2.0 时期需要回答的问题——SEA-LION v4/v5 是不是要走自研基座？算力是不是要绑定一个区域级 GPU 集群？