SEA-Guard

SEA-Guard 包括两个层面：

• 评估模型：检测 LLM 输出在东南亚语境下的安全风险
• 防护策略：在 LLM 推理时实时拦截/重写不安全内容

技术上，它训练了一系列分类器，识别东南亚语境特有的敏感内容：

• 多种族、多宗教语境下的仇恨言论
• 涉及种族骚乱（1969 KL、新加坡政治敏感事件）的历史话题
• 不同国家的政治禁忌（如缅甸军政府话题、泰国王室话题）
• 文化禁忌（饮食、性别、家庭观念等）

这些都是通用 LLM 安全系统（OpenAI Moderation、Llama Guard 等）覆盖不到的——它们的训练数据以英语为主，对东南亚语境理解有限。

SEA-Guard 的存在意义：通用 LLM 安全工具在东南亚语境失效。

这不是 SOTA 模型问题，而是数据和文化问题。OpenAI 的 Moderation 训练数据主要是英语和北美/欧洲语境，对"在马来西亚什么话题敏感"、"在缅甸什么内容会被审查"这种细节没有概念。Llama Guard、ShieldGemma 等开源安全模型也有类似问题。

SEA-Guard 通过本地数据 + 本地标注，把这些"东南亚知识"编码进安全模型。虽然它的能力还远不如成熟商业产品，但它在东南亚语境的相对优势已经能帮助本地企业在合规部署 LLM 时减少风险。

技术挑战：

• 平衡：拦截过严会损伤用户体验，过松会出事故
• 多语言：东南亚 11 种语言每种都需要单独训练数据
• 政治敏感：什么算"敏感"涉及政治判断，AISG 需要在不同国家间寻找平衡

SEA-Guard 是 SEA-LION 商业化必要的拼图——没有安全工具，企业不敢用。

在「七条传导杠杆」里：

• 杠杆 3（产业应用）：让本地企业敢于在生产环境部署 SEA-LION
• 杠杆 5（政府自用）：政府部门 AI 服务必须有安全过滤

观点：SEA-Guard 是 AISG"全栈思维"的体现——不只做模型，还做评估（SEA-HELM）和安全（SEA-Guard），形成"模型 + 评估 + 安全"完整工具链。这是国家级机构相对于初创公司的天然优势：可以做"商业上不性感但生态上必需"的工具。

但 SEA-Guard 的成熟度还不够：目前更像 demo 而非产线工具，准确率、覆盖度、运行效率都需要持续优化。能否在 1-2 年内达到 OpenAI Moderation 级别，是它的关键里程碑。