SEA-Guard

SEA-Guard 包括兩個層面：

• 評估模型：檢測 LLM 輸出在東南亞語境下的安全風險
• 防護策略：在 LLM 推理時即時攔截/重寫不安全內容

技術上，它訓練了一系列分類器，識別東南亞語境特有的敏感內容：

• 多種族、多宗教語境下的仇恨言論
• 涉及種族騷亂（1969 KL、新加坡政治敏感事件）的歷史話題
• 不同國家的政治禁忌（如緬甸軍政府話題、泰國王室話題）
• 文化禁忌（飲食、性別、家庭觀念等）

這些都是通用 LLM 安全系統（OpenAI Moderation、Llama Guard 等）覆蓋不到的——它們的訓練資料以英語為主，對東南亞語境理解有限。

SEA-Guard 的存在意義：通用 LLM 安全工具在東南亞語境失效。

這不是 SOTA 模型問題，而是資料和文化問題。OpenAI 的 Moderation 訓練資料主要是英語和北美/歐洲語境，對"在馬來西亞什麼話題敏感"、"在緬甸什麼內容會被審查"這種細節沒有概念。Llama Guard、ShieldGemma 等開源安全模型也有類似問題。

SEA-Guard 通過本地資料 + 本地標註，把這些"東南亞知識"編碼進安全模型。雖然它的能力還遠不如成熟商業產品，但它在東南亞語境的相對優勢已經能幫助本地企業在合規部署 LLM 時減少風險。

技術挑戰：

• 平衡：攔截過嚴會損傷使用者體驗，過鬆會出事故
• 多語言：東南亞 11 種語言每種都需要單獨訓練資料
• 政治敏感：什麼算"敏感"涉及政治判斷，AISG 需要在不同國家間尋找平衡

SEA-Guard 是 SEA-LION 商業化必要的拼圖——沒有安全工具，企業不敢用。

在「七條傳導槓桿」裡：

• 槓桿 3（產業應用）：讓本地企業敢於在生產環境部署 SEA-LION
• 槓桿 5（政府自用）：政府部門 AI 服務必須有安全過濾

觀點：SEA-Guard 是 AISG"全棧思維"的體現——不只做模型，還做評估（SEA-HELM）和安全（SEA-Guard），形成"模型 + 評估 + 安全"完整工具鏈。這是國家級機構相對於初創公司的天然優勢：可以做"商業上不性感但生態上必需"的工具。

但 SEA-Guard 的成熟度還不夠：目前更像 demo 而非產線工具，準確率、覆蓋度、執行效率都需要持續最佳化。能否在 1-2 年內達到 OpenAI Moderation 級別，是它的關鍵里程碑。