10月13日，記者獲悉，位元組跳動Seed近日發出內部郵件，宣佈將成立“Seed Model-Alignment&Preparedness”部門，由嚴林負責，彙報給Seed負責人吳永輝。原Responsible AI團隊及部分Chat團隊成員將轉入新部門。

據悉，該部門的設立旨在加強安全與對齊方向的投入，對齊的核心是讓模型的行為與人類意圖和安全約束保持一致，從而提升Agent Model（智能體模型）安全能力，以及防範CBRN（化學、生物、放射、核）等前沿能力風險。

大模型安全風險正日益凸顯，智能體逃逸引發的網路攻擊等事件頻繁發生。此前，國內大模型研究團隊的安全與對齊工作大多被納入到公司整體的安全合規體系中，據瞭解，位元組跳動Seed是國內首家單獨成立安全與對齊部門的前沿AI實驗室。

Seed團隊內部判斷，隨著模型能力越來越強、應用場景越來越複雜，安全與對齊已不只是風險防範，而是決定模型能否規模化應用的核心能力。

Seed安全與對齊部門將圍繞模型規範制定、安全評估體系建設、對齊訓練、防護系統搭建和風險監控等方向持續投入，並加強與外部研究機構和第三方評測的公開合作，最終使前沿模型在安全與授權約束內有效完成任務，隨著模型能力和自主性增強，持續降低濫用及行為偏離風險，建立面對未知風險的全面安全體系。

根據位元組官網，位元組跳動Seed團隊成立於2023年，致力於尋找通用智能的新方法，追求智能上限，為科技和社會發展作出貢獻。Seed團隊在AI領域擁有長期願景與決心，團隊研究方向涵蓋MLLM、GenMedia、AI for Science、機器人等，在中國、新加坡、美國等地設有實驗室和崗位。

來源：中國澎湃新聞