“十五五”規劃建議提出，加強人工智慧治理，完善相關法律法規、政策制度、應用規範、倫理準則。
　　
與以往資訊技術不同，人工智慧並非單純意義上的工具性技術，而是一種具備自學習、自演化和廣泛外溢效應的通用技術形態。其運行過程在數據、演算法和算力的共同作用下不斷生成新的行為模式和影響路徑，不僅釋放出顯著效率紅利，也在更深層次上重塑了風險生成機制和治理運行結構。在這一背景下，人工智慧治理主要是對人工智慧技術和應用本身的治理，其核心在於能否實現治理方式的現代化，能否形成與技術發展階段相適應、具有前瞻性和系統性的治理體系，這已成為關係人工智慧健康發展和國家治理體系有效運轉的關鍵問題。
　　
治理成效與短板並存
　　
近年來，中國圍繞演算法推薦、深度合成、生成式人工智慧等重點領域持續完善人工智慧治理規則供給，通過出臺規範性檔和配套制度，對研發、應用和傳播等關鍵環節進行引導和約束，人工智慧治理邊界不斷清晰。從防範無序擴張到強化規範引導，從單點處置到體系建設，人工智慧治理的制度基礎正在逐步夯實，為技術健康發展劃定了必要邊界。
　　
與此同時，各地在數字政府、公共服務和城市運行等場景中加快探索人工智慧應用，推動審批服務、監管執法和城市治理等環節提質增效。人工智慧以賦能治理的技術手段進入治理體系，在提升治理效率的同時，也倒逼治理主體更加重視對人工智慧技術和應用本身的規範管理，包括數據治理、演算法規則和應用邊界的制度化約束。這些探索為人工智能治理積累了實踐經驗，也為推進治理現代化提供了現實樣本。
　　
但從治理現代化的要求看，現階段人工智慧治理仍存在不容忽視的短板。總體而言，當前治理仍以事後規範和問題應對為主，呈現出較為明顯的跟隨式特徵。這種治理形態在人工智慧發展初期具有現實合理性，有助於在不確定性較高的情況下保持治理彈性，但隨著人工智慧技術現代性不斷增強，其結構性局限逐步顯現。
　　
一是治理介入節奏偏後，難以適應技術快速演化。現有治理多在技術應用擴散或風險顯現後介入，規則制定往往滯後於技術發展。當人工智慧系統已經深度嵌入生產生活場景後，再進行規則補充和強監管，治理成本明顯上升，調整空間隨之收縮。更為關鍵的是，一旦技術路徑和應用模式在早期階段形成並固化，後續治理往往只能在既定框架內修修補補，難以對技術發展方向和運行邏輯進行實質性塑造。
　　
二是治理方式偏重靜態規範，難以約束動態系統。當前治理工具主要依賴政策檔和制度文本，對具有自學習、自優化特徵的演算法系統，缺乏持續監測、動態校準和可驗證約束能力。單純依靠事後抽查和糾偏，容易出現規則在場但運行過程難以掌控的情況，治理效果更多依賴執行強度而非制度內生約束，影響治理的穩定性和可持續性。
　　
三是治理目標側重風險防控，對發展方向引導不足。現有治理在合規、安全和風險防範方面著力較多，但對技術應當往何處發展、優先服務哪些公共目標的制度化引導仍顯不足。在缺乏清晰方向指引的情況下，人工智慧技術擴散往往更多受商業邏輯和短期效率驅動，公共利益導向和治理價值目標難以在制度層面得到穩定體現，治理的導航功能有待進一步強化。
　　
治理需走向“前瞻塑造”
　　
推進人工智慧治理現代化，關鍵在於前瞻性，要把理念要求轉化為可執行的制度安排，通過在治理節奏、治理工具和治理結構上的系統前移，形成與人工智慧高度現代性相適配的治理能力。圍繞技術生成、風險演化和應用擴散等關鍵環節，可從以下四方面重點推進。
　　
一是前移治理介入，把治理要求嵌入技術全生命週期。要改變治理主要集中在事後監管的狀況，必須將治理要求前移至人工智慧技術生成和應用決策的前端環節。在演算法設計、模型訓練、系統部署和迭代更新等關鍵節點，同步嵌入合規、安全與責任要求，推動形成覆蓋研發、上線、運行和調整全過程的治理機制，使治理不再只是對既成問題的回應，而成為技術生成過程中的內在約束。
　　
二是健全風險評估機制，把風險識別從事後處置轉向前瞻預判。面對人工智慧風險前置、影響擴散快的特徵，應加快完善以風險預判為導向的治理工具體系。通過建立分級分類評估制度，將安全風險、倫理風險和社會影響納入統一評估框架，在規模化應用前完成必要評估，並在運行過程中開展動態複評，推動治理從問題暴露後介入向風險趨勢中干預轉變。
　　
三是預設運行邊界和規則，增強系統約束與可控性。推進治理現代化，還需減少對外部規則事後糾偏的過度依賴，把治理要求轉化為系統運行前的邊界條件和約束規則。通過模型審計、演算法審計和技術標準等制度工具，明確數據使用邊界、模型輸出限制以及關鍵決策環節的人工干預和責任審核要求，使人工智慧系統在啟動之初即處於可約束、可追溯狀態，增強治理的穩定性和可執行性。
　　
四是強化先導性安排，引導人工智慧發展方向。人工智慧治理不僅要防範風險，也要在技術發展方向上發揮引導作用。應通過應用指引、負面清單和試點示範等方式，加強人工智慧同產業發展、文化建設、民生保障、社會治理相結合，更加明確人工智慧的重點方向，引導技術向增進公共利益和提升治理效能的領域集聚。通過前置性安排和方向性引導，為人工智能發展提供清晰預期，使治理從單純防風險，進一步拓展為對技術路徑和價值取向的主動塑造。
　　
人工智慧越具現代性，治理越需要現代化。前瞻型治理之所以成為必然選擇，正在於它通過前移治理介入、強化風險預判、預設運行邊界和先導發展方向，使治理方式在節奏、結構和功能上與人工智慧高度動態、持續演化的技術形態相適配，本身即體現治理現代化要求。同時，人工智慧治理走向現代化，也意味著治理方式本身需要更加智能化、技術化，實現以技術支撐治理、以技術約束技術，推動治理能力與技術複雜性相匹配。

來源：科技日報