守護AI安全 業(yè)界推動行業(yè)自律

人民網北京12月29日電 （記者王紹紹）人工智能釋放技術價值紅利的同時帶來復雜風險挑戰(zhàn)，如何平衡發(fā)展與安全已成為牽動人類命運共同體的重大課題。為把握機遇，應對挑戰(zhàn)，中國人工智能產業(yè)發(fā)展聯(lián)盟（以下簡稱“聯(lián)盟”）近日起草發(fā)布《人工智能安全承諾》（以下簡稱“《承諾》”），旨在推動行業(yè)自律，建立高效協(xié)同的治理機制，協(xié)力共促人工智能應用以人為本，智能向善。

近日，在2025中國信通院深度觀察報告會主論壇上，首批17家企業(yè)正式簽署《承諾》?！冻兄Z》凝聚產業(yè)界守護人工智能安全、促進人工智能向善的基本共識，旨在共同應對技術變革帶來的復雜挑戰(zhàn)。

相關負責人介紹，未來，中國信通院將依托聯(lián)盟繼續(xù)推動《承諾》廣泛適用落實、敦促企業(yè)披露安全實踐，期冀以高水平安全保障高質量發(fā)展，攜手構建人工智能治理生態(tài)，協(xié)力共促人工智能健康發(fā)展。

《人工智能安全承諾》全文內容：

人工智能浪潮席卷全球，積極釋放技術價值紅利，對全球經濟社會發(fā)展和人類文明進步產生深遠影響。我們也清晰認知到，人工智能帶來難以預知的各種風險挑戰(zhàn)。為把握新一輪發(fā)展機遇，我們鄭重發(fā)起《人工智能安全承諾》，通過產業(yè)自律，以高水平安全保障高質量發(fā)展，協(xié)力共促人工智能穩(wěn)健發(fā)展。我們深知，自律承諾是獲得社會信任的關鍵要素，我們將以本承諾作為行動守則，接受社會各界監(jiān)督，不斷提升優(yōu)化，促進人工智能技術應用以人為本，智能向善。

承諾一：設置安全團隊或組織架構，構建安全風險管理機制。內部設有專業(yè)團隊負責開展人工智能風險評估、安全治理等工作，明確安全負責人。主動設定符合實際需求的安全風險基線，開源時采取相應的安全措施，開展貫穿人工智能開發(fā)部署全生命周期的風險管理，明確風險識別和應對流程及措施。

承諾二：開展模型安全測試，提升模型效果與安全可靠性。通過專業(yè)性的仿真測試團隊，在發(fā)布、更新人工智能模型之前對其進行測試。對于大模型，重點圍繞其通用理解、推理和決策能力，以及其在工業(yè)、教育、醫(yī)療、金融、法律等場景下表現(xiàn)出的能力開展安全性和可靠性測試。

承諾三：采取措施保障訓練數(shù)據(jù)和業(yè)務數(shù)據(jù)安全。制定數(shù)據(jù)安全防護制度，配套建立防護技術措施，發(fā)現(xiàn)并及時處置數(shù)據(jù)投毒的情況，把控訓練數(shù)據(jù)的準確性與可靠性；對業(yè)務數(shù)據(jù)進行加密存儲與訪問控制，確保商業(yè)秘密、用戶隱私及用戶上傳的知識庫僅在授權下訪問，不被人工智能模型非法輸出，保障數(shù)據(jù)安全與隱私權益。

承諾四：提升基礎設施安全。建立人工智能系統(tǒng)部署的軟硬件安全監(jiān)測和防護能力，實施定期和動態(tài)的安全滲透測試，模擬各種潛在的風險場景，識別并報告環(huán)境中的安全隱患，研判可能導致的各種風險。建立基礎設施安全應急響應機制，包括應急處理流程、責任分配以及事后改進方案。

承諾五：增強模型透明度。主動披露安全治理實踐舉措，提升對各利益攸關方的透明度。公開披露模型的功能、適用領域以及局限性。通過模型說明、服務協(xié)議等方式，向公眾披露可能涵蓋的風險。

承諾六：積極開展前沿安全研究。研判前沿應用領域的安全風險，針對智能體、具身智能等前沿應用可能存在的偏見歧視、不可控等方面進行風險研判，向公眾披露研究成果。研究開發(fā)和部署智能向善的人工智能系統(tǒng)，以幫助應對社會面臨的最大挑戰(zhàn)。

據(jù)了解，接下來，中國信通院將聯(lián)合人工智能產業(yè)界各方合作伙伴共同攜手應對人工智能技術帶來的安全挑戰(zhàn)，推動人工智能產業(yè)的健康可持續(xù)發(fā)展。