中國信通院發(fā)布《人工智能治理藍(lán)皮書（2024年）》，提出“1244”人工智能治理總體框架

中國經(jīng)濟(jì)網(wǎng)12月30日訊 （記者 梁木） 2024年12月27日，2024人工智能賦能新型工業(yè)化大會在北京召開，中國信息通信研究院在會上發(fā)布《人工智能治理藍(lán)皮書(2024年)》，引發(fā)業(yè)界和學(xué)界的廣泛關(guān)注。

報(bào)告指出，近年來，人工智能技術(shù)顛覆性、跨越式突破引發(fā)通用人工智能新一輪發(fā)展熱潮，全球人工智能行業(yè)實(shí)現(xiàn)高速增長。與此同時(shí)，人工智能領(lǐng)域模型安全、勞動替代、壟斷風(fēng)險(xiǎn)、不透明不可控等風(fēng)險(xiǎn)凸顯，發(fā)展不平衡、規(guī)則不健全、秩序不合理問題更為突出，推動全球人工智能治理進(jìn)入規(guī)則構(gòu)建和落地的關(guān)鍵階段。

提出兼具全面性、系統(tǒng)性、前瞻性的人工智能治理框架

人工智能治理是各方為解決人工智能領(lǐng)域風(fēng)險(xiǎn)分擔(dān)和利益分配問題，通過政策制定、法律監(jiān)管、倫理指導(dǎo)、行業(yè)自律等手段，對人工智能的研發(fā)、應(yīng)用等行為進(jìn)行全面管理和調(diào)控的過程。針對人工智能治理，全球各方嘗試從供應(yīng)鏈、價(jià)值鏈、全生命周期等不同邏輯維度構(gòu)建起多項(xiàng)人工智能治理框架，不同框架間共識與差異并存。

報(bào)告從新技術(shù)革命引發(fā)的經(jīng)濟(jì)社會發(fā)展變革和歷史經(jīng)驗(yàn)出發(fā)，在“以人為本、智能向善”理念指引下，綜合供應(yīng)鏈條、價(jià)值鏈條、全生命周期鏈條等底層邏輯，從What、Why、Who、How四個(gè)維度搭建了“1244”治理框架，即一組概念、兩類風(fēng)險(xiǎn)、四類主體、四組議題。

“一組概念”指人工智能概念范疇，“兩類風(fēng)險(xiǎn)”主要為內(nèi)生風(fēng)險(xiǎn)、衍生風(fēng)險(xiǎn)，“四類主體”包括政府部門、產(chǎn)業(yè)力量、專業(yè)機(jī)構(gòu)和國際組織，“四組議題”則涵蓋負(fù)責(zé)任創(chuàng)新、可持續(xù)發(fā)展、倫理先行、安全底線。

從核心議題、多元主體等角度出發(fā)深入論證分析

從發(fā)展側(cè)來看，負(fù)責(zé)任創(chuàng)新是人工智能治理的源頭根本，國際社會正在共同探索算力供給不平衡、高質(zhì)量數(shù)據(jù)集建設(shè)、開源模型生態(tài)治理等問題的解決方案，報(bào)告提出圍繞下游應(yīng)用細(xì)化制度方案，為人工智能創(chuàng)新發(fā)展提供全產(chǎn)業(yè)鏈要素支撐?？沙掷m(xù)發(fā)展是人工智能治理的終極要求，報(bào)告圍繞經(jīng)濟(jì)、社會和環(huán)境等維度，提出公平普惠的包容性治理，建議協(xié)力應(yīng)對數(shù)字鴻溝、文化偏見、能源短缺等問題，推動聯(lián)合國2030年可持續(xù)發(fā)展目標(biāo)實(shí)現(xiàn)。

從安全側(cè)來看，安全可控是人工智能治理的底線基礎(chǔ)，報(bào)告強(qiáng)調(diào)全生命周期邏輯下制度回應(yīng)和技術(shù)治理并進(jìn)的思路，對透明度、監(jiān)管沙箱等制度機(jī)制和紅隊(duì)測試、評估評測等技術(shù)治理趨勢進(jìn)行跟蹤研判。倫理先行是人工智能治理的價(jià)值導(dǎo)向，報(bào)告關(guān)注通用人工智能等技術(shù)發(fā)展帶來的人類主體性危機(jī)，研判了人工智能對人類生活、生產(chǎn)乃至生存問題帶來的沖擊。

報(bào)告從主體角度出發(fā)，總結(jié)分析了當(dāng)前全球主要經(jīng)濟(jì)體的人工智能治理實(shí)踐。主要經(jīng)濟(jì)體人工智能治理模式初具雛形，雖然模式各異，但規(guī)則落地都已取得實(shí)質(zhì)進(jìn)展，在監(jiān)管模式、治理重點(diǎn)、實(shí)踐策略等方面日益成熟完善。

對人工智能未來的發(fā)展與治理進(jìn)行展望

人工智能作為我國實(shí)施創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略的關(guān)鍵力量，是加快形成新質(zhì)生產(chǎn)力的重要引擎。展望未來，人類社會將邁向更深層次的智能化發(fā)展階段，人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題，需要系統(tǒng)謀劃、綜合施策，在制度設(shè)計(jì)、監(jiān)管模式、倫理治理、國際合作等方面持續(xù)改革創(chuàng)新。

《藍(lán)皮書》從制度設(shè)計(jì)、監(jiān)管模式、國際合作等方面對人工智能未來的發(fā)展與治理進(jìn)行展望。中國信息通信研究院也將持續(xù)跟蹤評估人工智能治理焦點(diǎn)議題和趨勢進(jìn)展。