人工智能該怎么管？八項(xiàng)原則來了！一文讀懂

斯蒂芬·霍金曾說過，人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。人工智能在帶動(dòng)巨大技術(shù)進(jìn)步的同時(shí)，也給經(jīng)濟(jì)社會(huì)治理帶來了新的挑戰(zhàn)。

最近一段時(shí)間，人們關(guān)于人工智能的討論可真不少——換臉、反換臉技術(shù)斗得不可開交；無人駕駛引發(fā)事故如何追責(zé)讓人憂心忡忡；智能機(jī)器人該不該有公民身份的爭論也已經(jīng)反復(fù)了好幾輪。

隨著人工智能越來越滲透進(jìn)人類生活的方方面面，全社會(huì)對(duì)人工智能的關(guān)注也從最開始的懷揣美好期望，變成了期待之外有擔(dān)憂。在人工智能迅速發(fā)展，深刻改變?nèi)祟惿鐣?huì)生活、改變世界的背景下，我們?cè)诓粩鄬で笕斯ぶ悄苄б孀畲蠡瘯r(shí)，如何應(yīng)對(duì)其倫理和監(jiān)管問題，成為新的焦點(diǎn)。

6月17日，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡稱《治理原則》），提出了人工智能治理的框架和行動(dòng)指南。（見《治理原則》全文）

清華大學(xué)蘇世民書院院長，國家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾參與了《治理原則》制定和出臺(tái)的全過程，他在接受科技日?qǐng)?bào)采訪時(shí)表示，《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類命運(yùn)共同體。

各方共同擔(dān)責(zé)

“負(fù)責(zé)任”是主題

《治理原則》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八條原則。薛瀾說，這里的“負(fù)責(zé)任”是多方的責(zé)任——既有人工智能研發(fā)者，也有使用者、管理者等其他相關(guān)方，各方應(yīng)具有高度的社會(huì)責(zé)任感和自律意識(shí)，嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。在這個(gè)基礎(chǔ)上建立人工智能問責(zé)機(jī)制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過程中應(yīng)確保人類知情權(quán)，告知可能產(chǎn)生的風(fēng)險(xiǎn)和影響。防范利用人工智能進(jìn)行非法活動(dòng)。

發(fā)展的眼光看問題

敏捷治理是這個(gè)意思

人工智能的發(fā)展日新月異，技術(shù)更迭之快、新產(chǎn)品出現(xiàn)之頻繁遠(yuǎn)超出人們的預(yù)期，所以過往在人工智能治理過程中最大的麻煩就是老政策解決不了新問題，這一次《治理原則》推出了“敏捷治理”。

“這是一個(gè)全新的思路”，中科院自動(dòng)化所研究員，國家新一代人工智能治理專業(yè)委員會(huì)委員曾毅向科技日?qǐng)?bào)表示，《治理原則》針對(duì)人工智能獨(dú)特的發(fā)展規(guī)律，在推動(dòng)人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時(shí)，更應(yīng)該具有前瞻性和預(yù)判性，這樣才能及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的未知的風(fēng)險(xiǎn)。

“敏捷治理”可以讓我們對(duì)未來更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開展研究和預(yù)判，確保人工智能始終朝著有利于人類的方向發(fā)展。

尊重隱私

禁止濫用、惡用人工智能

這些年來，我國的人工智能技術(shù)取得了長足發(fā)展，中國的人工智能發(fā)展動(dòng)力從哪里來？坊間有過各種說法。上海大學(xué)教授，國家新一代人工智能治理專業(yè)委員會(huì)委員李仁涵表示，我國的人工智能發(fā)展得益于數(shù)據(jù)量的快速增長、計(jì)算能力的大幅提升、機(jī)器學(xué)習(xí)算法的持續(xù)優(yōu)化，以及政府、企業(yè)對(duì)人工智能技術(shù)的大力支持。

曾毅表示，長期以來，我國對(duì)于人工智能發(fā)展中的安全問題、隱私問題都十分重視。因此在《治理原則》中，尊重隱私被放在一個(gè)十分重要的位置。要求充分保障個(gè)人的知情權(quán)和選擇權(quán)的同時(shí)，在個(gè)人信息的收集、存儲(chǔ)、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。

曾毅更強(qiáng)調(diào)，此次在《治理原則》中首提“個(gè)人數(shù)據(jù)授權(quán)撤銷機(jī)制”。他表示，我們反對(duì)任何竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為，基于此個(gè)人有權(quán)在同意個(gè)人信息授權(quán)后，有權(quán)利隨時(shí)撤銷授權(quán)，這一點(diǎn)在全世界也屬于領(lǐng)先。他認(rèn)為，人工智能應(yīng)以保障社會(huì)安全、尊重人類權(quán)益為前提，避免誤用，禁止濫用、惡用。

共治共管

《治理原則》的誕生有點(diǎn)特別

《治理原則》的出臺(tái)，為的推動(dòng)我國人工智能行業(yè)的自律，凝聚全社會(huì)共識(shí)，促進(jìn)人工智能健康發(fā)展，所以“共治共管”的理念貫穿始終。早在《治理原則》起草前，科學(xué)技術(shù)部就在官方網(wǎng)站上發(fā)布消息，征求社會(huì)各界的意見。

“我們征集到了百余條十分有價(jià)值的意見，其中一些意見被采納，還有許多提意見的人員被請(qǐng)來與我們一起探討”，薛瀾向科技日?qǐng)?bào)介紹說。

一位中醫(yī)科學(xué)院的專家提出以醫(yī)學(xué)倫理為鑒確定人工智能的監(jiān)管思路，一位南開大學(xué)的哲學(xué)專家建議以傳統(tǒng)文化中的哲學(xué)思路倡導(dǎo)人工智能向善的理念等等，這些意見和建議都被國家新一代人工智能治理專業(yè)委員會(huì)的專家們廣泛聽取。

曾毅告訴科技日?qǐng)?bào)，《治理原則》出臺(tái)整個(gè)過程經(jīng)歷了網(wǎng)上建議征集、專家反復(fù)研討、多方征求意見等環(huán)節(jié)，凝聚了廣泛共識(shí)。值得一提的是，與許多國家先出草案再聽意見不同，我們最初的意見征集階段完全是發(fā)散性的，所有人各抒己見不設(shè)方向、不設(shè)門檻。

薛瀾表示，《治理原則》是一個(gè)框架，后續(xù)將有更細(xì)化的政策法規(guī)、行業(yè)標(biāo)準(zhǔn)規(guī)范、區(qū)域共識(shí)等來規(guī)范人工智能的發(fā)展。他強(qiáng)調(diào)，人工智能的治理已經(jīng)不是某個(gè)地區(qū)或者國家的問題，而是需要全球協(xié)同；人工智能發(fā)展應(yīng)以增進(jìn)人類共同福祉為目標(biāo)，符合人類的價(jià)值觀和倫理道德。中國的專家們盼著與全世界的科學(xué)家一起建立共識(shí)、協(xié)同發(fā)展，為促進(jìn)人機(jī)和諧，服務(wù)人類文明進(jìn)步共同努力。