作者 | 張欽坤 騰訊研究院秘書長(zhǎng)

曹建峰 騰訊研究院高級(jí)研究員

今年，人工智能等新技術(shù)的治理，在全球范圍內(nèi)獲得了廣泛的關(guān)注。美歐開始針對(duì)人工智能相關(guān)應(yīng)用探索多元化的治理措施。我國(guó)也開始回應(yīng)人工智能新技術(shù)及其應(yīng)用的潛在風(fēng)險(xiǎn)，《民法典人格權(quán)編草案》《數(shù)據(jù)安全管理辦法（征求意見稿）》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等都有所涉及。此外，網(wǎng)信辦發(fā)布的《網(wǎng)絡(luò)生態(tài)治理規(guī)定（征求意見稿）》（以下簡(jiǎn)稱《規(guī)定》），在強(qiáng)調(diào)政府、企業(yè)、社會(huì)、網(wǎng)民等主體共同治理網(wǎng)絡(luò)信息內(nèi)容的同時(shí)，也及時(shí)回應(yīng)了算法推薦、深度偽造、流量造假、網(wǎng)絡(luò)暴力等熱點(diǎn)問題。

算法推薦引發(fā)負(fù)面影響，風(fēng)險(xiǎn)防范與技術(shù)和產(chǎn)業(yè)發(fā)展的平衡需要分級(jí)分類多元治理

近年來，隨著人工智能算法推薦的廣泛應(yīng)用引發(fā)的虛假信息、用戶隱私、信息繭房、算法歧視等負(fù)面影響的持續(xù)發(fā)酵，我國(guó)相關(guān)立法和標(biāo)準(zhǔn)開始關(guān)注算法推薦。《電子商務(wù)法》《數(shù)據(jù)安全管理辦法（征求意見稿）》以及國(guó)家標(biāo)準(zhǔn)《個(gè)人信息安全規(guī)范》最新修訂草案等都作出了規(guī)定，要求標(biāo)明“定推”字樣，給用戶提供“退出”選項(xiàng)并刪除個(gè)人信息，禁止歧視、欺詐等。此次《規(guī)定》進(jìn)一步明確算法推薦與人工編輯相結(jié)合的信息分發(fā)方式，第15條要求建立體現(xiàn)主流價(jià)值導(dǎo)向的推薦模型，建立健全人工干預(yù)機(jī)制，建立用戶自主選擇機(jī)制，進(jìn)一步回應(yīng)了算法推薦的相關(guān)問題。

從行業(yè)角度看，個(gè)性化算法推薦對(duì)貼近用戶需求以及構(gòu)建互聯(lián)網(wǎng)內(nèi)容和服務(wù)生態(tài)十分重要，在各類移動(dòng)互聯(lián)網(wǎng)平臺(tái)的快速崛起中扮演著重要角色，已被廣泛應(yīng)用于新聞、視頻、音樂等數(shù)字內(nèi)容及廣告、商品、服務(wù)等的分發(fā)、推薦。但在經(jīng)歷了算法有沒有價(jià)值觀的大討論之后，人們?cè)絹碓蕉嗟卣J(rèn)識(shí)到算法并不是萬能的，其在提高信息內(nèi)容分發(fā)效率的同時(shí)，卻可能帶來用戶隱私、信息繭房、內(nèi)容安全、傳播虛假信息等問題，甚至可能影響公眾認(rèn)知，加劇社會(huì)分層和偏見等。所以企業(yè)在部署應(yīng)用算法決策的時(shí)候，一方面需要持續(xù)優(yōu)化算法模型，確保數(shù)據(jù)和算法的準(zhǔn)確性、有效性、公平性等；另一方面需要以人工干預(yù)等方式進(jìn)行適度的管理，例如對(duì)進(jìn)入推薦池由算法進(jìn)行推薦的文章，需要經(jīng)過審核。

圖： 來源：網(wǎng)絡(luò)

國(guó)外也開始多舉措規(guī)范包括算法推薦在內(nèi)的算法決策的應(yīng)用，例如歐盟GDPR通過賦予用戶選擇和控制權(quán)限來解決用戶畫像和自動(dòng)化決策中的隱私問題，除此之外并沒有給算法推薦等自動(dòng)化決策提出其他更多的監(jiān)管要求；而美國(guó)加州CCPA對(duì)于個(gè)人信息的處理則繼續(xù)沿用opt-out機(jī)制，對(duì)消費(fèi)者更為實(shí)用，也更有利于市場(chǎng)發(fā)展和市場(chǎng)競(jìng)爭(zhēng)。但數(shù)據(jù)創(chuàng)新研究中心（Center forData Innovation)的研究報(bào)告顯示，GDPR實(shí)施的一年以來，要求企業(yè)手動(dòng)審查重大的算法決策提高了人工智能的總體成本，在某種程度上阻礙了歐盟的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展。此外在行業(yè)自律方面，F(xiàn)acebook、YouTube等也在不斷調(diào)整完善其推薦算法，以便給予用戶更大的控制和選擇權(quán)限，同時(shí)限制虛假信息的傳播。例如今年6月YouTube對(duì)其推薦算法做出了三項(xiàng)調(diào)整，以便用戶可以更容易地探索主題和相關(guān)視頻，拒絕某個(gè)頻道的視頻推送，并理解為什么被推送了某個(gè)視頻，代表了其在算法透明上的努力。[1]

整體而言，國(guó)外對(duì)于算法決策確立了分類分級(jí)的監(jiān)管思路：分類即針對(duì)政府和公共部門使用的算法系統(tǒng)和商業(yè)領(lǐng)域的算法系統(tǒng)建立不同的監(jiān)管，前者需要較強(qiáng)的事前監(jiān)管，如歐盟提出針對(duì)前者建立“算法影響評(píng)估”機(jī)制[2]；分級(jí)即對(duì)于一般的商業(yè)算法系統(tǒng)如定向推送、個(gè)性化廣告等采取事后追究法律責(zé)任的方式，但對(duì)于具有與政府和公共部門的算法系統(tǒng)應(yīng)用類似的重大影響的商業(yè)算法系統(tǒng)可考慮一定程度的事前監(jiān)管。此種分類分級(jí)監(jiān)管方式避免給企業(yè)帶來不成比例的成本和管理負(fù)擔(dān)，有助于人工智能發(fā)展應(yīng)用。此外，非監(jiān)管的方式例如算法素養(yǎng)、倫理指南及倫理審查、技術(shù)標(biāo)準(zhǔn)和指南、用戶控制等柔性方式，也將發(fā)揮重要作用。這些舉措可給我國(guó)將來進(jìn)一步立法提供有益的借鑒。

深度偽造給網(wǎng)絡(luò)內(nèi)容治理帶來新挑戰(zhàn)，監(jiān)管需要防范技術(shù)濫用同時(shí)留出發(fā)展空間

《規(guī)定》第24條規(guī)定，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動(dòng)。這一規(guī)定給今年備受國(guó)內(nèi)外關(guān)注的“深度偽造”技術(shù)劃定了應(yīng)用邊界，同時(shí)為行業(yè)探索有益應(yīng)用場(chǎng)景留出了發(fā)展空間。

左圖：1994年電視劇《射雕英雄傳》截圖；右圖：同一場(chǎng)景的“深度偽造”視頻片段。來源@換臉哥

深度偽造（Deepfake）作為deep learning（深度學(xué)習(xí)）和fake（偽造）組合而成的新生事物，是隨著生成對(duì)抗網(wǎng)絡(luò)（GAN）等深度學(xué)習(xí)技術(shù)的發(fā)展而出現(xiàn)的。其最常見的方式是AI換臉，例如deepfake、face2face等技術(shù)，此外還包括語音模擬、人臉合成、視頻生成等，統(tǒng)稱為深度偽造。深度偽造和合成內(nèi)容給網(wǎng)絡(luò)平臺(tái)治理帶來了新挑戰(zhàn)，主要表現(xiàn)為利用深度學(xué)習(xí)等AI技術(shù)偽造或合成高度逼真且真假難辨的圖片、音頻、視頻來進(jìn)行欺騙和欺詐，如色情報(bào)復(fù)、敲詐勒索、假冒身份、散布虛假信息等，給個(gè)人和企業(yè)利益以及公共安全帶來威脅。而且深度偽造生成方法開源軟件的增多，極大地降低了操縱、偽造音視頻的門檻。報(bào)告顯示，網(wǎng)上的深度偽造視頻的總數(shù)比去年12月翻了一番，達(dá)到近15000個(gè)，其中偽造的色情視頻占比高達(dá)96%。[3]

除了此次《規(guī)定》提出的概括性禁止要求，《民法典人格權(quán)編（草案）》第799條、《數(shù)據(jù)安全管理（征求意見稿）》第24條，以及日前發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》第10-13條等都作出了規(guī)定。主要包括：禁止利用信息技術(shù)手段偽造的方式侵犯他人的肖像權(quán)和聲音；針對(duì)自動(dòng)合成的信息內(nèi)容標(biāo)明“合成”字樣；上線相關(guān)功能或服務(wù)需開展安全評(píng)估，對(duì)非真實(shí)音視頻信息予以標(biāo)識(shí)，禁止深度偽造的虛假新聞消息，部署鑒別技術(shù)并在對(duì)非真實(shí)音視頻信息進(jìn)行標(biāo)識(shí)后方可繼續(xù)傳播，建立辟謠機(jī)制，等等。這些規(guī)定表明深度偽造等新技術(shù)新應(yīng)用已經(jīng)引起我國(guó)立法的高度重視。

全球來看，美國(guó)最早對(duì)深度偽造進(jìn)行規(guī)制，今年以來，美國(guó)尤其擔(dān)心深度偽造對(duì)2020年大選和國(guó)家安全的影響，開始探索立法應(yīng)對(duì)措施，防范潛在濫用風(fēng)險(xiǎn)。2019年6月，美國(guó)國(guó)會(huì)先后提出了兩部法律草案《深度偽造責(zé)任法案》[4]和《2019年深度偽造報(bào)告法案》[5]。此外，美國(guó)的加州、德州、馬薩諸塞州、弗吉尼亞州等也陸續(xù)推出了相關(guān)立法。這些立法提出的主要措施包括：第一，設(shè)定應(yīng)用紅線，禁止政治干擾、色情報(bào)復(fù)、假冒身份等非法目的的深度偽造，否則可能構(gòu)成刑事犯罪；第二，設(shè)置披露義務(wù)，要求制作者、上傳者以適當(dāng)方式披露、標(biāo)記合成內(nèi)容，例如采取嵌入數(shù)字水印、文字、語音標(biāo)識(shí)等方式；第三，加強(qiáng)技術(shù)攻防，要求開發(fā)檢測(cè)識(shí)別和反制技術(shù)。

綜合國(guó)內(nèi)外監(jiān)管趨勢(shì)來看，遏制深度偽造技術(shù)的濫用需要多方主體共同努力，采取分類分場(chǎng)景監(jiān)管、行業(yè)自律、技術(shù)對(duì)抗、數(shù)字素養(yǎng)提升等多元化的舉措，在防范風(fēng)險(xiǎn)的同時(shí)促進(jìn)深度偽造技術(shù)妥善利用。在合理有效、靈活敏捷的監(jiān)管之外，還需重視以下兩點(diǎn)。

一方面，探索更多有益運(yùn)用場(chǎng)景，提振產(chǎn)業(yè)發(fā)展信心。深度偽造作為內(nèi)容創(chuàng)作工具有其積極的應(yīng)用價(jià)值，可在娛樂、新聞媒體、影視制作、教育等諸多領(lǐng)域運(yùn)用，例如實(shí)現(xiàn)虛擬主播、替身演出、虛擬歌手等，改善醫(yī)學(xué)圖像分析，豐富社交網(wǎng)絡(luò)體驗(yàn)和自我表達(dá)等。面對(duì)深度偽造帶來的風(fēng)險(xiǎn)，在積極應(yīng)對(duì)的同時(shí)，還應(yīng)鼓勵(lì)行業(yè)探索更多有益運(yùn)用場(chǎng)景，為人工智能技術(shù)開發(fā)提供更多實(shí)踐樣本，引導(dǎo)人工智能技術(shù)向善發(fā)展。

另一方面，從源頭要求制作者對(duì)深度偽造進(jìn)行標(biāo)注，同時(shí)鼓勵(lì)行業(yè)開發(fā)應(yīng)用檢測(cè)識(shí)別技術(shù)，推動(dòng)建立相關(guān)技術(shù)和行業(yè)標(biāo)準(zhǔn)。當(dāng)前美國(guó)的做法主要是要求制作者對(duì)深度偽造內(nèi)容進(jìn)行標(biāo)注，否則可能承擔(dān)民事責(zé)任，嚴(yán)重時(shí)還將承擔(dān)刑事責(zé)任，從而從源頭上對(duì)深度偽造進(jìn)行規(guī)范。這一源頭治理的做法具有合理性，因?yàn)闆]有標(biāo)注的深度偽造內(nèi)容一旦傳播出去之后，第三方就很難鑒別，檢測(cè)技術(shù)的開發(fā)、成熟也面臨著諸多困難，而且難以跟上深度偽造技術(shù)進(jìn)化的步伐，所以開發(fā)溯源技術(shù)并進(jìn)行源頭標(biāo)記是最有效的措施。此外，當(dāng)前谷歌、Facebook等美國(guó)主流科技公司都開始通過多種舉措，發(fā)展甄別深度偽造和合成內(nèi)容、對(duì)抗深度偽造技術(shù)濫用的方法和工具，包括：構(gòu)建并開放深度偽造數(shù)據(jù)集，為研究、開發(fā)檢測(cè)識(shí)別技術(shù)提供基準(zhǔn)；支持、發(fā)起深度偽造檢測(cè)挑戰(zhàn)賽，與行業(yè)攜手推動(dòng)檢測(cè)技術(shù)的研究與開發(fā)；開發(fā)深度偽造檢測(cè)識(shí)別和標(biāo)注工具；培訓(xùn)專門的合成內(nèi)容審查人員，加強(qiáng)對(duì)視頻內(nèi)容的真實(shí)性審核。但是考慮到行業(yè)內(nèi)當(dāng)前還沒有通用的、高準(zhǔn)確率的視頻鑒偽網(wǎng)絡(luò)，相應(yīng)的鑒偽技術(shù)也都尚在初步階段、還有很長(zhǎng)一段路要走，所以不宜強(qiáng)制要求平臺(tái)對(duì)用戶上傳的或第三方的視頻是否屬于“深度偽造”或“自動(dòng)合成”進(jìn)行檢測(cè)識(shí)別，并以此為由要求平臺(tái)承擔(dān)責(zé)任，因?yàn)檫@將給企業(yè)帶來不成比例的管理負(fù)擔(dān)和成本。而且技術(shù)攻防本來就是“魔高一尺道高一丈”、處于不斷發(fā)展之中，故不宜將其轉(zhuǎn)變?yōu)橛残砸�求并與法律責(zé)任掛鉤，所以如前所述，美歐沒有強(qiáng)硬要求平臺(tái)部署鑒別技術(shù)，而是采取了源頭治理讓制作者、上傳者對(duì)深度偽造內(nèi)容進(jìn)行標(biāo)注，這具有合理性，值得肯定。

流量造假行為被納入禁止性規(guī)范，技術(shù)管網(wǎng)遏制流量經(jīng)濟(jì)野蠻生長(zhǎng)

《規(guī)定》第25條規(guī)定，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者不得通過人力或者技術(shù)手段實(shí)施流量造假、流量劫持以及虛假注冊(cè)賬號(hào)、批量買賣賬號(hào)、操縱用戶賬號(hào)等行為，破壞網(wǎng)絡(luò)生態(tài)秩序。這一規(guī)定將流量造假等行為列為破壞網(wǎng)絡(luò)生態(tài)秩序的禁止性行為，有利于規(guī)范數(shù)據(jù)利用，從源頭制止流量造假。

流量是網(wǎng)絡(luò)文化的重要指標(biāo)之一。流量經(jīng)濟(jì)時(shí)代，流量劫持、流量造假等問題開始挑戰(zhàn)傳統(tǒng)法律。流量造假糾紛不僅發(fā)生在個(gè)人主體之間，平臺(tái)間的流量之爭(zhēng)則更加復(fù)雜。去年8月，愛奇藝公司訴杭州飛益信息科技有限公司不正當(dāng)競(jìng)爭(zhēng)案中，法院認(rèn)定通過技術(shù)手段增加無效的愛奇藝網(wǎng)站視頻訪問數(shù)據(jù)并獲取不當(dāng)利益的行為破壞數(shù)據(jù)的真實(shí)性以及完整性，構(gòu)成不正當(dāng)競(jìng)爭(zhēng)，這表明被刷流量方也可能成為流量糾紛中的受害者。今年5月，全國(guó)首例暗刷流量案當(dāng)庭宣判合同違反社會(huì)公共利益而無效，并上繳所有非法所得。流量造假、流量劫持以及虛假注冊(cè)賬號(hào)、批量買賣賬號(hào)、操縱用戶賬號(hào)等行為，不僅損害消費(fèi)者權(quán)益，破壞商業(yè)模式，還會(huì)損害數(shù)據(jù)信息價(jià)值，造成大數(shù)據(jù)產(chǎn)業(yè)“劣幣驅(qū)逐良幣”。

圖：蔡徐坤1億轉(zhuǎn)發(fā)量（微博總用戶3.3億）流量造假被央視批評(píng)曝光

整體而言，流量造假背后已經(jīng)形成了巨大的灰色利益鏈條，從線上到線下需要更加嚴(yán)密的監(jiān)管體系。首先，平臺(tái)可以加強(qiáng)流量監(jiān)控合作，形成全平臺(tái)聯(lián)動(dòng)打擊。以往的互聯(lián)網(wǎng)相關(guān)法規(guī)中，對(duì)流量造假等行為的規(guī)制主要在于提高平臺(tái)責(zé)任，要求平臺(tái)監(jiān)控異常數(shù)據(jù)，屏蔽造假網(wǎng)頁、處理虛假賬號(hào)等。下一階段，為應(yīng)對(duì)大規(guī)模的流量造假，需要加強(qiáng)平臺(tái)合作，建立平臺(tái)與平臺(tái)間的聯(lián)動(dòng)打擊機(jī)制。

其次，大力發(fā)展互聯(lián)網(wǎng)內(nèi)容產(chǎn)業(yè)，豐富網(wǎng)絡(luò)評(píng)價(jià)體系，告別“唯流量論”。網(wǎng)絡(luò)直播銷售、明星流量變現(xiàn)等商業(yè)模式催生了流量造假行為，畸形的利益分配機(jī)制是導(dǎo)致流量造假的根本原因。要扭轉(zhuǎn)這一局面，必須回歸互聯(lián)網(wǎng)內(nèi)容產(chǎn)業(yè)的發(fā)展，豐富評(píng)價(jià)體系，擺脫“唯流量論”。

再者，提高違法成本，有效震懾流量造假行為。如今流量造假行為已經(jīng)滲透到電商、娛樂、影視等多領(lǐng)域，利益的深度捆綁讓流量造假的多方主體均對(duì)該行為保持緘默。2018年《反不正當(dāng)競(jìng)爭(zhēng)法》的互聯(lián)網(wǎng)專條對(duì)流量劫持、惡意不兼容等問題進(jìn)行了規(guī)制。2019年《電子商務(wù)法》明確禁止電商平臺(tái)買流量刷好評(píng)行為。未來還應(yīng)進(jìn)一步加大執(zhí)法力度，提高違法成本，破除該縱深灰色利益鏈條。

網(wǎng)絡(luò)暴力成諸多惡性事件導(dǎo)火索，監(jiān)管之外還需引導(dǎo)理性上網(wǎng)

《規(guī)定》第22條針對(duì)網(wǎng)絡(luò)暴力作出專門規(guī)定，明確禁止網(wǎng)絡(luò)用戶的網(wǎng)絡(luò)侵權(quán)和網(wǎng)絡(luò)暴力行為，違反該規(guī)定將依照相關(guān)法律、行政法規(guī)處理。網(wǎng)絡(luò)暴力在新技術(shù)背景下具有新的發(fā)展趨勢(shì)如人工智能被用于實(shí)施色情報(bào)復(fù)等，該規(guī)定有助于凈化網(wǎng)絡(luò)環(huán)境、維護(hù)健康的上網(wǎng)秩序，并規(guī)范新技術(shù)的應(yīng)用。

互聯(lián)網(wǎng)在為用戶提供充分表達(dá)空間的同時(shí)，非理性的聲音也極易通過網(wǎng)絡(luò)發(fā)酵，造成大規(guī)模網(wǎng)絡(luò)行為失范。以語言暴力、隱私泄露等為典型，網(wǎng)絡(luò)暴力主要表現(xiàn)網(wǎng)絡(luò)欺凌、網(wǎng)絡(luò)跟蹤以及網(wǎng)絡(luò)騷擾，具體而言：一是對(duì)未經(jīng)證實(shí)或已經(jīng)證實(shí)的網(wǎng)絡(luò)事件，公開發(fā)表帶有傷害性、侮辱性和煽動(dòng)性的失實(shí)言論；二是在網(wǎng)上公開他人個(gè)人隱私，侵犯其隱私權(quán)；三是對(duì)他人及其親友的正常生活進(jìn)行行動(dòng)和言論侵?jǐn)_等。網(wǎng)絡(luò)暴力引發(fā)的社會(huì)惡性事件層出不窮，不僅對(duì)當(dāng)事人身心、名譽(yù)、財(cái)產(chǎn)等方面造成實(shí)質(zhì)性損害，還會(huì)影響社會(huì)價(jià)值觀，破壞網(wǎng)絡(luò)生態(tài)秩序。

而且近年來，網(wǎng)絡(luò)暴力事件逐漸增多，沖突行為逐漸升級(jí)。中國(guó)社科院2019《社會(huì)藍(lán)皮書》顯示，其調(diào)查對(duì)象中，約有28.89%的青少年在上網(wǎng)過程中遇到過暴力辱罵，而60%以上的青少年對(duì)此沒有采取任何措施。美國(guó)反誹謗聯(lián)盟ADL（Anti-Defamation League）2018年調(diào)查顯示，全美范圍內(nèi)約37%的被調(diào)查民眾曾經(jīng)歷過性騷擾、被視奸跟蹤、人身攻擊、持續(xù)騷擾等各樣的極端網(wǎng)絡(luò)暴力。此外，如前所述深度偽造等新技術(shù)也被用于色情報(bào)復(fù)、敲詐勒索等網(wǎng)絡(luò)暴力行為，網(wǎng)絡(luò)上的深度偽造內(nèi)容幾乎都是偽造的色情視頻。

網(wǎng)絡(luò)暴力的成因復(fù)雜，牽涉面廣，對(duì)暴力信息往往難以及時(shí)介入和監(jiān)管。首先，互聯(lián)網(wǎng)的復(fù)合性傳播方式為網(wǎng)絡(luò)輿論發(fā)酵提供了便利。互聯(lián)網(wǎng)多樣化的傳播方式使得暴力信息可以通過公開網(wǎng)頁、即時(shí)通訊設(shè)備等進(jìn)行公開、小范圍以及一對(duì)一的傳播，暴力信息一旦傳播開來，便難以控制。其次，網(wǎng)絡(luò)暴力信息界定模糊，難以及時(shí)發(fā)現(xiàn)并處理。在技術(shù)過濾和人工審核的雙重保障下，對(duì)于明顯的違法信息或含敏感詞信息，能進(jìn)行有效攔截。但是，對(duì)于輿論形成初期，如何在健康的輿論環(huán)境中識(shí)別出暗含網(wǎng)絡(luò)暴力可能性的話題，如何區(qū)分正當(dāng)?shù)妮浾摫O(jiān)督和暴力信息都尚未明確操作標(biāo)準(zhǔn)。整體而言，目前針對(duì)網(wǎng)絡(luò)暴力的治理仍以事后監(jiān)管為主，對(duì)網(wǎng)暴事件發(fā)生的施暴引導(dǎo)者、不實(shí)信息散布者及事件背后的組織策劃者等關(guān)鍵對(duì)象進(jìn)行懲治。引導(dǎo)用戶理性上網(wǎng)，提升網(wǎng)民素養(yǎng)是從源頭消解網(wǎng)絡(luò)暴力的必要手段。

探索新技術(shù)治理的中國(guó)模式，為新技術(shù)發(fā)展應(yīng)用營(yíng)造良好的制度土壤

如前所述，連同此次《規(guī)定》在內(nèi)，我國(guó)近一兩年一系列立法開始加強(qiáng)規(guī)制人工智能等新技術(shù)及其應(yīng)用。但在當(dāng)前的國(guó)際化發(fā)展形勢(shì)下，新技術(shù)成為各國(guó)競(jìng)爭(zhēng)的核心，如何在日趨嚴(yán)峻的國(guó)際競(jìng)爭(zhēng)形勢(shì)下（如地區(qū)對(duì)抗博弈加劇、單邊主義抬頭等），為新技術(shù)創(chuàng)新發(fā)展和應(yīng)用普及營(yíng)造良好的制度土壤，從而占據(jù)技術(shù)發(fā)展和產(chǎn)業(yè)應(yīng)用高地，是我國(guó)在監(jiān)管新技術(shù)新應(yīng)用時(shí)需要著力思考的。

歷史地看，美國(guó)硅谷之所以在互聯(lián)網(wǎng)時(shí)代成為全球科技創(chuàng)新中心，除了資本、人才、人才流動(dòng)等因素之外，其成功在很大程度上歸因于美國(guó)互聯(lián)網(wǎng)友好型的法律變革，諸如適度的平臺(tái)責(zé)任、版權(quán)避風(fēng)港和開放式的合理使用制度、行業(yè)自律為主的隱私監(jiān)管等，這些制度規(guī)定為硅谷企業(yè)在Web 2.0時(shí)代的巨大成功提供了良好的法律制度土壤，天才的程序員們才得以發(fā)揮其聰明才智，帶來令人驚艷的創(chuàng)新產(chǎn)物。[6]這可以給全世界正在進(jìn)行中的新技術(shù)治理提供很好的啟發(fā)。

當(dāng)前在新技術(shù)治理方面，歐盟最為活躍。GDPR、數(shù)字稅、人工智能監(jiān)管等都旨構(gòu)建歐盟內(nèi)部統(tǒng)一的互聯(lián)網(wǎng)監(jiān)管標(biāo)準(zhǔn)和模式，但其對(duì)新技術(shù)的嚴(yán)格管制能否最終轉(zhuǎn)化為其在人工智能等新技術(shù)、新產(chǎn)業(yè)發(fā)展等上的國(guó)際競(jìng)爭(zhēng)力，是值得深入探討的。除了對(duì)自身發(fā)展的考量，歐盟的互聯(lián)網(wǎng)強(qiáng)監(jiān)管還有另外一個(gè)人們經(jīng)常提及的原因，就是通過設(shè)定偏向性的法律規(guī)則來制衡、約束美國(guó)，意在為歐盟自身贏得產(chǎn)業(yè)發(fā)展機(jī)遇。用歐盟官方的話來說就是，讓互聯(lián)網(wǎng)惠及所有人，而非個(gè)別公司（意指美國(guó)大型互聯(lián)網(wǎng)企業(yè)）。

就我國(guó)而言，防范新技術(shù)新應(yīng)用相關(guān)的風(fēng)險(xiǎn)，已經(jīng)成為了我國(guó)互聯(lián)網(wǎng)治理的重要內(nèi)容，需要明確整體上的治理思路和路徑。如前所述，在中美歐引領(lǐng)互聯(lián)網(wǎng)競(jìng)爭(zhēng)的國(guó)際背景下，對(duì)于新技術(shù)新應(yīng)用歐盟采取了更為側(cè)重監(jiān)管的路徑，而美國(guó)相對(duì)寬松的監(jiān)管環(huán)境在新技術(shù)背景下不大可能發(fā)生大的改變。以此為出發(fā)點(diǎn)，我國(guó)在監(jiān)管新技術(shù)新應(yīng)用的時(shí)候，需要考慮國(guó)際競(jìng)爭(zhēng)視角和新技術(shù)新應(yīng)用的社會(huì)經(jīng)濟(jì)效益，兼顧監(jiān)管治理需求、防范風(fēng)險(xiǎn)、權(quán)益保護(hù)與技術(shù)創(chuàng)新、產(chǎn)業(yè)發(fā)展等。更進(jìn)一步，在實(shí)踐層面，多層次的治理體系比單一的監(jiān)管和法律更能適應(yīng)人工智能等新技術(shù)快速發(fā)展迭代、日益復(fù)雜化的特征，行業(yè)標(biāo)準(zhǔn)、自律公約、技術(shù)指南、最佳實(shí)踐、倫理框架、倫理教育和技術(shù)素養(yǎng)等都將發(fā)揮更大的作用。在監(jiān)管方面需要“疏堵結(jié)合、包容審慎、敏捷靈活”的方式，“疏”即破除新技術(shù)應(yīng)用面臨的法律障礙，如自動(dòng)駕駛汽車、AI醫(yī)療等面臨的傳統(tǒng)監(jiān)管障礙，構(gòu)建新的監(jiān)管框架；“堵”即明確應(yīng)用邊界，并以包容審慎、敏捷靈活的方式防范風(fēng)險(xiǎn)，保障技術(shù)和產(chǎn)業(yè)發(fā)展空間。

注：感謝騰訊公司安全管理部安全戰(zhàn)略研究中心高級(jí)研究員趙玉現(xiàn)在此文寫作過程中提出寶貴建議，騰訊研究院助理研究員熊辰協(xié)助進(jìn)行資料搜集。

參考資料：

[1]https://youtube.googleblog.com/2019/06/giving-you-more-control-over-homepage.html

[2]http://www.europarl.europa.eu/thinktank/en/document.html?reference=EPRS_STU(2019)624262

[3] https://edition.cnn.com/2019/10/07/tech/deepfake-videos-increase/index.html

[4] https://www.congress.gov/bill/116th-congress/house-bill/3230

[5] https://www.congress.gov/bill/116th-congress/senate-bill/2065/text

[6] https://mp.weixin.qq.com/s/_3oKDj2WnPioFMlk9-bwvw