網(wǎng)信辦擬出重磅新規(guī) 算法推薦服務(wù)迎來(lái)強(qiáng)監(jiān)管
本報(bào)記者 崔 爽
算法在便利數(shù)字時(shí)代生活的同時(shí)，也是備受詬病的“黑箱”。8月27日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》(以下簡(jiǎn)稱(chēng)《意見(jiàn)稿》)并公開(kāi)征求意見(jiàn)。
《意見(jiàn)稿》明確提出，不得實(shí)施流量造假、控制熱搜等影響網(wǎng)絡(luò)輿論；外賣(mài)及網(wǎng)約車(chē)平臺(tái)對(duì)勞動(dòng)者、消費(fèi)者的雙重算法需規(guī)范，保證勞動(dòng)者算法的公正透明，抵制算法對(duì)消費(fèi)者“大數(shù)據(jù)殺熟”等。相關(guān)規(guī)定給算法推薦服務(wù)戴上“緊箍咒”。
牽住“主體責(zé)任”這一牛鼻子
“這個(gè)規(guī)定不是突然出臺(tái)的，它是針對(duì)當(dāng)下公眾反映強(qiáng)烈、問(wèn)題突出的算法治理問(wèn)題做出的先導(dǎo)性回應(yīng)，體現(xiàn)了對(duì)算法領(lǐng)域焦點(diǎn)問(wèn)題進(jìn)行系統(tǒng)全面治理的思路�！北本⿴煼洞髮W(xué)網(wǎng)絡(luò)法治國(guó)際中心執(zhí)行主任、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括對(duì)科技日?qǐng)?bào)記者表示，《意見(jiàn)稿》有兩個(gè)突出特點(diǎn)：更強(qiáng)調(diào)生態(tài)治理、更突出主體責(zé)任，其規(guī)范核心主體是“算法推薦服務(wù)提供者”，以之為“牛鼻子”推出和落實(shí)相關(guān)行為規(guī)則。
據(jù)中央財(cái)經(jīng)大學(xué)中國(guó)互聯(lián)網(wǎng)經(jīng)濟(jì)研究院副院長(zhǎng)歐陽(yáng)日輝介紹，“大數(shù)據(jù)殺熟”就是企業(yè)通過(guò)平臺(tái)用戶(hù)的數(shù)字畫(huà)像，利用用戶(hù)的信息不對(duì)稱(chēng)以及對(duì)價(jià)格波動(dòng)的不敏感這一特點(diǎn)對(duì)不同的消費(fèi)者進(jìn)行差別化定價(jià)，暴露了相關(guān)企業(yè)對(duì)思想道德建設(shè)的忽視。
吳沈括同樣表示，一些互聯(lián)網(wǎng)企業(yè)的算法應(yīng)用造成的偏見(jiàn)、歧視與差別待遇，實(shí)際上對(duì)國(guó)家的互聯(lián)網(wǎng)內(nèi)容治理生態(tài)和網(wǎng)絡(luò)安全等方面造成很大的消極影響。
“相關(guān)企業(yè)要增強(qiáng)社會(huì)責(zé)任感與思想道德建設(shè)，完善自我約束機(jī)制�！睔W陽(yáng)日輝說(shuō)，“要強(qiáng)化數(shù)據(jù)采集的合規(guī)化，降低算法歧視發(fā)生的概率，也要賦予網(wǎng)絡(luò)數(shù)據(jù)主體被遺忘權(quán)，完善數(shù)據(jù)退出機(jī)制。另外，對(duì)敏感數(shù)據(jù)進(jìn)行數(shù)據(jù)脫敏也是從數(shù)據(jù)角度減少算法歧視的一個(gè)手段�！�
對(duì)算法進(jìn)行全生命周期治理
近日表決通過(guò)的個(gè)人信息保護(hù)法中要求，通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷(xiāo)，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式。
這也體現(xiàn)在《意見(jiàn)稿》的要求中：算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。
在吳沈括看來(lái)，這體現(xiàn)了《意見(jiàn)稿》與現(xiàn)行法律法規(guī)的配合，如網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等，現(xiàn)實(shí)指向意義很強(qiáng)，“新規(guī)是對(duì)上位法的落實(shí)，它有助于拉齊整個(gè)行業(yè)的治理水平，整個(gè)算法應(yīng)用生態(tài)的治理水平取決于行業(yè)內(nèi)的短板企業(yè)，只有用法規(guī)向上拉齊，才能避免行業(yè)的劣幣驅(qū)逐良幣。”
“目前我們已經(jīng)進(jìn)入算法社會(huì)，這是無(wú)可阻擋的潮流，關(guān)鍵就是要怎么治理和規(guī)范好�！眳巧蚶ㄕf(shuō)，著眼于與國(guó)際良好實(shí)踐的比較，治理的核心焦點(diǎn)是透明度，包括機(jī)制透明度、規(guī)則透明度等，最大限度實(shí)現(xiàn)多層次的透明。
他建議，相關(guān)企業(yè)需要建立健全用于識(shí)別違法和不良信息的特征庫(kù)，完善入庫(kù)標(biāo)準(zhǔn)、規(guī)則和程序。發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，防止信息擴(kuò)散，保存有關(guān)記錄，并向相關(guān)部門(mén)報(bào)告。同時(shí)也要保持和監(jiān)管機(jī)構(gòu)常態(tài)、良性的互動(dòng)，保持溝通，實(shí)現(xiàn)風(fēng)險(xiǎn)管理需求。
此外，《意見(jiàn)稿》對(duì)包括用戶(hù)注冊(cè)、信息發(fā)布審核、算法機(jī)制機(jī)理審核、安全評(píng)估監(jiān)測(cè)、安全事件應(yīng)急處置、數(shù)據(jù)安全保護(hù)和個(gè)人信息保護(hù)等在內(nèi)的方方面面作出規(guī)定，吳沈括表示，這體現(xiàn)出了全流程、全生命周期治理的思路，“相信未來(lái)在新規(guī)的落實(shí)中，也會(huì)是一個(gè)生態(tài)治理和共同參與，共同構(gòu)筑社會(huì)公共信任的過(guò)程�！�
