規(guī)范算法推薦 發(fā)展科技法理

　　隨著數(shù)字技術(shù)日益廣泛的應(yīng)用，算法逐漸在社會(huì)生產(chǎn)、生活中發(fā)揮著日益重要的作用。我們正逐漸邁入“算法泛在”的世界。算法既是使人們?cè)谌諠u廣袤的互聯(lián)網(wǎng)信息海洋中獲得有益信息的橋梁，也是使數(shù)據(jù)和硬件資源得以更加充分地發(fā)揮作用的關(guān)鍵所在，在數(shù)字中國(guó)建設(shè)中具有重要意義。但與此同時(shí)，隨著社會(huì)數(shù)字化、智能化程度的不斷提高，算法安全、算法黑箱、算法歧視、信息繭房等諸多問題在世界范圍內(nèi)得到了高度關(guān)注，各國(guó)都在積極探索如何更好地對(duì)此予以回應(yīng)和解決。

　　2021年12月31日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家市場(chǎng)監(jiān)管總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），于2022年3月1日起開始實(shí)施�！兑�(guī)定》旨在規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展�！兑�(guī)定》的發(fā)布和實(shí)施，是對(duì)算法推薦這一當(dāng)下我國(guó)網(wǎng)絡(luò)治理領(lǐng)域具有突出性的、受到廣泛關(guān)注問題的積極回應(yīng)，是在世界范圍內(nèi)首次針對(duì)互聯(lián)網(wǎng)信息服務(wù)算法推薦建立起來的具體法律規(guī)范，是智能社會(huì)的法治秩序體系的有益補(bǔ)充，是“數(shù)字中國(guó)”與“法治中國(guó)”建設(shè)深度融合發(fā)展的重要探索。

　　《規(guī)定》中的具體規(guī)范措施，體現(xiàn)了我國(guó)在科技發(fā)展運(yùn)用之中對(duì)于科技法理的探索、發(fā)展和落實(shí)，特別體現(xiàn)了如下原則：

　　一、倫理與法治相結(jié)合原則

　　《規(guī)定》中采用了整體原則與具體領(lǐng)域倫理規(guī)則相結(jié)合、科技倫理與主體責(zé)任相鏈接的規(guī)則設(shè)置模式，將倫理與法治更有機(jī)、科學(xué)地結(jié)合在一起。近幾年來，眾多國(guó)家、地區(qū)、組織、企業(yè)紛紛發(fā)布了人工智能或自動(dòng)化系統(tǒng)的倫理準(zhǔn)則，我國(guó)也予以了高度重視。例如國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，在以人為本、促進(jìn)創(chuàng)新、保障安全、保護(hù)隱私、明晰責(zé)任等價(jià)值觀上取得了高度共識(shí)�！兑�(guī)定》第四條中規(guī)定了應(yīng)“尊重社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德，遵循公正公平、公開透明、科學(xué)合理和誠(chéng)實(shí)信用的原則”，吸納了該領(lǐng)域的一些重要倫理原則，作為算法推薦活動(dòng)應(yīng)遵循的一般原則。同時(shí)，對(duì)于一些重點(diǎn)領(lǐng)域也進(jìn)行了有針對(duì)性的具體規(guī)定。例如，第八條中規(guī)定“不得設(shè)置誘導(dǎo)用戶沉迷或者高額消費(fèi)等違背公序良俗的算法模型”。這種倫理在法律規(guī)范中的兩層次嵌入，體現(xiàn)了在技術(shù)發(fā)展變化快速、智能社會(huì)法律秩序還在不斷探索的階段，在一定程度上依賴與倫理相鏈接的法治思路。同時(shí)，為更好地引導(dǎo)企業(yè)重視科技倫理并采取相應(yīng)措施，相比2021年8月發(fā)布的征求意見稿，《規(guī)定》在第七條中更是專門增加了建立“科技倫理審查”等管理制度和技術(shù)措施的要求，作為企業(yè)落實(shí)算法安全主體責(zé)任的重要方面。

　　二、社會(huì)共建共治共享原則

　　“共建共治共享”、建設(shè)“社會(huì)治理共同體”等思想和理論，為新時(shí)代社會(huì)治理指出了重要發(fā)展方向，也奠定了算法多元共治的本土理論基礎(chǔ)�！兑�(guī)定》中著重建立了政府監(jiān)督管理、推動(dòng)企業(yè)自治、鼓勵(lì)行業(yè)自律、發(fā)展行業(yè)標(biāo)準(zhǔn)、便利公民維權(quán)等方面的具體規(guī)范，有利于推動(dòng)多元主體共同參與算法治理，是“共建共治共享”的思想和基本理論在算法治理領(lǐng)域中的具體落地。

　　三、算法分級(jí)分類治理原則

　　網(wǎng)絡(luò)空間具有層次劃分并且包羅萬象，分級(jí)分類治理是網(wǎng)絡(luò)與信息法治里面的普遍原則。這在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》中均有具體體現(xiàn)�！兑�(guī)定》第十九條中專門規(guī)定了網(wǎng)信部門會(huì)同電信、公安、市場(chǎng)監(jiān)管等有關(guān)部門建立算法分級(jí)分類安全管理制度，是分級(jí)分類治理原則的集中體現(xiàn)。此外，目前分級(jí)分類治理原則在《規(guī)定》中主要體現(xiàn)為兩個(gè)方面：一是對(duì)于“具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)”，由于其涉及國(guó)家安全風(fēng)險(xiǎn)，因而除《規(guī)定》中的一般規(guī)則外，還特別設(shè)置了“算法備案”“自評(píng)估”的特別義務(wù)。二是面向一些特定類別的服務(wù)，分別進(jìn)行了有針對(duì)性的規(guī)定，例如向未成年人提供服務(wù)（第十八條）、向老年人提供服務(wù)（第十九條）、向勞動(dòng)者提供工作調(diào)度服務(wù)（第二十條）、向消費(fèi)者銷售商品或者提供服務(wù)（第二十一條）等。分級(jí)分類治理避免了“一刀切”式的粗獷立法，有利于增強(qiáng)法律規(guī)范的針對(duì)性、科學(xué)性、有效性。

　　四、安全與發(fā)展并重原則

　　如何解決好安全與發(fā)展、秩序與活力等目標(biāo)之間的沖突，是科技法治領(lǐng)域的難點(diǎn)與重點(diǎn)�！兑�(guī)定》制定過程中充分體現(xiàn)了安全與發(fā)展并重的基本原則。例如，《規(guī)定》向用戶提供“選擇或者刪除”用戶標(biāo)簽功能的要求，反映了對(duì)多方利益和制度科學(xué)性的綜合考量。再如，算法備案制度的建立，體現(xiàn)出柔性治理的特點(diǎn)，承載了多元化的復(fù)合型功能，包括信息收集功能、信息公示功能、企業(yè)自治激勵(lì)功能等。未來算法備案等制度仍需進(jìn)一步細(xì)化，在細(xì)化過程中也仍然需要堅(jiān)持安全與發(fā)展并重的原則。

　　我國(guó)在新一輪產(chǎn)業(yè)革命中具有一些領(lǐng)先世界的優(yōu)勢(shì)，要發(fā)揮好這種優(yōu)勢(shì)，保障數(shù)字經(jīng)濟(jì)的健康發(fā)展，亟需探索一條算法治理的有效路徑�！兑�(guī)定》的出臺(tái)和實(shí)施，既為在實(shí)踐中出現(xiàn)的算法問題提供了系統(tǒng)的治理路徑，又貫徹落實(shí)了在我國(guó)科技法治實(shí)踐中總結(jié)和發(fā)展的法理原則，更在具體規(guī)范構(gòu)建上進(jìn)行了有益的創(chuàng)新和探索，為未來更加綜合、深化的科技法治體系構(gòu)建提供了重要基礎(chǔ)。（作者：張吉豫　中國(guó)人民大學(xué)法學(xué)院副教授，未來法治研究院執(zhí)行院長(zhǎng)）