隨著移動(dòng)互聯(lián)基礎(chǔ)設(shè)施的大力建設(shè)和移動(dòng)終端設(shè)備的廣泛普及，資訊通信技術(shù)和數(shù)字?jǐn)?shù)據(jù)技術(shù)的應(yīng)用場景和頻次得到極大豐富和提升，海量的用戶數(shù)據(jù)的生産、流動(dòng)、使用、開發(fā)得到極大提速，演算法技術(shù)的開發(fā)和應(yīng)用得到極大激勵(lì)。以海量數(shù)據(jù)為基礎(chǔ)的人工智慧演算法與網(wǎng)約車、網(wǎng)路購物、靈活用工等應(yīng)用場景的深度融合，給數(shù)字經(jīng)濟(jì)高品質(zhì)發(fā)展注入強(qiáng)大動(dòng)能。同時(shí)，由於演算法技術(shù)及應(yīng)用場景的深度商業(yè)化和廣泛市場化，“大數(shù)據(jù)殺熟”、誘導(dǎo)用戶沉迷網(wǎng)路、過度消費(fèi)等演算法技術(shù)在數(shù)字經(jīng)濟(jì)發(fā)展中引發(fā)的負(fù)效應(yīng)已深度衝擊了市場競爭秩序和社會(huì)管理秩序，給維護(hù)市場公平競爭、消費(fèi)者合法權(quán)益、社會(huì)治理乃至國家安全都帶來了諸多挑戰(zhàn)，迫切需要對(duì)演算法應(yīng)用加強(qiáng)規(guī)範(fàn)，保障和促進(jìn)以“數(shù)據(jù)、演算法、算力”為核心要素的數(shù)字經(jīng)濟(jì)健康發(fā)展。

　　2022年1月12日，國務(wù)院印發(fā)《“十四五”數(shù)字經(jīng)濟(jì)發(fā)展規(guī)劃》（簡稱《規(guī)劃》）。《規(guī)劃》指出，我國數(shù)字經(jīng)濟(jì)發(fā)展迅速，但依然面臨發(fā)展不平衡、不充分、不規(guī)範(fàn)的問題，需要提高我國數(shù)字經(jīng)濟(jì)治理水準(zhǔn)。應(yīng)優(yōu)化升級(jí)數(shù)字基礎(chǔ)設(shè)施，推進(jìn)“雲(yún)網(wǎng)協(xié)同”和“算網(wǎng)融合”發(fā)展，加快構(gòu)建算力、演算法、數(shù)據(jù)、應(yīng)用資源協(xié)同的全國一體化大數(shù)據(jù)中心體系?！兑?guī)劃》提出，應(yīng)當(dāng)堅(jiān)持公平競爭、安全有序的基本原則，以競爭政策為基礎(chǔ)，兼顧促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展與保障市場運(yùn)作安全，結(jié)合市場監(jiān)管、宏觀調(diào)控、政策法規(guī)等多種規(guī)制手段，協(xié)調(diào)多主體，共同搭建完善協(xié)同監(jiān)管規(guī)則制度，推動(dòng)平臺(tái)經(jīng)濟(jì)健康發(fā)展。

　　作為網(wǎng)際網(wǎng)路建設(shè)和應(yīng)用大國，我國高度重視對(duì)網(wǎng)際網(wǎng)路領(lǐng)域各類行為及相關(guān)數(shù)據(jù)安全的建設(shè)，目前已形成包括《網(wǎng)路安全法》《數(shù)據(jù)安全法》《個(gè)人資訊保護(hù)法》《網(wǎng)際網(wǎng)路資訊服務(wù)管理辦法》等多部法律法規(guī)在內(nèi)的較為成熟的網(wǎng)路、數(shù)據(jù)及演算法的監(jiān)管體系。2021年12月31日，國家網(wǎng)信辦、工業(yè)和資訊化部、公安部、國家市場監(jiān)管總局聯(lián)合發(fā)佈《網(wǎng)際網(wǎng)路資訊服務(wù)演算法推薦管理規(guī)定》（簡稱《規(guī)定》），2022年3月1日起正式施行?！兑?guī)定》作為上述法規(guī)體系的重要組成部分，與《規(guī)劃》中數(shù)字經(jīng)濟(jì)發(fā)展應(yīng)堅(jiān)持公平競爭、安全有序的基本原則相一致，是貫徹落實(shí)中央關(guān)於網(wǎng)路安全和資訊化工作戰(zhàn)略部署、推進(jìn)網(wǎng)際網(wǎng)路資訊服務(wù)生態(tài)治理的重要舉措?！兑?guī)定》的發(fā)佈為懲治演算法亂象提供了明確且具有針對(duì)性和操作性的法律規(guī)範(fàn)，對(duì)規(guī)範(fàn)和促進(jìn)數(shù)字經(jīng)濟(jì)健康發(fā)展具有重大意義。

　　一、夯實(shí)安全發(fā)展底線，規(guī)範(fàn)演算法至善

　　《規(guī)劃》指出，在發(fā)展數(shù)字經(jīng)濟(jì)的同時(shí)，還應(yīng)牢牢守住安全底線，著力強(qiáng)化數(shù)字經(jīng)濟(jì)安全體系。要增強(qiáng)網(wǎng)路安全防護(hù)能力，提升數(shù)據(jù)安全保障水準(zhǔn)，切實(shí)有效防範(fàn)各類風(fēng)險(xiǎn)。其中演算法治理作為整個(gè)數(shù)字經(jīng)濟(jì)整體治理與系統(tǒng)治理的關(guān)鍵環(huán)節(jié)，不僅涉及到市場治理，還涉及到社會(huì)治理與國家總體安全。正如《規(guī)定》第六條明確規(guī)定，演算法推薦服務(wù)提供者不得利用演算法推薦服務(wù)，從事危害國家安全和社會(huì)公共利益、擾亂經(jīng)濟(jì)秩序和社會(huì)秩序、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng)；第七條明確要求演算法推薦服務(wù)提供者應(yīng)當(dāng)落實(shí)演算法安全主體責(zé)任，建立健全數(shù)據(jù)安全保護(hù)和個(gè)人資訊保護(hù)等管理制度和技術(shù)措施。這在國家安全層面和個(gè)人資訊保護(hù)層面，均對(duì)演算法推薦服務(wù)提供者提出了新的要求，為國家安全、社會(huì)公共利益、個(gè)人隱私等提供了重要制度保障。

　　在實(shí)踐中，演算法推薦服務(wù)提供者往往會(huì)借助演算法技術(shù)對(duì)消費(fèi)者用戶數(shù)據(jù)進(jìn)行分析整理，形成用戶模型或用戶標(biāo)簽，並以此為基礎(chǔ)進(jìn)行精準(zhǔn)推送。用戶模型或用戶標(biāo)簽雖然可以提高資訊推送效率，但是易形成“資訊繭房”，使用戶局限在自己熟悉的領(lǐng)域內(nèi)，滿足於被動(dòng)的知識(shí)積累，無法獲取全面、客觀的資訊；若將違法和不良資訊關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽並據(jù)以推送資訊，還可能會(huì)對(duì)用戶的身心健康産生不利影響。對(duì)此，《規(guī)定》第十條要求演算法推薦服務(wù)提供者應(yīng)當(dāng)完善記入用戶模型的興趣點(diǎn)規(guī)則和用戶標(biāo)簽管理規(guī)則，不得將違法和不良資訊關(guān)鍵詞記入用戶興趣點(diǎn)或者作為用戶標(biāo)簽並據(jù)以推送資訊。

　　當(dāng)前，演算法在降低公眾篩選有效資訊時(shí)間成本的同時(shí)，也擴(kuò)大了網(wǎng)路生態(tài)失衡、失真的風(fēng)險(xiǎn)，操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)資訊呈現(xiàn)的問題層出不窮，針對(duì)這些問題，《規(guī)定》第十四條規(guī)定，“演算法推薦服務(wù)提供者不得利用演算法虛假註冊(cè)賬號(hào)、非法交易賬號(hào)、操縱用戶賬號(hào)或者虛假點(diǎn)讚、評(píng)論、轉(zhuǎn)發(fā)，不得利用演算法遮罩資訊、過度推薦、操縱榜單或者檢索結(jié)果排序、控制熱搜或者精選等干預(yù)資訊呈現(xiàn)，實(shí)施影響網(wǎng)路輿論或者規(guī)避監(jiān)督管理行為”。此款規(guī)定將有效規(guī)制借助演算法技術(shù)對(duì)網(wǎng)路輿論産生不良影響的行為，暢通社會(huì)監(jiān)督的渠道。

　　二、“以人為本”框定演算法應(yīng)用紅線

　　當(dāng)前，受到新冠肺炎疫情的影響，傳統(tǒng)行業(yè)的就業(yè)者難以便捷就業(yè)，而以平臺(tái)經(jīng)濟(jì)為基礎(chǔ)的靈活用工形式則吸引了大量的勞動(dòng)者就業(yè)，緩解了民生壓力。外賣配送員、專車司機(jī)、網(wǎng)約家政等主體均依靠網(wǎng)際網(wǎng)路平臺(tái)經(jīng)濟(jì)獲取訂單，但這些勞動(dòng)者的權(quán)益亦可能受到演算法不合理的訂單分配、獎(jiǎng)懲規(guī)則及工作時(shí)間安排影響，被迫延長工作時(shí)間、超出工作強(qiáng)度，或是無法正常接收訂單。對(duì)此，《規(guī)劃》指出，應(yīng)當(dāng)切實(shí)有效防範(fàn)各類風(fēng)險(xiǎn)，建立完善相關(guān)演算法，健全靈活就業(yè)人員參加社會(huì)保險(xiǎn)制度和勞動(dòng)者權(quán)益保障制度?！兑?guī)定》第二十條規(guī)定，“演算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益，建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)演算法”。

　　同時(shí)，面對(duì)我國老齡化社會(huì)的加速到來，《規(guī)劃》指出，優(yōu)化基礎(chǔ)設(shè)施智慧升級(jí)，應(yīng)當(dāng)充分滿足老年人等特殊群體的需求；強(qiáng)化數(shù)字經(jīng)濟(jì)安全體系，同樣需要健全完善針對(duì)老年人等特殊群體的網(wǎng)路保護(hù)機(jī)制。當(dāng)下，隨著人工智慧技術(shù)的應(yīng)用範(fàn)圍擴(kuò)大，整個(gè)社會(huì)都向著智慧化方向不斷發(fā)展。但是對(duì)於老年人群體來説，由於學(xué)習(xí)能力不如年輕人，面對(duì)新興的演算法推薦服務(wù)，可能難以有效掌握，故無法享受到演算法推薦服務(wù)所帶來的全新體驗(yàn)，甚至隨著智慧化設(shè)備不斷取代傳統(tǒng)的設(shè)備，也給老年人群體帶來了諸多不便之處。對(duì)此，《規(guī)定》第十九條規(guī)定，“演算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國家有關(guān)規(guī)定提供智慧化適老服務(wù)，依法開展涉電信網(wǎng)路詐騙資訊的監(jiān)測、識(shí)別和處置，便利老年人安全使用演算法推薦服務(wù)”。

　　此外，由於未成年人尚未形成健全的價(jià)值觀，難以甄別紛繁複雜的各類資訊，易受網(wǎng)際網(wǎng)路不良資訊或應(yīng)用服務(wù)的影響，尤其是網(wǎng)路遊戲、短視頻等應(yīng)用軟體導(dǎo)致未成年人沉迷的事件疊起，引發(fā)了公眾的廣泛熱議。對(duì)此，《規(guī)劃》指出，應(yīng)當(dāng)健全完善針對(duì)未成年人等特殊群體的網(wǎng)路保護(hù)機(jī)制?！兑?guī)定》第十八條明確要求，演算法推薦服務(wù)提供者應(yīng)當(dāng)依法履行未成年人網(wǎng)路保護(hù)義務(wù)，提供適合未成年人特點(diǎn)的服務(wù)，便利未成年人獲取有益身心健康的資訊，不得向未成年人推送影響未成年人身心健康的資訊，並且不得利用演算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)路。

　　三、做好分類協(xié)同，提升演算法治理水準(zhǔn)

　　千人千面，個(gè)性化應(yīng)用是演算法的典型特徵，故依據(jù)演算法應(yīng)用所涉及的內(nèi)容類別、輿論屬性以及用戶規(guī)模等因素，以及演算法應(yīng)用對(duì)網(wǎng)路安全可能産生的風(fēng)險(xiǎn)大小，對(duì)社會(huì)産生的損害範(fàn)圍及程度，對(duì)其進(jìn)行分級(jí)分類的治理是當(dāng)前演算法治理的主流觀點(diǎn)和基本理路。如《規(guī)定》第二十三條明確了分級(jí)分類的差異化監(jiān)管制度，要求網(wǎng)信部門會(huì)同電信、公安、市場監(jiān)管等有關(guān)部門，根據(jù)演算法推薦服務(wù)的輿論屬性或者社會(huì)動(dòng)員能力、內(nèi)容類別、用戶規(guī)模等要素對(duì)演算法推薦服務(wù)提供者實(shí)施分級(jí)分類管理，更加全面地開展演算法安全評(píng)估和監(jiān)督檢查等各項(xiàng)工作。

　　為進(jìn)一步應(yīng)對(duì)演算法千人千面、難以把握的“黑箱”屬性，《規(guī)定》第二十四條明確了演算法備案制度，要求具有輿論屬性或者社會(huì)動(dòng)員能力的演算法推薦服務(wù)提供者應(yīng)通過網(wǎng)際網(wǎng)路資訊服務(wù)演算法備案系統(tǒng)填報(bào)服務(wù)提供者的服務(wù)形式、應(yīng)用領(lǐng)域、演算法自評(píng)估報(bào)告等資訊，履行備案手續(xù)。演算法備案制度的建立有助於對(duì)演算法推薦服務(wù)進(jìn)行監(jiān)管，更好預(yù)防演算法可能帶來的風(fēng)險(xiǎn)。

　　同時(shí)，《規(guī)劃》明確指出為健全完善數(shù)字經(jīng)濟(jì)治理體系，需進(jìn)一步強(qiáng)化協(xié)同治理和監(jiān)管機(jī)制，增強(qiáng)政府?dāng)?shù)字化治理能力，完善多元共治新格局。

　　根據(jù)《規(guī)劃》要求，規(guī)範(fàn)演算法應(yīng)用，首先，應(yīng)強(qiáng)化協(xié)同治理機(jī)制，加強(qiáng)政府內(nèi)部不同部門之間的協(xié)同治理，應(yīng)明晰主管部門、監(jiān)管機(jī)構(gòu)職責(zé)，強(qiáng)化跨部門、跨層級(jí)、跨區(qū)域協(xié)同監(jiān)管，明確監(jiān)管範(fàn)圍和統(tǒng)一規(guī)則，加強(qiáng)分工合作與協(xié)調(diào)配合。正如，在《規(guī)定》第三條中所規(guī)定的參與演算法推薦服務(wù)治理部門除了國家網(wǎng)信部門，還包括電信、公安、市場監(jiān)管等有關(guān)部門，《規(guī)定》指出，這些部門依據(jù)各自職責(zé)負(fù)責(zé)演算法推薦服務(wù)監(jiān)督管理工作，地方部門則依據(jù)職責(zé)負(fù)責(zé)本行政區(qū)域內(nèi)的監(jiān)管工作。然而，由於演算法推薦服務(wù)往往具有跨區(qū)域、跨領(lǐng)域等特性，在監(jiān)管過程中亦可能同時(shí)牽涉多個(gè)監(jiān)管部門或多個(gè)區(qū)域的地方監(jiān)管部門，因此，為避免在監(jiān)管過程中因職責(zé)交叉而導(dǎo)致相互推諉的情況發(fā)生，還需建立跨部門跨區(qū)域的協(xié)同監(jiān)管機(jī)制。

　　其次，應(yīng)建立完善多元共治。《規(guī)劃》明確，要建立完善政府、平臺(tái)、企業(yè)、行業(yè)組織和社會(huì)公眾多元參與、有效協(xié)同的數(shù)字經(jīng)濟(jì)治理格局。

　　行業(yè)健康發(fā)展，一方面需要法律規(guī)範(fàn)和政府監(jiān)管形成外部約束，另一方面也需要行業(yè)自律。為此，《規(guī)劃》指出，要進(jìn)一步推進(jìn)行業(yè)服務(wù)標(biāo)準(zhǔn)建設(shè)和行業(yè)自律。為鼓勵(lì)演算法服務(wù)行業(yè)形成行業(yè)自律，《規(guī)定》第五條明確強(qiáng)調(diào)，鼓勵(lì)相關(guān)行業(yè)組織加強(qiáng)行業(yè)自律，建立健全行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和自律管理制度，督促指導(dǎo)演算法推薦服務(wù)提供者制定完善服務(wù)規(guī)範(fàn)、依法提供服務(wù)並接受社會(huì)監(jiān)督，尤其對(duì)當(dāng)前社會(huì)各界普遍關(guān)注的“大數(shù)據(jù)殺熟”、“資訊繭房”等演算法熱點(diǎn)問題及其法律責(zé)任進(jìn)行了明確規(guī)範(fàn)，為建立健全多元共治格局奠定制度基礎(chǔ)。

　　目前，我國以數(shù)字經(jīng)濟(jì)為主要經(jīng)濟(jì)業(yè)態(tài)和行業(yè)的發(fā)展正站在新週期起點(diǎn)之上，數(shù)字經(jīng)濟(jì)由高速增長階段轉(zhuǎn)向高品質(zhì)發(fā)展階段。治理演算法已構(gòu)成保障和促進(jìn)數(shù)字經(jīng)濟(jì)高品質(zhì)發(fā)展的重中之重，其不僅關(guān)乎數(shù)字經(jīng)濟(jì)發(fā)展的效率，還涉及數(shù)字經(jīng)濟(jì)運(yùn)作的安全，為此，儘快搭建安全規(guī)範(fàn)、“以人為本”覆蓋演算法應(yīng)用全週期、全場景、全流程的分類協(xié)同治理機(jī)制及方式方法已成為引導(dǎo)演算法向善、激勵(lì)演算法創(chuàng)新、釋放演算法正效能的關(guān)鍵。（作者：陳兵　南開大學(xué)法學(xué)院教授、司法與社會(huì)研究中心主任，中國新一代人工智慧發(fā)展戰(zhàn)略研究院特約研究員）