原標題：算法自律——智能化時代的創(chuàng)新治理探索

來源：光明網(wǎng)

人工智能是引領(lǐng)新一輪科技變革的顛覆性技術(shù)，伴隨其向社會各領(lǐng)域的滲透融合，在倫理、安全、隱私、公平等方面，也帶來了新的挑戰(zhàn)和問題。11月19日，在首屆中國網(wǎng)絡(luò)文明大會數(shù)據(jù)與算法論壇中，中國網(wǎng)絡(luò)社會組織聯(lián)合會發(fā)起了《互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用自律公約》(以下簡稱《公約》)，旨在加強互聯(lián)網(wǎng)信息服務(wù)行業(yè)自律，引導平臺及企業(yè)擔當社會責任，促進算法應(yīng)用向上向善，強化算法應(yīng)用示范引領(lǐng)，推動用主流價值導向駕馭“算法”，助力共建算法良好生態(tài)。

智能算法使機器擁有了分析、預(yù)測、優(yōu)化甚至決策的能力，智能算法的自主性和決策能力成為智能化變革的核心要素。在加快推進人工智能技術(shù)研發(fā)和產(chǎn)業(yè)應(yīng)用的同時，需要同步跟進適應(yīng)智能化變革的制度調(diào)整和技術(shù)治理。隨著數(shù)據(jù)的積累和算法技術(shù)的發(fā)展，算法應(yīng)用已經(jīng)滲透到人們生活的方方面面，同時也滋生了“過度推薦”“流量造假”“大數(shù)據(jù)殺熟”及“深度偽造”等損害公眾利益、破壞正當競爭、擾亂社會秩序的行為。算法治理跟不上，就會反過來制約技術(shù)的應(yīng)用和發(fā)展。

對于算法應(yīng)用，應(yīng)該充分重視其技術(shù)屬性和社會屬性并重的特征，樹立“負責任創(chuàng)新”的價值觀，避免技術(shù)創(chuàng)新被引入濫用的歧途。一方面，需要通過政策法規(guī)來規(guī)范算法技術(shù)的應(yīng)用，保證技術(shù)的創(chuàng)新應(yīng)用和安全可控協(xié)調(diào)發(fā)展。另一方面，也需要通過行業(yè)自律等方式規(guī)范企業(yè)行為，將政策法規(guī)精神落到實處。此次發(fā)布的《公約》，是互聯(lián)網(wǎng)信息服務(wù)行業(yè)落實算法應(yīng)用治理的積極嘗試和探索，有助于企業(yè)切實承擔互聯(lián)網(wǎng)信息服務(wù)算法治理社會責任，加強互聯(lián)網(wǎng)信息服務(wù)行業(yè)自律，推動行業(yè)健康有序發(fā)展。

《公約》首先強調(diào)了合規(guī)底線，強調(diào)依法依規(guī)開展算法應(yīng)用，加強行業(yè)自律，積極踐行社會主義核心價值觀，尊重社會公序良俗，恪守商業(yè)道德。在此基礎(chǔ)上，進一步落實主體責任，明確要求相關(guān)單位和企業(yè)履行算法治理義務(wù)，承擔算法治理責任；設(shè)立算法治理組織機構(gòu)，持續(xù)完善算法治理制度，建立健全算法安全應(yīng)急管理預(yù)案；開展算法倫理審查，開展算法安全風險監(jiān)測、評估和防控。從治理機制和措施方面，明確了責任和義務(wù)，有助于政策的實施。

《公約》中“維護網(wǎng)民權(quán)益”“筑牢安全防線”“促進算法公平”等內(nèi)容，呼應(yīng)了國家新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能倫理規(guī)范》中“促進公平公正”“保護隱私安全”“確保可控可信”等基本倫理規(guī)范，并在研發(fā)、供應(yīng)、使用等各個環(huán)節(jié)提出了相應(yīng)的管理規(guī)范。落實算法應(yīng)用治理，就必須保障用戶的知情權(quán)、選擇權(quán)等合法權(quán)益，并保證算法在分析、決策和優(yōu)化等具體應(yīng)用任務(wù)的公平性，不能基于數(shù)據(jù)和算法優(yōu)勢對用戶不正當?shù)剡M行差別對待。在安全保障方面，需要防范應(yīng)用、內(nèi)容和數(shù)據(jù)的安全風險，提高算法風險監(jiān)測、預(yù)警和處置能力。

《公約》最后提出，要推動設(shè)計研發(fā)創(chuàng)新，持續(xù)開展算法研發(fā)，主動掌握關(guān)鍵核心技術(shù)，融入全球科技創(chuàng)新整體格局。對于智能算法的治理問題，不僅要從現(xiàn)有技術(shù)角度出發(fā)，也要從發(fā)展的角度提出前瞻性的預(yù)判和要求。這也是張鈸院士提出“第三代人工智能”的初衷，希望通過融合第一代知識驅(qū)動和第二代數(shù)據(jù)驅(qū)動的人工智能，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴展的AI技術(shù)。當前以深度學習為代表的人工智能算法，本質(zhì)上是“黑盒”，在可靠性、可解釋性、安全性等方面存在缺陷，發(fā)展第三代人工智能技術(shù)能夠克服深度學習這些缺陷，有利于推動人工智能創(chuàng)新發(fā)展。對于算法治理的要求，也會對人工智能技術(shù)的創(chuàng)新發(fā)展起到有益的促進作用。

作者：特約評論員 朱軍(清華大學人工智能研究院基礎(chǔ)理論中心主任)

【編輯:田博群】

[責任編輯：楊凡、單提詞]

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網(wǎng)官方微博（@齊魯網(wǎng)）提供新聞線索。齊魯網(wǎng)廣告熱線0531-81695052，誠邀合作伙伴。