當前，算法已成為數(shù)字社會發(fā)展的新引擎，但也伴生了“信息繭房”、大數(shù)據(jù)“殺熟”、傳播失真等亂象，加強算法治理備受各界關(guān)注——
今天，我們需要什么樣的互聯(lián)網(wǎng)算法
光明網(wǎng)記者 李政葳 雷渺鑫 周仕興
算法是網(wǎng)絡(luò)平臺生存發(fā)展的重要技術(shù)手段和基礎(chǔ)應(yīng)用支撐，也是互聯(lián)網(wǎng)及人工智能產(chǎn)業(yè)發(fā)展的關(guān)鍵因素。3月30日，在2025中國網(wǎng)絡(luò)媒體論壇期間，由中央網(wǎng)信辦網(wǎng)絡(luò)綜合治理局主辦，光明網(wǎng)、抖音承辦的“堅持主流價值導(dǎo)向 推動算法向上向善”主題分享會在廣西南寧舉辦。
當天，來自中央和國家機關(guān)有關(guān)部門，中央新聞單位，中央和地方新聞網(wǎng)站，各地網(wǎng)信辦，主要商業(yè)網(wǎng)站、互聯(lián)網(wǎng)企業(yè)負責人等300余位嘉賓參會。他們一致認為，要不斷凝聚眾智、攜手共治，讓技術(shù)既“聰明”又“善良”，共同守護清朗的網(wǎng)絡(luò)空間。
強化主流價值，打造良性內(nèi)容生態(tài)
“2024年下半年微博熱搜前十位的話題里，由媒體主持的熱點話題數(shù)量環(huán)比增長90%”“在2024年全年微博熱搜中，社會時事熱點96%來源于媒體”……會上，微博首席執(zhí)行官王高飛分享了這樣一組數(shù)據(jù)。他表示，媒體在微博獲得大流量的同時，傳播力也得到了充分提升，平臺的輿論引導(dǎo)價值不斷顯現(xiàn)。從2024年開始，微博創(chuàng)建起“媒體共建”機制，讓更多正能量話題登上熱搜，并提供更多流量加持。
當前，互聯(lián)網(wǎng)上內(nèi)容生態(tài)，已經(jīng)成為算法治理成效的重要標志。以微博為例，王高飛介紹，除了原創(chuàng)、首發(fā)、“暖”等標簽外，還將“辟謠”“主題宣傳”“官方回應(yīng)”等標簽開放給媒體，在發(fā)布時可以對內(nèi)容進行標注；根據(jù)媒體做的標注，平臺會對原創(chuàng)內(nèi)容加權(quán)推薦。
不僅微博，當前多家平臺不斷發(fā)揮自身優(yōu)勢，與主流媒體大力合作，擴大優(yōu)質(zhì)內(nèi)容影響力?？焓挚萍悸?lián)合創(chuàng)始人楊遠熙介紹，他們逐漸構(gòu)建了以主流媒體、政務(wù)號為核心的正能量矩陣，通過算法優(yōu)化分發(fā)鏈路，擴大優(yōu)質(zhì)內(nèi)容的覆蓋面和影響力。
針對“信息繭房”問題，抖音總裁韓尚佑分享了自身體驗——我們在實踐中發(fā)現(xiàn)，如果只推薦單一內(nèi)容，會使用戶很快厭倦，導(dǎo)致用戶體驗下降。因此，我們將消除“信息繭房”作為一項重要目標，建立了多目標模型，設(shè)置了100多個目標，以解決單一目標下系統(tǒng)容易重復(fù)推送相似內(nèi)容的問題；還加強了推薦系統(tǒng)中對搜索行為的應(yīng)用，讓系統(tǒng)更加實時地根據(jù)用戶搜索興趣進行調(diào)整。
“以透明化破除信任危機，以多樣化應(yīng)對信息同質(zhì)，以系統(tǒng)化實現(xiàn)協(xié)同治理?！彬v訊公司副總裁陳勇也提到，他們正在陸續(xù)構(gòu)建更豐富的“破繭”功能矩陣，并提供用戶指引，包括便捷關(guān)閉個性化推薦、“不感興趣”的負反饋、內(nèi)容多樣性綜合評估、推薦類目自定義等能力，通過算法迭代和體驗優(yōu)化的雙支點，讓用戶找得到、用得上、有實效。
凈化互聯(lián)網(wǎng)內(nèi)容生態(tài)，也需要提高算法透明度，為用戶賦權(quán)，讓他們了解算法邏輯?！八惴ǖ陌l(fā)展，必須以用戶為中心，保障其知情權(quán)、選擇權(quán)、隱私權(quán)。”楊遠熙介紹，快手公開熱搜排序規(guī)則，并通過趣味視頻、智能客服等渠道，向用戶普及算法邏輯，確保透明、可監(jiān)督。
小紅書也通過優(yōu)化產(chǎn)品設(shè)計，在長期信息流的分發(fā)中，把50%流量分配給用戶?！啊畔⒗O房’是一個雙向過程，平臺和用戶在內(nèi)容偏好上，要做到靈活調(diào)節(jié)，借助正、負反饋機制，進一步破除‘繭房’?！毙〖t書總編輯、副總裁許磊說。
創(chuàng)新技術(shù)驅(qū)動，跑出速度展現(xiàn)溫度
隨著生成式人工智能快速發(fā)展，社交媒體逐步向算法和數(shù)據(jù)主導(dǎo)的智能媒體方向演進。如何順應(yīng)技術(shù)趨勢，驅(qū)動算法創(chuàng)新發(fā)展？
楊遠熙提到“技術(shù)共治”這一關(guān)鍵詞。他認為，要以技術(shù)監(jiān)管技術(shù)，依托大模型能力實時監(jiān)測推薦偏差，對低質(zhì)內(nèi)容實施“智能熔斷”，輔助審核模型訓(xùn)練，強化內(nèi)容識別與治理能力；秉持“算法向上向善”理念，加大以人工智能為代表的技術(shù)研發(fā)，持續(xù)優(yōu)化算法推薦內(nèi)容池，保障內(nèi)容推薦的公平性、透明性、多樣性。
阿里巴巴集團安全總裁錢磊認為，作為數(shù)字時代的新質(zhì)生產(chǎn)力，算法可以從海量數(shù)據(jù)中發(fā)現(xiàn)和總結(jié)新的規(guī)律，讓各類企業(yè)特別是中小企業(yè)享受技術(shù)紅利，獲得生產(chǎn)效率的大幅提升。
對此，錢磊提出了“守己利他”的技術(shù)理念——“守己”，需要讓人工智能自始至終處于人類的控制之下，確保其生成的內(nèi)容符合價值觀、具備正能量；“利他”，堅持普惠創(chuàng)新、服務(wù)中小企業(yè)的初心，對該企業(yè)的通義大模型進行全尺寸、全模態(tài)、全能力的開源。
技術(shù)迭代提升效率的同時，也要做到“有溫度”?！八惴?，已經(jīng)成為保障騎手權(quán)益的重要抓手。當騎手擺脫配送時間的焦慮，在奔波忙碌中擁有更好的工作體驗，算法便不再是那么冰冷的工具?！泵缊F黨委書記、副總裁陳榮凱說。
比如，在配送時間方面，美團已公開“預(yù)估送達時間”算法規(guī)則，并且針對遠距離、單量多等配送難度較大的訂單，用預(yù)估送達時間段替代預(yù)估送達時間點；近期，還將在全國范圍上線“防疲勞”措施，當日跑單超過8小時的騎手將收到防疲勞彈窗提醒，超過12小時將強制下線。
在加強對特定群體關(guān)懷方面，陳勇舉例說，視頻號等產(chǎn)品已推出夜間休息提醒等功能，鼓勵用戶健康用網(wǎng)；持續(xù)升級未成年人模式與青少年專屬內(nèi)容池，幫助未成年人擺脫網(wǎng)絡(luò)沉迷；及時推送健康辟謠信息，設(shè)立防詐騙等宣傳專區(qū)，幫助老年人提高防范意識；為視障聽障等特殊需求用戶提供無障礙服務(wù)模式等。
此外，多家平臺加強行業(yè)聯(lián)動，推動產(chǎn)學(xué)研合作，提升算法技術(shù)創(chuàng)新能力，加強算法安全研究，提高抵御安全風險能力。比如，快手與清華大學(xué)聯(lián)合推出“負責任的內(nèi)容推薦關(guān)鍵技術(shù)研究與應(yīng)用”項目，聚焦解決自身平臺推薦中的視頻曝光偏差等問題；阿里巴巴成立“算法安全藍軍”，與清華大學(xué)、復(fù)旦大學(xué)等高校聯(lián)動，在實戰(zhàn)中提升檢驗防御能力，進一步守護算法安全。
凝聚多方合力，構(gòu)建共治共享格局
“算法就像我們做菜時放的鹽。我們需要算法創(chuàng)造價值、帶來便利，也要正視算法帶來的諸多挑戰(zhàn)?！标愑乱浴胞}”為喻，建議“用量精準”，只有堅持高效可用、安全可靠、透明可知、自主可控的原則，算法才能在新航路上乘風破浪。
算法紅利不斷惠及廣大網(wǎng)民，但算法治理同樣沒有“旁觀者”，需要政府、平臺、用戶、社會等多方合力，形成“共建共治共享”的治理格局。
為進一步深化互聯(lián)網(wǎng)信息服務(wù)算法綜合治理，中央網(wǎng)信辦等四部門于2024年11月聯(lián)合發(fā)布了《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》，明確“信息繭房”、大數(shù)據(jù)“殺熟”、誘導(dǎo)沉迷等六大整治重點，督促企業(yè)深入對照自查整改，進一步提升算法安全能力。
近些年，多家互聯(lián)網(wǎng)企業(yè)發(fā)力構(gòu)建“向上向善”算法治理生態(tài)。陳勇認為，需要堅持用戶為本和長期主義，在算法設(shè)計底層杜絕短視逐利、過度商業(yè)化、流量饑渴等竭澤而漁的行為。楊遠熙表示，快手通過成立算法安全委員會等措施，全面統(tǒng)籌算法安全管理監(jiān)督工作，構(gòu)建算法安全、算法糾偏、算法透明體系，實現(xiàn)內(nèi)容的真實與向善。韓尚佑介紹，抖音“安全與信任中心”網(wǎng)站已試運行上線，面向社會全面公開抖音的算法原理、社區(qū)規(guī)范、治理體系、客戶服務(wù)……
在分享會現(xiàn)場，“算法向善”南寧宣言發(fā)布，重點互聯(lián)網(wǎng)企業(yè)代表集體簽署，并承諾：算法的溫度取決于開發(fā)者的態(tài)度，算法的“清朗”源自踐行者的擔當。
在互聯(lián)網(wǎng)發(fā)展日新月異的當下，我們唯有堅持主流價值導(dǎo)向，推動算法向上向善，互聯(lián)網(wǎng)這艘巨輪方能行穩(wěn)致遠。