【編者按】
上海社聯2023年度論文已出爐。該活動無需作者自行申報，依託各學科權威專家學者、學術期刊主編、資深學術編輯等開展多輪評審。在“反五唯”背景下，這個活動也是對學術評估機制的大膽創新。
推薦入選論文的共同特點是密切關注社會現實和學界動態，善於發現和提煉問題，彰顯學術論文的創新性、學理性、科學性品質，並具有一定前瞻性和開拓性。
澎湃新聞記者與上海社聯2023年度論文獲獎者展開對談，看上海社科學者如何在現實關切中，回答中國之問、世界之問、人民之問、時代之問。
當今，算法廣泛應用於經濟發展、國家治理等層面，同時也滲透進日常的數字化生活之中。隨着推送的個性化、生活的指標化、勞動的度量化，一旦以資本原則爲主導，算法則會出現嚴重的“異化”問題。華東師範大學哲學系暨中國現代思想文化研究所教授孫亮認爲，當“算法”被構建爲認知世界的圖像，成爲治理的新主體，蛻變爲資本增殖的工具時，造成了與現代世界文明的“悖反”。
在上海社聯2023年度青年論文《“算法資本主義”的政治經濟學批判闡釋》（原載於《馬克思主義研究》2022年第11期）中，孫亮通過對算法運行機制的分析發現，算法內在地蘊含了設計者的預期“利益”。在資本操控下，算法及其平臺在數據引導的能力、數據的佔有上形成了壟斷。因此，在充分發揮算法積極作用的同時，也要警惕資本爲了追逐利益在對算法運用時造成的負面影響。
在“苦於算法之發展”與“苦於算法之不發展”的雙重張力下，孫亮認爲，一方面中國現代化建設要突出算法優勢，另一方面要明確算法與資本之間的複雜關係，警惕算法資本化的運用範圍、程度、邊界，特別是算法設計的價值偏向，尋求矯正算法的基本原則、具體策略，從而發揮算法在經濟、政治、文化等方面的積極價值。
認清算法侷限，發揮好算法優勢
澎湃新聞：當前算法與現代世界文明出現了怎樣的“悖反”現狀？存在哪些現實問題有待關注？
孫亮：算法在經濟與社會發展、國家治理等層面的運用越來越重要和廣泛，但在現實中，算法也與現代世界文明產生了“悖反”狀況，被資本所吸納的算法對現代文明發展帶來很多現實問題。
首先，我們生活在被算法精心構造的認知世界中，一切都有可能成爲被操縱的“精準圖像”。在數據樣本足夠大的情況下，算法可以對社會進行精準把握與主導，這一過程就好比製圖學工作。當世界被衛星導航、地圖軟件和全球定位系統滲透，會表現爲一系列圖像，我們只能從圖像的算法去理解世界。一旦如此，人們就會失去對世界自身更爲整全性的認知，用阿多諾的話說，“對象不可能完全消融在概念之中”。
算法會強化主體“認知繭房”的現象，每個人在數字世界中只能接收主觀偏好的事物。算法的前提是生活的度量化，健康、睡眠、行爲、情感、經濟生活等一切皆可被計算。算法通過我們每次的搜索、瀏覽記錄，能準確投放“選擇標準”，人們由於追求完美而臣服於這種標準，最終成爲被算法俘獲的對象。比如，通過人面部表情歡快的頻率、心率、血壓等可以評估度量幸福，通過算法的大數據精準推送，也可爲不同人羣構造浪漫愛情的個性化指標。
其次，算法原本可以解決社會運行的“有序”問題，但在資本化操縱下，很可能走向新的“生命政治”治理空間，帶來負面影響。算法世界存在將人“物化”的風險，導致算法本身成爲主導規則的“主體”，人和現實世界則成爲算法待處理的“對象”。算法治理是對“對象”進行更準確、細緻、全方位的數據抓取和加工，在差異化的“私人定製”中，完成對個體無死角的“調節”。由此，算法構成新的生命政治治理的基礎條件。
最後，從資本主義社會生產方式看，算法可以爲構造生產資料共享的經濟發展圖景提供便利，但也可能蛻變爲資本增殖手段。一旦作爲“資本增殖手段”，數字算法將會徹底打破工作與生活的界限，化解勞動的度量難題。而對於無法被度量和價值形式化的情感、交往等“社會關係”，經過算法也徹底解決了度量的難題，這爲資本主義的“抽象”統治和實質吸納提供了可能。因此，認爲算法能通過調節資源產生共享經濟與相應生存方式的看法不僅難以形成，反而加劇了資本主義的不公正以及社會撕裂現象。
澎湃新聞：這篇論文的重要研究成果是什麼？在社會主義生產力發展要求下，這對於推進中國式現代化建設有何現實意義？
孫亮：論文一方面梳理了算法在現代文明發展中可能會出現的問題，更重要的是，通過對算法運行機制的分析，論證算法蘊含了設計者的預期“利益”。受資本操控影響，算法及其平臺在數據引導能力、數據佔有方面構成壟斷，通過操控數據資源完成資本增殖目的，加深了對勞動者的剝削程度。
爲此，在社會主義生產力發展要求下，特別是發展新質生產力的要求下，我們必須把握好“苦於算法之發展與苦於算法之不發展”的現實境遇，使其更有助於推進中國式現代化建設。
中國式現代化建設既要突出算法的優勢，大力推進數字經濟的發展，也要明確算法與資本之間的複雜關係，警惕與規範算法資本化的運用範圍、程度、邊界，特別是算法設計的價值偏向，尋求矯正算法的基本原則、具體策略，從而發揮算法在經濟、政治、文化等方面的積極價值。
因此，不僅需要處理好算法與資本邏輯的關係，更需要改變資本化的算法邏輯，使其在社會主義的應用中產生積極價值。這一課題值得數字研究者從多學科展開富有建設性的研究。
警惕算法在資本推動下的負面影響
澎湃新聞：算法在社會發展中發揮了積極作用，但資本爲了追逐利益，對算法運用造成了哪些負面影響？
孫亮：資本爲了追逐利益，在運用算法時造成了很多負面影響。比如，算法需要聚合來源不同的數據，但數據獲取渠道要合法合規，數據在使用中也要通過更多規範加以約束，目前要警惕存在資本在數據中造成的壟斷，惡意競爭、數據不規範導致的風險，以及隱性的數據監控等問題。總體來說，算法在資本推動下造成的負面影響有以下幾種類型。
在個體層面，算法會干預偏好、習慣、認知，從而調節和操控人們現在以及未來的生活。比如，創造了“數學清洗”概念的弗萊德·本南森就認爲，臉書（Facebook）編輯通過故意推出其他事情以壓制另一些事情，是在利用算法左右人們的價值與判斷。
在社會層面，算法導致社會鴻溝拓寬，算法治理規則的同一性與社會自身複雜性之間矛盾的強化、社會市場競爭集中化等問題凸顯。比如，儘管市場競爭中“贏家通吃”的局面有所改觀，但依然需要引導超級大平臺通過市場優勢支撐市場健康發展。
從全球來看，算法在資本的推動下，加劇了發達國家與發展中國家的不平衡。發達國家壟斷數據、支配算法，形成了新一輪的數據殖民主義。此外，還有數據隱私、數據監控等問題，算法社會還在發展之中，其負面性需進一步觀察。
澎湃新聞：您在論文中就設計者利益掌控“數據引導”與算法運行的資本原則展開了深入分析，並提出了三種機制，理解這一問題的關鍵是什麼？
孫亮：這三種機制指的是，第一，算法作爲特定的資本主義生產形式並非客觀、中立，而是蘊含了設計者的“利益”預期；第二，在西方社會，以生產資料私有制爲基礎的資本主義生產關係所造成的不平等，會進一步在算法和決策中再次顯現，其典型表現爲數據引導能力；第三，最重要的是，需考察平臺所有權的資本主義屬性問題，這樣才能在改變這一屬性的基礎上，使其朝公共利益方向發展。
我認爲，理解這一問題的關鍵是將算法看作“工具”。算法本身沒有自主性，需要外部給予指令，因此，指令性質纔是導致算法與文明相悖的原因。以數據引導能力爲例，過去人們上網的主要方式是瀏覽網頁，如今隨着智能手機的普及，少數幾個APP幾乎佔據了人們所有的上網時間，讓社交、工作、生活都更爲便捷。但人們也更加依賴相應平臺，甚至不會輕易更換，因爲複雜的註冊程序，足以讓人望而卻步。隨着生活、工作日益依賴幾個大型APP，數據將被更爲集中地提取、重構，從而更有效、全面地確保數據引導效果，這種趨勢就是數據壟斷主義效應的體現。
與此相應的是，一些市場主導者宣稱數據資源的私有化，認爲任何一種資源的私有化都能給所有者帶來最大動力，這是自由主義經濟學對算法和數據資源的投射。資本需要利用新技術重構生產組織形式，而平臺算法恰恰爲資本增殖提供了條件，平臺與資本在相互推動中達成純粹的資本增殖目的，這是“算法資本化”的基本觀點。
避免被困在算法中
澎湃新聞：論文中的研究成果如何幫助解決算法所造成的社會問題？比如，近年來備受爭議的外賣騎手困在系統、大數據殺熟、信息繭房等問題。
孫亮：經濟生活或日常生活中出現的大數據殺熟、信息繭房等問題都只是“結果”，背後的原因是算法被利益引導。資本確實需要增殖，否則就沒有資本的擴展，市場也難以進一步發展。但是，市場更需要健康發展。
我在論文中從超越與現實兩個維度討論瞭如何解決算法造成的社會問題。
從超越角度看，算法或者說是“一般智力”只要爲資本佔有，個人勞動力便會被廣泛吸納進剩餘價值的生產之中。爲此，只有變革資本主義生產資料所有制結構，算法才能在提供社會生產力的同時，促進人的自由全面發展。
以為只是「傳張裸照」卻掉入陷阱無法脫身 為什麼孩子對網路陌生人言聽計從？
從現實角度看，算法從屬於資本的發展方向，受資本原則的主導與調節，在一定範圍內依然有現實性依據。正因如此，人們需要對智能算法時代的來臨抱有積極想象，因爲它是人類獲取自由時間、成就自身的積極條件，這就是“苦於算法之不發展”。
澎湃新聞：2023年人工智能、大模型等技術取得突破性進展，關於人是否會被機器所取代的話題也一度處於風口浪尖，您如何從算法角度看待這一現象？
孫亮：ChatGPT等成爲學術熱點有現實依據，但目前談論人能否被機器取代這一問題可能還爲時過早，因爲無法證明人被機器取代的算法方向完全正確。學術對此有兩種討論，一種認爲，人有自己的特殊性，心靈、意志、否定思維、感情等都是無法被人工智能逾越的。另一種認爲，心靈、意志等其實是一種功能性存在。比如，丹尼特就在論證這一觀點。因此，只要算法方向正確，功能性存在都可以通過算法達成。
在我看來，這是兩種不同世界觀的爭論。當前主要需要警惕的是以算法爲代表的科技與資本聯合後，對人的生活、現代文明所造成的負面危害，所以在談論技術奇點之前，更重要的是關注經濟奇點的問題。
澎湃新聞：您在論文中談到“苦於算法之發展與苦於算法之不發展”的現實境遇，要想化解這一矛盾該從什麼方面思考解決之道？
年節買氣加持！北富銀元月刷出546億新高紀錄並帶動MOMO晉升百萬卡別
孫亮：“苦於算法之發展與苦於算法之不發展”的現實境遇，主要與現代化發展方式有關。西方的現代化以資本原則爲主導，凡是利於資本增殖的任何手段都可以被吸納和推進，不會有發不發展算法的矛盾。但中國式現代化發展方式要規範、引導好資本。一方面要發揮資本的積極作用，進一步發展算法以推進中國現代化建設，另一方面要控制資本的消極作用，規範算法應用，制定系統性的算法規則。
最近，從國家到地方數據局的掛牌，就是要統籌推進政府、企業、社會的數據要素，從而讓數據得到合理確權，讓算法以實現高質量發展、建設中國式現代化爲發展方向。同時，對於數字經濟與數字社會發展中出現的算法問題，相關法律、法規及政策也在積極推進規範化建設。這在全球數字社會發展的大背景下具有重要的歷史意義。