繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

歐盟圍堵算法成癮

2026-11-10 23:21

(來源:北京商報)

從讓人停不下來的短視頻,到藉助情感互動留住用户的聊天機器人,科技公司爭奪用户時間的產品設計,正成為歐盟新一輪監管的焦點。歐盟委員會擬推出最新法案,要求社交平臺等允許用户關閉誘導強迫性或過度使用的功能,並將利用模擬人際關係延長互動的AI(人工智能)系統納入監管,違規企業可能面臨最高相當於全球年度營業收入6%的罰款。

關掉「成癮設計」

據多家媒體報道,《數字公平法案》(Digital Fairness Act)草案一項關鍵要求,是讓用户能夠主動關掉那些不斷把自己「拉回」應用的功能,包括自動播放、與用户自身活動無關的通知,以及連續打卡式獎勵機制。按照草案,企業將須向成年用户提供關閉這類功能的選擇。

這項法案可能影響Meta、谷歌等科技巨頭,以及一眾電商平臺。這些企業旗下的服務,很大程度上依賴與用户打「心理戰」:要麼是通過機制設計拉長留存時間,或是通過運營手段誘導用户買單。

AI聊天機器人也是此次草案的重要關注對象。按照媒體披露的內容,如果AI系統通過模擬人際關係來鼓勵用户持續互動,相關功能也將受到約束,用户應有權將其關閉。

從商業模式看,這類規則可能觸及平臺提高用户留存和使用時長的常用手段。對於依靠廣告變現的社交平臺,用户停留時間與廣告展示機會密切相關;對於AI應用,持續互動則可能影響用户活躍度和付費轉化。

歐盟針對「成癮設計」的行動早有鋪墊。今年2月,歐盟委員會依據現行《數字服務法》,初步認定某短視頻平臺的成癮性設計違反相關規定,涉及功能包括「無限滾動、自動播放、推送通知和高度個性化的推薦系統」。

擬議中的《數字公平法案》將進一步從消費者保護角度處理這些問題。歐盟委員會公開資料顯示,該倡議的重點包括操縱性界面設計、數字產品的成癮設計、不公平的個性化做法,以及數字合同等問題,尤其關注未成年人等易受影響的消費者。

歐盟委員會的影響評估估計,這些規定將在2025年至2035年間為消費者避免884億歐元的經濟損失。如果將不公平做法造成的時間損失也計算在內,每年帶來的收益預計為137億歐元。相比之下,在避免重複計算各項措施的成本后,企業為遵守新規每年需持續支出的費用預計合計爲6.78億歐元。

平臺不再免責

不只是歐盟,對手機成癮和算法推薦的爭議從未停止。2026年初,一場備受矚目的集體訴訟案開庭。美國洛杉磯高等法院圍繞一起「社交媒體成癮」集體訴訟案展開庭審。20歲女孩K. G. M.(凱莉)是其中一名原告。

她指控,Meta旗下的Facebook、Instagram和谷歌旗下的YouTube等社交媒體,通過「誘導性成癮設計」導致其從童年起便手機成癮。法庭證詞顯示,在青少年時期,凱莉每天在社交媒體上耗費的時間長達16小時。

2月,凱莉在庭審中表示,社交媒體的濾鏡、美顏工具以及算法推薦的內容,不斷強化她對外貌和身材的不安。長期沉迷之下,她患上了身體畸形恐懼症,過度依賴美顏濾鏡。此后,她產生嚴重的抑郁問題,一度產生自殺傾向。

相比過往案例更特殊的是,凱莉此次將矛頭對準了社交媒體系統的設計和架構。一個關鍵證據是,律師在庭審中曝光了一份Meta內部文件。在2015年,Meta內部討論曾提及,要利用青少年的心理弱點,留存住更多用户。

3月,洛杉磯法院作出裁決,認定Meta與谷歌在應對青少年因使用社交媒體而造成心理傷害一事上負主要侵權責任,判決600萬美元作為賠償。這一判決被解讀為里程碑事件。「技術中立」不再成為平臺免責的理由。

不僅如此,美國加利福尼亞、科羅拉多等4個州指控Meta刻意將旗下的Facebook、Instagram設計為易讓未成年人沉迷的算法模式,刻意隱瞞平臺對青少年心理健康的負面影響,要求支付1.4萬億美元的鉅額罰款。

康奈爾大學法學教授亞歷山德拉·拉哈夫指出:「該案件預示着,針對大型科技公司的訴訟浪潮即將到來,對社交媒體的侵權訴訟將達到空前規模。」

專家認為,如果法律風險持續累積,敗訴代價變得足夠高昂,科技公司將被迫認真重新設計產品。美國企業研究所媒體法專家克萊·卡爾伯特表示:「前路漫長,但這一決定意義重大。如果一系列類似裁決生效,將迫使被告(科技公司)重新思考社交媒體平臺的設計,以及該如何提供內容。」

強監管浪潮

青少年上網成癮問題如同一根導火索,點燃了全球對社交平臺的重新審視,並引發強監管浪潮。2025年12月起,澳大利亞正式實施全球首個針對社交媒體年齡限制的制度。Facebook、Instagram等平臺需要採取「合理措施」,阻止16歲以下用户創建賬號。值得注意的是,該政策並非直接禁止未成年人上網,而是要求平臺承擔年齡驗證和賬號管理責任。

法國也曾嘗試採取類似路徑。今年7月,法國議會通過一項禁止15歲以下用户使用社交媒體的法案,但隨后被叫停。法國憲法委員會認為,該法案在表達自由、隱私保護以及年齡驗證機制方面存在問題,需要重新修改。

英國則正在推進更嚴格的監管方案。政府已經宣佈計劃禁止16歲以下用户使用社交媒體,目前仍需等待議會審議,預計最快將在今年年底前完成立法,並於明年春季生效。

推進年齡限制的同時,各國也開始將目光投向社交媒體平臺應盡的責任——優化產品功能與平臺內容。有分析認為,推薦算法、無限滾動、推送通知、陌生人聯繫等平臺產品功能均需要針對未成年人進行調整,以減少算法的成癮性、提供便捷的監護人控制功能和限制對用户有害的內容傳播等。

深耕兒童數字權利的國際組織「五權基金會」指出,過去面對未成年人,社交平臺和政府一般強調風險評估。這時,「風險」被狹義理解為傳播暴力、色情等內容。平臺自身的算法設計和功能帶給人的傷害,卻被監管部門忽視了。

現在,「平臺系統設計風險」正在被越來越多人看到。很多人意識到,比起直接傳播危害身心的內容,社交媒體和科技平臺爲了更多人的屏幕時長,設計出的無限滾動、自動播放、推送通知、個性化推薦等功能,纔是更危險的。越來越多擬出台的法案和正在進行中的判決,都將矛頭指向了同一件事:科技平臺應對其影響日益巨大的虛擬世界負主要責任。

北京商報記者 趙天舒

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。