從讓人停不下來的短視頻,到借助情感互動留住用戶的AI聊天機器人,科技公司爭奪用戶時間的產品設計,正成為歐盟新一輪監管的焦點。
綜合多家媒體週一報導,他們看到的《數字公平法案》(Digital Fairness Act)草案顯示,歐盟委員會擬要求企業允許用戶關閉誘導強迫性或過度使用的功能,並將利用模擬人際關係延長互動的AI系統納入監管。
草案預計於11月11日、即本週三公佈,違規企業可能面臨最高相當於全球年度營業收入6%的罰款。
這項法案可能影響Meta、穀歌等科技巨頭,以及一眾電商平臺。這些企業旗下的服務,很大程度上依賴與用戶打“心理戰”:要麼是通過機制設計拉長留存時間,或是通過運營手段誘導用戶買單。
據報導,此次草案的一項關鍵要求,是讓用戶能夠主動關掉那些不斷把自己“拉回”應用的功能,包括自動播放、與用戶自身活動無關的通知,以及連續打卡式獎勵機制。按照草案,企業將須向成年用戶提供關閉這類功能的選擇。
AI聊天機器人也是此次草案的重要關注對象。按照媒體披露的內容,如果AI系統通過模擬人際關係來鼓勵用戶持續互動,相關功能也將受到約束,用戶應有權將其關閉。
從商業模式看,這類規則可能觸及平臺提高用戶留存和使用時長的常用手段。對於依靠廣告變現的社交平臺,用戶停留時間與廣告展示機會密切相關;對於AI應用,持續互動則可能影響用戶活躍度和付費轉化。
歐盟針對“成癮設計”的行動早有鋪墊。
今年2月,歐盟委員會依據現行《數字服務法》,初步認定某短視頻平臺的成癮性設計違反相關規定,涉及功能包括“無限滾動、自動播放、推送通知和高度個性化的推薦系統”。
擬議中的《數字公平法案》將進一步從消費者保護角度處理這些問題。歐盟委員會公開資料顯示,該倡議的重點包括操縱性介面設計、數字產品的成癮設計、不公平的個性化做法,以及數字合同等問題,尤其關注未成年人等易受影響的消費者。
在打擊誘導過度使用的功能之外,草案還擬為網站和應用列出一份包含10類操縱性設計的禁用清單。據報導,這些通常被稱為“暗黑模式”的設計,將被認定為在任何情況下均屬不公平行為,監管機構無需再逐案證明其造成的損害:
1、讓取消服務的難度明顯高於註冊;
2、隱藏價格或自動續費條款;
3、虛假暗示用戶別無選擇;
4、對商品供應量或受歡迎程度作出虛假或缺乏必要限定的宣稱;
5、在結賬過程中反復強調稀缺性;
6、預先勾選會增加額外商品或購買數量的選項;
7、把拒絕包裝成“錯誤選擇”;
8、反復要求用戶改變已經作出的決定;
9、使用令人困惑的雙重否定;
10、偽造有人聯繫用戶的通知。
…以及,歐盟委員會將可在無需重新啟動立法程式的情況下,向清單增列新的操縱性手段。
據報導,草案還擬要求線上訂閱提供明確的合同終止按鈕,免費試用轉為收費訂閱前須取得消費者主動同意,並在自動續費前發出提醒。針對未成年人,草案擬禁止電子遊戲中的付費隨機寶箱和“付費獲勝”機制。監管範圍由此從使用時長延伸至消費轉化和持續扣費。
歐盟委員會的影響評估估計,這些規定將在2025年至2035年間為消費者避免884億歐元的經濟損失。如果將不公平做法造成的時間損失也計算在內,每年帶來的收益預計為137億歐元。相比之下,在避免重複計算各項措施的成本後,企業為遵守新規每年需持續支出的費用預計合計為6.78億歐元。
不過,這項立法仍處於早期階段。草案尚須經過歐洲議會和成員國審議,具體條款仍可能調整。按照目前披露的草案,該條例將在生效12個月後開始適用。
據報導,德國政府上月中旬已提出反對意見,主張修改現有消費者保護指令,而非另建一部橫跨多個領域的新法律,並質疑將現行《不公平商業行為指令》改為條例的必要性“尚未得到充分證明”。
來源:中國財聯社