中國立法規範演算法,中國科技巨頭、網紅接下來的一步?

2022年3月中國頒布「互联网信息服务算法推荐管理规定」,立法規制使用演算法的企業必須依照此規範進行申報、更新自身的演算法,必須合規。過去透過流量捧紅的直播主、藝人或者是透過網路爆料的不公正事件(如八寶媽事件)等等,在新一代規定下可能會產生出不同的樣貌。本篇文將瀏覽規定的內容。

為什麼中國政府要規範演算法?

中國科技巨頭成功的關鍵在於成功的演算法。讓使用者可以不斷的流連在自身的平台,有看不完的貼文、影片、短影片,同時也有了解自己的商品、內容推薦。除此之外,科技巨頭們更可以透過自身的演算法來達成不管是商業或政治上的目的。也因此在川普時代,開啟了與抖音的大戰,要求分割出售給美國公司或者關閉在美國服務

除了科技巨頭可以完成其自身的商業、政治目的外,演算法帶來的流量、關注度捧紅了眾多的直播主、產業,也帶動了無數個產業、節目的流量,例如掏寶直播帶貨女王薇婭在前年營業額為311億人民幣,每次直播觀賞人數都是數千萬等級。除了特定產業、名人的造紅效應以外,還包含了各式各樣的爆料事件可以快速地流傳,例如八寶媽事件、彭帥事件。

當演算法成熟運作時,甚至有可能讓中國政府在統治上更難完成他自己的政治目的。過去文書出版的年代,可以透過禁止出版、禁止報紙販售來限制言論及思想的傳播,但是在網路時代(web2時代)所有的內容無法事前查禁,只能事後刪除時,許多威脅到國家當局利益的內容、揭露國家弊案的內容還是會快速散佈。使用者可以透過截圖或其他保存內容的方式,繼續的觀看內容。國家對於言論以及思想的控制逐漸被弱化,這也是為什麼中國算是領先全球制定了演算法規範的法律。

這部法規賦予科技巨頭、演算法提供業者的義務

  1. 此篇法律規範對象包含所有運用演算法提供服務的業者,包含外送app業者、社群網站業者、網路搜尋業者、工作媒合業者等等只要有使用到演算法的業者都一體適用此項法律。
  2. 此篇法律的重點在於,使用演算法業者必須要確認其提供給使用者的訊息、內容或任何決定必須符合國家(共產黨)的政策指導方針,而使用演算法的業者有以下的義務
    • 不可以讓讓演算法危害政府認為重要的利益、擾亂經濟秩序、社會秩序⋯⋯應採取防範和抵制傳播不良訊息。(第六條)
    • 不可以設置使用戶沈迷、過度消費等違反法律或違背倫理道德的演算法(第八條)
    • 建立用戶的特徵資料庫時,不可以將不良資訊作為特徵並且推送(第十條)
    • 排行榜、首頁等必須人工介入,傳達符合主流價值的資訊(第十一條)
    • 不可以利用演算法來造成不公平競爭(第十五條)

簡言之,科技巨頭、業者需要傳達符合黨的價值(或稱主流價值)的內容不可以擾亂社會秩序。
這項規定其實相當難以理解執法的範圍,例如之前在中國鬧得沸沸揚揚的女性被當作奴隸豢養的事件是否屬於擾亂社會秩序、違反主流價值;又或者報導某處天災人禍死亡的人數、現場災難的轉播是否算是不良訊息。

此外,不可讓用戶沈迷跟過度消費,這對於中國社群媒體的業者應執行上可能存在相當大的模糊地帶,因為社群媒體的演算法其實就是要吸引使用者的注意力,讓他們沈迷在其中,所以發展出滑不完的動態訊息、紅點點通知、貼文中間夾雜廣告為了要鼓勵消費、熱門的產品讓大家更容易看到並且購買等。

另外值得肯定的是,這部法律規範不可以利用演算法造成不公平競爭,例如禁止把競爭對手的內容透過演算法排除在使用者的目光之外。

這部法規賦予使用者的權利

  1. 對於演算法(演算法的原理、目的意圖)有知的權利。(第十六條)
  2. 使用演算法的業者應該提供關閉演算法服務或是排除特徵資料庫下的選項;同時提供用戶可以選擇或刪除個人特徵;透過演算法對用戶權益造成重大影響時須說明。(第十七條)
  3. 針對未成年人需要有符合未成年人身心健康的資訊;避免模仿不安全或違反社會公序良俗的行為(第十八條) 抖音條款
  4. 提供工作調度服務,在演算法設置上符合勞動法規。(第二十一條)
  5. 使用者有權申訴、投訴並且知道處理流程方式結果(第二十二條)
  6. 關於使用者權利對於使用者的權利保護相當的執得參考。尤其是演算法業者會對於使用者建立feature store,也就是對使用者貼上標籤(標籤包含性別、性向、年紀、所在區域、興趣、消費習慣、觀看習慣、有無車、有無房、是否結婚等)。透過貼上標籤可以更有效率的提供廣告、搜尋結果、貼文等服務。然而此篇法律要求業者須提供使用者在沒有特徵資料庫的前提下使用。換言之,過去特徵資料庫與演算法的交互運作下讓每一個人搜尋的結果不同、看到的內容不同。若是使用者可以在沒有特徵資料庫下使用時,很有可能會出現相同的內容、搜尋結果、顯示畫面。

違反了會怎麼樣?

違反部分法規時,中國政府是可以要求限期改善,嚴重時可以暫停資訊更新,並且處以罰款(十萬元以下)。雖然處罰看似相當輕微,但對於中國的政商環境,當局的警告、命限期更新的效果往往已大於處罰。

小結

未來關於這部法律如何落實、如何執法,可能會在未來的一年內才會有明確的方向。不過對於使用演算法的網路業者而言,他們會需要非常謹慎看待這部法律,並且對自身的演算法邏輯、特徵資料庫、資訊阻止散播方法、邏輯進行修正。此部法律雖然是一部具有黨的特色的法規,其中仍有值得肯定的內容為使用者有權拒絕演算法,要求可以在無特徵資料庫的情況下進行使用。
未來這部法律會帶來什麼結果,非常值得關注。