古詩詞大全網 - 藝術簽名 - 蘇葵:個人數據保護是這個平臺的“致命弱點”。

蘇葵:個人數據保護是這個平臺的“致命弱點”。

文/觀察者網專欄作家蘇葵

毫無疑問,互聯網平臺是信息時代的主角。超規模、壟斷、權力巨大是其主要特征,可以影響無數人的生活、利益甚至生計。平臺具有多重屬性,既是傳統企業,也是壹種經濟形態。以平臺為核心的平臺經濟,甚至是虛擬的城邦。正如紮克伯格的名言,“在許多方面,臉書更像壹個政府,而不是壹家傳統公司。”

平臺是平臺經濟的絕對主宰。它可以隨意制定規則、解讀規則、執行規則,而這些規則可以影響億萬人。它們與國家法律法規在本質上沒有區別,只是不需要遵循國家立法、司法和執法所要求的正當程序。自國家誕生以來,政府沒有面對過類似的對手,這可以說是3000年來前所未有的變化。

在信息時代,如何管理平臺在全世界都是壹個巨大的挑戰。反壟斷、消費者保護、公平競爭等傳統工具是全球範圍內平臺治理的主要路徑。但是,反壟斷、消費者保護、公平競爭,這些治理工具都是從傳統經濟時代發展而來的。面對信息時代的巨頭,往往可以說是捉襟見肘,無力,無效。

個人數據保護是信息時代發展起來的新工具。雖然它的初衷是保護個人信息,但是水滴石穿無數人的個人信息卻變成了大數據。有了大數據,算法可以從壹具垂死的軀體變成壹頭桀驁不馴的野獸。換句話說,算法的命門就是個人信息的保護。

歐美近期的壹些平臺個人信息保護案例發人深省,令人振奮。個人數據保護賦予個人更大的權力,以平衡平臺經濟中平臺的權力結構,這也可能是平臺治理的新路徑。

勞務平臺

互聯網平臺不具備廣泛的同壹性,不同類型之間存在巨大差異,既有以信息服務為核心的社交平臺和搜索平臺,也有產生海量信息的電子商務平臺。以在線租車、外賣為代表的勞務平臺,可以看做是後者。該平臺是壹個虛擬市場,通過它銷售服務。但更重要的是,這些勞動力平臺聚集了全球城市數百萬,甚至數千萬的勞動人口。與其他平臺相比,它們不僅為人服務,還掌握著無數人的信息。因此,這些平臺與人們的關系更加密切,給社會治理帶來了更大的挑戰和深遠的影響。

這些平臺上的人依靠平臺提供的信息生存,為平臺產生海量的信息資源,並被這些信息管理和控制。與其他電商平臺相比,這類平臺上的人(勞動者)幾乎沒有自主權,傳統的勞動保護與他們無緣,因為他們被平臺認為是微型創業者。平臺依靠信息精準管理如此龐大的勞動力,超過了人類歷史上任何壹個組織的極限,可以說是人類歷史的奇跡,而創造這樣奇跡的核心就是隱藏在平臺背後的算法。

網約車平臺幾乎是迄今為止爭議最大、給社會治理帶來問題最多的互聯網平臺。成立於2008年的優步開創了在線汽車共享行業,月活躍消費者約6543.8億,全球日訂單(包括外賣)近2000萬,平臺上的司機超過400萬,平均每月有5萬名新司機加入平臺。它與全球監管機構的強硬對抗給它帶來了無數的麻煩,蔑視規則和法律的企業文化也給企業本身造成了內傷。2017年,創始人卡蘭尼克甚至被趕出了公司。除了眾所周知的與當地監管機構的鬥爭,優步與平臺內司機的矛盾可以說是日益尖銳,與消費者的不和也時有傳出。

泄露個人信息的後果很嚴重。

65438年10月20日,特朗普在離開白宮前宣布了壹長串多達73人的赦免名單。前軍事顧問史蒂夫·班農毫無懸念地出現在名單上,但有些名字出人意料。負責自動駕駛業務的優步前高管安東尼·萊萬多夫斯基(Anthony Levandowski)幸運地逃脫了原定於2月7日開始的監禁。據說川普在矽谷為數不多的支持者之壹彼得·泰爾是幕後操盤手。

相比之下,另壹位前優步高管、首席安全官喬·蘇利文(Joe Sullivan)只能哀嘆命運不公。然而這真的是咎由自取,簡直是“不要命”。2020年8月21日,沙利文被聯邦司法部指控妨礙司法公正和作偽證,刑期可能高達8年。而這壹切,始於2016年約5700萬司機和乘客的個人信息被掩蓋。

沙利文不是新手。他曾是互聯網巨頭臉書的首席安全官,在信息安全和個人信息保護方面擁有豐富的經驗。然而,在得知優步的黑客行為導致平臺上的個人信息泄露後,他沒有立即依法向政府有關部門報告。相反,在與當時的首席執行官特拉維斯·卡蘭尼克協商後,他向黑客支付了6.5438億美元的封口費,賄賂黑客將其定性為平臺主動邀請黑客發現安全漏洞。封口費變成了安全獎勵。

如此大規模的個人(包括平臺上的司機和乘客)信息泄露,歐美相關監管機構自然不會放過。根據歐盟規定,數據泄露應在72小時內向監管部門報告。據此,其歐洲總部所在地荷蘭數據保護局於2018處以60萬歐元罰款。宣布英國退出歐盟的英國(ICO)也處以38.5萬英鎊的罰款。

與他們的歐洲同行相比,美國的監管者對他們下手更重。加州總檢察長和舊金山總檢察長聯合美國50個州和華盛頓特區的相關部門,對他們發起訴訟。2065438+2008年9月,優步以高達65438+4800萬美元的巨額賠償主動和解。看來,在個人信息保護方面,國內認為美國立法和監管更寬松的觀點恐怕並不成立。

監管深入企業黑箱

聯邦貿易委員會是公平競爭和消費者保護領域的執法機構。FTC得知此事後,迅速宣布2065438+2007年8月達成的和解協議無效,需要重新協商相關和解條款。

2018 10,FTC宣布再次達成新的和解協議。作為信奉自由市場的川普政府,其治下的FTC確實對優步手下留情,沒有像州政府那樣重罰,甚至根本不罰款,但對優步內部信息安全管理提出了壹絲不茍的要求。與以外部結果為主要對象的結果保護策略相比,FTC協議是以內部管理為主要對象的過程保護策略。也就是說,更多的是以提前預防的思路對企業內部可能出現的個人信息保護漏洞進行全面監管,將企業內部的信息安全管理納入公共管理。這可以說是壹種新的個人信息保護模式。

事實上,我國正在進行的個人信息保護立法(包括2020年完成的網絡安全法、數據安全法和個人信息保護法)也采用了這壹思路。但相對於FTC的和解協議,中國的平臺企業享有更多自由。FTC的和解協議建立了比較完整的企業信息安全體系,主要包括:

優步需要立即建立壹個全面的個人信息(隱私)保護計劃,所有計劃、方案和培訓都需要以書面形式記錄。設立專人負責個人信息(隱私)保護計劃。

開展個人信息(隱私)風險調查評估,確定風險點,制定整改方案。制定個人信息(隱私)風險動態監測評估方案。

建立第三方信息(隱私)審核評估體系。第三方審核員必須具備專業資格並具有3年以上的經驗,相關審核員必須獲得FTC消費者保護部的批準。評估完成後10日內,應將評估報告送交FTC備查。首次第三方審核應在協議實施後半年內完成,此後至少每兩年進行壹次。

建立信息安全事故統計和報告制度。

建立文件簽署和學習制度。公司所有相關人員必須學習FTC的和解協議文件並簽字確認,相關學習記錄需要書面記錄。

文件發布壹年後,優步需要向FTC提交合規報告,該報告應宣誓真實可靠,否則將承擔偽證罪。企業的任何組織和實體應在14天內通知FTC,以方便監管部門的檢查和監督。

及時回復監管部門。在收到FTC關於信息(隱私)安全的詢問後,優步需要在10天內回復或回應。相關合規報告或材料需要宣誓不作偽證,並做好詳細記錄備查。

建立信息安全記錄,包括相關員工的記錄(包括離職原因)、平臺用戶的投訴、所有能證明公司執行文件的材料、公司對個人信息(隱私)保護措施的對外宣傳和承諾、信息安全評估、審計和整改報告、安全漏洞獎發放記錄、執法傳票、調查和說明材料等。

福布斯對此案的網絡報道截圖。

除了巨額賠償,加州總檢察長聯合各州和優步達成的和解協議,實際上對企業信息安全合規提出了壹系列類似的要求,包括企業需要設立首席安全官,以及雲存儲密碼、身份認證增強系統、建立信息安全員工培訓和違規處罰制度、第三方信息審計員資格制度(要求五年以上經驗)、 個人信息安全作為董事會固定議題,律師參與事故確認和報告制度,內部違規報告制度。

子曰:“殺人不教,謂之殘暴,不禁視之為暴力。”美國聯邦和州監管機構利用優步的違法行為,構建了非常嚴格的內部個人信息保護機制,特別強調內部部門監管、外部審計、員工培訓等。,並將事後監管模式從負面清單推進到事後監管模式,即從懲罰為主的模式推進到預防為主的模式。

平臺企業不再是黑箱。通過設計完善的內部監督機制,平臺的保護更加透明,個人信息保護的目標更加可靠。其意義在於,只有個人信息的保護更加可靠,個人信息保護之外的平臺經濟治理功能才會成為可能。

算法統治平臺

四個司機做出這樣的動作也是有原因的。根據優步的說法,所有四名司機都因為欺騙行為或非法使用而操縱(不當使用)了司機的手機應用程序。說白了,就是司機的司機應用被平臺算法判定為嚴重違規(優步平臺沒有解約的概念,只是等同於永久凍結賬戶的說法)是因為他選擇了等待價格上漲後的好單,還是因為他私自安裝了其他應用改變手機狀態(比如改變位置),而這些決定都是平臺算法做出的。換句話說,這四名司機都被算法檢測到違反了規則,並被算法清除(開除)。

然而,司機們並不這麽認為。他們認為自己只是行使了自由選擇工作時間的權利,這也是優步平臺壹直以來對司機的主張,而正是因為這種自由,司機才不被視為平臺的員工,而是自由職業者,甚至是所謂的“微創業者”。平臺和駕駛是夥伴。四名司機否認欺詐或不當行為,優步沒有提供進行陳述的機會,使他們的命運受到算法的控制。因此,他們向優步歐洲總部所在地荷蘭的阿姆斯特丹地方法院提起訴訟。

司機起訴優步的主要法律依據是2018年5月生效的歐盟通用數據保護法。根據《歐盟壹般數據保護法》第15條,數據主體有權訪問個人數據,了解數據處理的目的、數據類型,並有權要求更正不準確的數據。第22條涉及自動決策和用戶畫像。“數據主體有權反對這樣的決定:完全依賴自動化處理——包括用戶畫像——做出對數據主體有法律或類似嚴重影響的決定”。

根據歐盟通用數據保護法的定義,“用戶畫像”是指為了評價自然人的某些狀況,特別是為了評價自然人的工作表現、經濟狀況、健康狀況、個人偏好、興趣、可靠性、行為、位置或行蹤而對個人數據進行的任何自動處理。顯然,所謂的自動決策(用戶畫像)是壹種平臺算法。這本質上是壹個算法監管條款。然而,第22條還具體列出了例外情況,包括(a)當該決定對於簽署或履行數據主體和數據控制者之間的合同是必要的;.....(c)決定是基於數據主體的明確同意。

顯然,這場官司的爭議集中在對第22條的理解上,比如全自動決策的標準是什麽?什麽程度的人為幹預才能達到排除全自動決策的標準?考慮到平臺每天需要幾千萬甚至上億的司機(包括派單、定價、評價等環節),自動化決策是否可以視為平臺履行與司機合同的必要措施?

平臺權力結構的平衡

司機希望通過第三方非盈利機構(WIE有限公司,工人信息交換中心)攜帶個人數據,即優步直接將司機在工作中產生的個人數據轉移到第三方數據交換中介WIE,第三方數據機構成為個人數據信任機構。可以幫助司機分析其個人行為,監管平臺的算法邏輯是否與其申報的處理邏輯壹致,是否公平合理,評價平臺是否正確計算服務價格,司機的真實勞動量和質量,分析不同司機評分差異的原因。

通過掌握並能夠處理這些關鍵數據,司機可以減少或消除平臺的信息優勢,司機有可能與平臺更平等地談判,成為更平等的對手。

根據法律規定,優步有責任在30天內向數據主體(司機)提供相關數據,但優步沒有提供司機要求的所有數據,或者司機要求的關鍵內容實際上被拒絕。雖然提供的數據列表中包含了訂單數據(如上下車時間、乘客支付費用等),但並未提供司機的在線和離線時間以及完整的GPS位置信息記錄。這些內容與司機工作時間的確定有關(英國上訴法院已經裁定司機的工作時間從他上線開始計算,而不是從他接單開始計算),但平臺不希望司機掌握這些可能對他不利的數據。

然而,優步也有自己的解釋:不提供的數據要麽是不可用的,要麽是因為如果提供給司機,會損害他人的隱私權。

如果上面的數據能被司機自己記錄下來,那麽只有平臺才能知道管理司機的算法是如何工作的。司機們最想知道的是平臺算法的秘密:它是如何通過司機的行為和乘客評價數據對司機進行畫像的,司機畫像是如何影響司機利益的?比如司機的評級和派遣機制有什麽關系?司機分數如何觸發平臺退市機制(司機認為是辭退)?

在投訴中,司機特別指出,優步沒有回應他們要求的司機標簽數據。這確實是整個爭議的核心。優步不會認為這些是司機需要知道的個人數據信息,甚至個人信息存在巨大差異。而且這些內容幾乎肯定會用在英國最高法院正在審理的司機與平臺的勞動關系案中,所以也是優步不能輸的案子。

原告的司機法勒也暗示了這些內容的用途:“我們想看壹看這個奧威爾式(意為壹個被嚴格統治和非人化的社會)的工作世界。這裏的工人被機器統治,沒有權力。”

其實司機要求知道算法的秘密也是有法律依據的。根據《歐盟壹般個人數據保護法》第15條,數據主體應當有權從控制者處獲得有效信息。例如,自動化決策的存在包括數據分析,相關邏輯包括這種處理對數據主體的預期後果。

雖然優步否認司機退市是算法做的(優步發言人聲稱是算法檢測到司機的違法行為後,經理做出了退市決定),但很難解釋公司網站上有介紹算法主謀的材料,上面明確寫著主謀負責監督管理司機的作弊行為。在司機應用的隱私政策中,白紙黑字地寫著,優步將使用自動化決策來移除涉嫌違規的司機。

平臺算法決定了司機的工作機會、工作量和收入,甚至永遠失去平臺工作機會。對於它對司機的重要性恐怕沒有太大的分歧。數據自動處理的邏輯,也就是算法的秘密,是平臺的商業秘密。應該提供到什麽程度才能滿足15條要求的數據訪問權標準,如何在保護個人數據和企業知識產權(商業秘密)之間取得平衡,都考驗著法官的智慧。

可以說,這是歐盟《壹般個人數據保護法》實施以來最重要的案件,其意義遠遠超過了本案涉及的四名司機(實際上這些司機正在組織更多的網約車司機和外賣騎手加入),其裁判標準可以說相當於又壹部歐盟個人信息保護立法。幾乎可以肯定的是,這壹案件最終將提交歐盟最高法院審理。

平臺經濟的金絲雀

“對每個人來說,這是壹個關系到未來的戰場,”司機皮萊格說。優步站臺上的零工是歷史上地下礦井中的金絲雀。這是壹場不能輸的戰鬥。

數據就是力量,平臺經濟進壹步放大了企業作為雇主的傳統信息優勢。通過第三方數據信托實現數據承載權,通過數據賦能司機,誰能擁有比網約車司機和外賣騎手更動態的監管平臺?可以說這是壹種全新的平臺監管思路,用信息權治理大數據。