香港神童一肖图:


美國信用社會與監控之危


算法和信用,都是眼下熱詞。如何看待現代社會中算法逐漸占據要害,以及如何從倫理等角度看待算法,針對相應題目的論說可謂日新月異。建設征信體系,打造信用社會,都是當下聲勢正盛的方向。當二者“強強聯合”,未來的可能圖景,將因此頗為“兩極化”。樂觀者稱,藉先進算法運轉的信用體系,既能引導個體向善,又是經濟引擎的最佳“潤滑劑”;悲觀者則憂心相應算法不夠公正,或不夠透明,甚或徹底淪為監控的手段。這些問題不新,實際上都是“老相識”。

在2017年出版的著作《予以貸款:美國消費者監視和金融身份史》(Credit worthy:A History of Consumer Surveillance and Financial Identity in America)中,作者JoshLauer做了兩件前人未竟的事。首先,大致以編年形式,系統地梳理了美國征信機構的歷史。起點驚人的早,針對商人的征信機構歷史最早可追溯至180年前,納入普通人的征信機構也有約120年歷史。其次,作者向我們展示了一些極具趣味的發現。伴隨征信發展,一些特定的“母題”反復現諸不同年代。本文接下來的部分,就將重點談論其中四個歷時悠久、又極具當代意義的典例:批評“冷冰冰”的數字無法全面衡量人心,是其一;征信機構本身是否“守正持中”,是其一;“科學”的征信對特定群體的歧視,是其一;相應機構廣采、深搜個人信息對隱私與自主的破壞,又是其一。

當人性“淪落”數字

人人相熟的社會中,征信著實沒有什么市場,數十年如一日地打交道,本身即是難以替代的信用憑證,個人既熟知對方品行,又無懼對方逋逃。不過,19世紀初以來,伴隨美國多地城市化與移民現象的繁盛,上述格局逐漸崩解。流光溢彩的都市里,個體與陌生人做生意的機會愈來愈多。交易對手,之前素昧平生,轉眼相望江湖。對征信服務的需求,便由此分外迫切。

1843年,出于“確定借貸者是否有能力償還借款,以及具體該出借給借貸者多少款項”的目的,Tappan(人名)設立商業局,向商人、店戶、銀行、保險公司等商業實體提供征信服務。同類機構很快擴張至全國。Tappan的商業局主要出售兩類信息:一是借款人有沒有足夠的財產,二是借款人的稟性如何,是否“有能耐、靠得住且機敏”。之后,此類機構所提供的借貸人信息又被進一步歸約為三類:品性,能耐和資本。
將品性作為重中之重,是當時征信的特色。與今日“數據驅動”的經營模式不同,當時的征信機構頗有幾分“原始”:他們寫信布置各地的線人,要求他們搜集當地生意人的信息,一一發回總部。往返傳遞的信息中,個人品性占了大頭:此人是否勤勞?是否認真履行職責?當地鄉人對此人風評如何?此人是否受當地人信任?是否已婚是否酗酒是否賭博是否慷慨慈善?一個人的信用大半是此類針對個人性情的評價。

時人總結征信機構的職能:記錄個體在本地的聲譽,再供全國各地查閱。從這個意義上看,“雞犬相聞”的鄉土聲譽與“案牘森嚴”的城市征信,彼此間更多呈現接續,而非斷裂。這一導向,也深切影響了征信業在20世紀中期前的發展。其時,全美大部分地域已然城市化,人口普查則讓調查表、統計術及計數機器不再陌生。盡管如此,相當一段時間內,信用的核心仍是人。

關鍵人物是信用審批經理人。他們的鋒芒已然消散,然而在20世紀中葉前的美國,他們是頗令普通市民憂懼的一類人。據原書引用的多處描寫,凡需審批信用的場合,經理人“面無喜樂”而又“深邃如電”的面談,都讓普通人有種“自己被看透”的感覺。哪怕財產等條件已然達標,對個體秉性的懷疑,足以令審批經理人“一言置之死地”。20世紀60年代以來,海量數據(15.550, 0.26, 1.70%)逐漸“浸灌”行業,人在信用中的權威才開始一點點淡出,過程當然不是一帆風順。

當中立化為往事

如果說注重品行像是老派紳士的作風,在“保持中立”方面,征信機構的作風同樣“古板”。何謂“保持中立”?之一,“不偏不倚”。個體如何行事,機構就如何記錄,機構如何記錄,后續就如何評估。征信機構,不過在個體與購買記錄者間的渠道。之二,“恪守本分”。誠然,征信機構有許多寶貴數據,也因此熟悉許多個體、許多企業。然而,機構只做信用,不會憑倚優勢,逾越行業分界。

征信與營銷間的“涇渭分明”,是以上說法的最佳注腳。20世紀中葉前,由報紙、至電話、而電視,鼓動民眾“買買買”這項生意,以前所未有之勢擴張。營銷對數據的渴求沒有止境?;芎A扛鎏迨蕕惱饜嘔?,自然成為營銷者的大主顧。不過,如當時行業格言所示:我們(征信機構)只負責為個體拍“X光”,而不負責“X光片”的“診斷”。

征信者始終沒有涉足厚利的營銷業?!叭狽Χ雜牧私狻?,這一點并沒有說服力。實際上,征信業者非常清楚此類買家的需求。為此,他們揀選最具針對性的數據,并以便于處理的方式打包出售。不僅如此,長久合作之下,行業已擅于妥帖處理各行各業的需求:零售業者、銀行風控、政府機關……各自拿到的,都是最適合自身用途的信息。從現有證據看,對自身信譽的保守,對合作伙伴關系的珍視,以及保守態度下對新業務成本的畏懼,都是更為合理的解釋。

持續百余年的操守,在20世紀60年代間逐漸走到盡頭。先以合作形式,再至親自“下場”,征信機構開始針對社區遷入者開展營銷。經歷喬遷,新來者常有多方面的購置需求,趁熱打鐵的轉化率自然令人滿意。在把握相應營銷時機方面,準確掌握眾多個體住址及購買力信息的信用機構,頗有優勢。很快,從業者便有如下說法:“我們?;そ榪鈁咼庠饉鶚?,但現在,我們的主業是營銷”?!笆菸酢鼻魘葡?,類似勾聯逐漸向其他行業蔓延。初始階段,信用機構對借貸實務的介入不甚深刻,匯集資料抄在紙上裝入檔案,逢有銀行或保險企業來臨,取出上述材料,開示或抄錄一份。

然而,隨著信用業對數據的挖掘日益深入,信用機構與客戶間的糾纏愈加復雜。如今的信用機構不僅拍攝“X光”,還出具診斷結果,甚至給出應對措施。占有數據者雄踞數字經濟的制高點。從制高點向四野“征戰”的過程,注定引致無數爭議。向營銷等行業“進軍”的信用業,頻繁面對“失卻中立”“利益沖突”等批評;同理,手握以億計個人數據、并由此向其他市場傳導勢力的幾家巨頭,同樣面臨著各方的嚴厲批評,甚或遭遇調查指控。臉書與亞馬遜的近期遭遇,即是此處注腳。從這一點出發,無論是理解征信業的長久“守拙”,還是剖釋征信業的逐漸“染指”,抑或觀察征信與下游行業達成均衡,都有幾分“以史為鑒”的效果。

當平等摻入歧視

對“特定的制度安排是否包含歧視”這類問題,是沒有確切答案的。定義何為“歧視”前,需要定義作為基準的“平等”,然而結果平等與機會平等,未必等同?!敖峁庇搿盎帷北舊硪彩鍬鬯搗茲諾母拍??;急湟?,一方看來無可饒恕的歧視,助長、放大現有的不平等,在另一方看來可能反而是平等的福音。圍繞征信,上述沖突尤為突出。征信有“暗黑”面。衡量償貸能力時,弱勢群體很難奢望獲得優待。婦孺、窮苦人、特定族裔,等等,獲“信用差等”的概率遠超旁人。因出生即無法改變的因素而被苛以較差等級,并因此失去諸多機會,本身便是一種惡,性別歧視與種族歧視等行為之下有深重的集體記憶,并因此不可觸犯。最后,無法獲得低廉信貸的弱者走投無路、飲鴆止渴,時常是輿論焦點。

然而,信用業也有“光明”時刻。信用自古就有,曾經只有上流社會貴人的信用有意義,普通人的信用是沒有大用途的。信用業給每個人都建立了為外界所認可的信用檔案。直白地說,如果不是信用業將金融帶給每個人,弱勢群體或許連被歧視的機會都沒有。這不是信用業唯一的“光明”時刻?!爸辛ⅰ庇搿翱蒲А?,是信用業又一促進平等的因素。在這個“中立”的行業里,個體信息被準確地傳輸、匯集、提供,內容不因身份而扭曲;在這個“科學”的行業里,上至高官顯貴,下至販夫走卒,二者所“享受”的,是別無二致的評估標準或算法。1970年代時,面對洶涌而至的批評,業內人士的反駁,相比尊重現實、“讓數據說話”的辦法,針對特定群體調整信用權重才更符合“歧視”的定義。

暗黑與光明的碰撞,催生了1974年《公平信用報告法》(FairCreditRe-portingAct)。據此,信用機構不得基于年齡、膚色、種族、國籍、性別或婚姻狀況等因素歧視借貸者,不過對年齡或婚姻狀況這兩項變量,法律仍為信用機構留出了些許空間。法條的頒布不會終結上述爭議,頒布之后已歷多次修訂。要求大幅刪削甚至廢除法條的呼聲不止一次;要求擴大法條范圍,以容納智力水平、犯罪記錄等因素的聲音亦不在少數。拉鋸,沒有止息的趨勢。處理已有或將有的歧視問題,需要放寬眼界。若以普惠作為金融愿景,信用體系自然不能對弱勢群體冷漠??傻斃龐悶蘭兜人惴ㄖ髟茲粘I畹姆椒矯婷?,甚至在自動駕駛等場景中操控人命時,過往關于歧視的爭論,都會成為某種“讖緯”。

當隱私面臨監視

“如何界定隱私”,描述相關研究進展用語中最樂觀者,也不過“各持己見”。不過,以下兩種定義,已廣獲認可。一方面,從最樸素的觀念看,隱私對應守密,知曉他人不愿讓人知曉之事,甚至將之向外散播,自然屬于侵犯隱私。另一方面,隱私在很大程度上對應于個體自主,從這一觀點出發,侵害隱私的“元兇”并非大型數據庫本身,而是很難說算不算透明且無法干預的算法決策。?;ひ降淖羆淹揪恫皇巧境?,而是讓決策機制更加透明。如何理解信用機構與兩種隱私間的關系?對第一種隱私,原書中的一些發現,或與常人直覺不符。

早在19世紀中葉誕生之初,信用機構便十分注重隱私。商業局等機構靠大量個人信息牟利??稍謔導式灰字姓廡┗茍閱諶蕁拔妗鋇檬幀把鮮怠?。購買數據者常常只可在機構建筑內查閱指定條目,不得抄寫翻印。甚至連個人信息所涉及的主體都沒有權利查看自己的檔案。隨著交易規模的上升,以及競爭日趨激烈,前述規定逐漸不切實際。盡管如此,征信機構仍對個體信息施以嚴格控制與防護,制止其自由流通。信用機構對個人信息的嚴格控制與?;さ腦蠐幸韻錄傅悖悍墑瞧湟?,得知自己“名聲狼藉”的個人,不時提起名譽侵犯訴訟;保育市場是其一,任由寶貴材料肆意流傳,自身的競爭優勢將很快耗散;對生意伙伴的?;な瞧湟?,如果信息來源外泄,私底下傳遞個人信息的合作者,很可能將不會再與信用機構合作。

幾番制衡下,百來年間,征信機構并未引起大范圍的隱私輿論。然而,同樣是在1960年代前后,伴隨存儲、計算及傳輸能力的上升,釋放了這行業對數據的無盡渴求。1960年代末至1970年代初,相應憂慮攀至頂峰,當諸如“夫妻吵架”一類的瑣事都可能錄入新興的計算機信用系統,當雇主頻繁購買信用報告以審查入職者,當政府無節制地從信用機構處提取個人信息,諸如“天眼”“透明人”“環形監獄”等譬喻,一時風頭無二。與前述規制歧視的規條一致,法律成為應時對策,數據的利用及提供,均因此受到限制。隱私的兩類定義,彼此并非“冰炭不容”。當其中一類隱私受損,另一類隱私的處境通常也不會太好。

實際上,如果數據的收集缺乏制約,個體又如何指望機構會“公正”、“透明”地利用信息決策呢?從購物到買房,從求職到投保,生命中許多重大決策上,普通人都經歷著卡夫卡所描繪的無力。因信用機構依舊對用戶固守的“自律”,他們無從知曉決策所據信息是否錯誤,遑論更正信息;至于神秘的評估算法,那就更加超出常人理解的范疇了。歧視導致對“公平信用報告”的規制,濫采引來了限制數據利用及提供的法律,“卡夫卡式擔憂”也產生了類似的功效。

作為對雙方勢力的平衡,1970年代,用戶始有權力查詢、更正數據。無論是?;ぷ魑懊孛堋鋇囊?,還是?;ぷ魑白災鰲鋇囊?,當代人都在摸索中前行。對個人信息的?;?,早已延及收集、使用、分享、銷毀等各項環節;作為進一步衡平的嘗試,刪除權及獲解釋權,都不再只是紙面上的設想。將征信機構180余年的歷史梳理得清清楚楚,一并勾勒社會各界觀念心態的沖突變動,這是本書的首創。

原書敘述更偏向“編年”體例,按照時間線索鋪陳。然而,比對不同時期的紛爭,其中可以抽出共同的主題:數字替代人力,逐利而遠中立,待遇多有差別,隱私散落一地,又考慮到“算法濫用”、“平臺中立”、“算法歧視”、“數據隱私”等全是目前無可爭議的熱點,本書立意,可謂遠超一般的國別專題史著作。其中唯一缺憾,或許是當代部分稍顯薄弱,如果新世紀部分寫得足夠豐滿,全書的意義或可再度拔高。原書的意義,在當代中國這一語境下尤為凸顯。無論是審視信用體系建設,還是議論更廣范圍內的人工智能建設與數字經濟發展,本書都可為切入相應討論提供多方面的指引,盡管許多支持、反對或表達審慎的命題,過去的人們早已論證或辯駁過。(作者系對外經濟貿易大學數字經濟與法律創新研究中心研究員)

來源:經濟觀察報