晴時多雲

蘋果卡性別歧視? 夫妻信用額度差20倍

蘋果公司和高盛集團合作發行蘋果卡,卻被客戶指控其演算法涉及性別歧視。圖為蘋果執行長庫克三月間在美國加州庫帕提諾(Cupertino)舉行的蘋果新品發表會上致詞。(法新社檔案照)

蘋果公司和高盛集團合作發行蘋果卡,卻被客戶指控其演算法涉及性別歧視。圖為蘋果執行長庫克三月間在美國加州庫帕提諾(Cupertino)舉行的蘋果新品發表會上致詞。(法新社檔案照)

2019/11/11 05:30

〔編譯茅毅/綜合報導〕科技巨擘蘋果公司(Apple)和高盛集團(Goldman Sachs)合作發行信用卡「蘋果卡」(Apple Card),但在一名持卡人質疑其信用額度審核標準的相關推文在網路上瘋傳後,美國紐約州金融服務署(DFS)九日證實,正調查蘋果卡是否在設定客戶的信用額度時涉及性別歧視。

兼具企業家及網路開發工程師身分的韓森(David Heinemeier Hansson)七日推文抱怨,該卡給他的信用額度,是給他太太的廿倍!他雖未透露其夫妻所得等資訊,但表示兩人報稅為合併申報,妻子比他的信用評分更高。他認為,蘋果卡的演算法「是該死的性別歧視計畫」。

工程師抱怨演算法黑箱

高盛發言人威廉斯(Andrew Williams)辯稱,信用卡額度的審核係基於客戶的信譽,而非性別、種族、年齡、性傾向或法律禁止的任何其他歧視。但韓森對此嗤之以鼻,還自爆妻子原先懷疑是因為她的聽力有問題,才使兩人的信用額度差很大。而當此事演變為公關議題,高盛隨即調升妻子的信用額度,也未要求她再提供任何證明文件。

韓森認為,並非有某個壞人想歧視,但沒人能解釋蘋果卡如何決定妻子信用額度時,如何確保「機器學習演算法」沒問題?他覺得,高盛只是企圖「收買」一個「推特」上的大嘴巴,並未解決其信用評分系統。他希望此事能夠引起對「黑箱」演算法的討論,及這些系統中固有的偏見。

「黑箱」演算法是指人工智慧系統,這些系統所做決定無法解釋。韓森指出,高盛和蘋果都將信用評等交給「黑箱」,雖無性別歧視的意圖,卻有性別歧視的結果。

這是紐約州金融服務署近幾週來再度採取這類行動。此前,在一項研究發現一種演算法對白人病患比對黑人病患更有利後,該署已對健康照護巨擘「聯合健康集團」(UnitedHealth Group)展開調查。該署署長萊斯威爾(Linda Lacewell)的發言人強調,所有演算法,無論有意或無心,一旦造成對女性或任何其他受保護階級的歧視待遇,均違反該州法律。