人工智慧招聘系統也搞歧視?紐約市通過法案進行監管
周姝祺 / 何渝婷編譯
2021-11-23 08:50

(示意圖/取自pixabay)

無論是寫進招聘須知明文規定的「不招募女性」和「年齡35歲以下」,還是在面試時被經常問到的「是否有生育打算」,求職時常會遭遇主觀上的偏見。但出人意料的是,現在被越來越被廣泛應用的人工智慧招聘系統,也暗藏歧視。

美聯社報導,紐約市議會11月初通過一項法案,如果人工智慧招聘系統沒有通過年度審計,無法證明不會因為應聘者的性別或種族進行歧視,這套系統將被禁止使用。

此外,開發人員還需要披露更多的資訊,並提供人工審查等替代方案。

據悉,該法案於11月10日獲得通過,即將離任的市長德布拉西奧(Bill de Blasio)有一個月的時間簽署該法案,使之成為法律。

不過,他尚未表示是否會簽署。如果措施繼續實施,該法案將於2023年生效。

哥倫比亞廣播公司指出,這項法案誕生背景是因為人工智慧在招聘中的使用率激增,越來越多地取代人工篩選,包括達美航空、宜家和聯合利華在內的財富500強公司,已經轉向人工智慧來幫助評估求職者。

這些人工智慧招聘工具可以篩選特定單詞和短句,評估求職者的面試影片,以判斷他們是否適合工作。

相關數據顯示,從在視訊面試中評估申請人臉部表情的人工智慧程式,到預測工作表現的履歷篩選平台,人工智慧招聘產業的價值超過五億美元。

需要警惕的是,人工智慧系統並非完全公正,最著名的例子是亞馬遜曾開發的一款招聘工具。該工具模型學習了過去10年求職者提交給亞馬遜的履歷,並有效地「教導」了自己,男性候選人更受歡迎,對包含「女性」一詞的簡歷以及兩所女子大學的畢業生進行降級處罰。

雖然該工具從未被使用過,但它展示了用機器智慧代替人類判斷的潛在缺陷。

該法案的發起人、市議會成員庫姆博 (Laurie Cumbo) 在立法聽證會上表示:「作為一些世界上最大公司所在城市的立法者,我們必須進行干預並防止不公正的招聘。」

幾個民權組織表示,紐約市議會提出的法案還遠遠不夠。包括紐約公民自由聯盟和紐約變革社區在內的十幾個團體發佈公開信,推動法律涵蓋更多類型的自動化工具和招聘過程中更多的步驟,希望該措施包括更重的處罰,使人們能夠在因算法有偏見而被忽略的情況下提起訴訟。

「審計偏見的方法是一種很好的方法,但紐約市對這種情況採取了非常軟弱和模糊的標準。」民主與技術中心總裁吉文斯(Alexandra Givens)認為,審計最終可能會給人工智慧供應商一個「遮羞布」,讓他們可以在市政府的許可下生產高風險產品。 

對於招聘專業人士而言,人工智慧的主要吸引力在於其節省時間的能力。部分技術專家也肯定了自動化程式的潛力,如果使用得當,可以消除人為偏見,例如招聘經理可以忽視非洲裔美國申請人,或看好與招聘經理在外表上相似的候選人的傾向。

美國招聘平台HiredScore的執行長卡普 (Athena Karp) 說:「不幸的是,當只有人工審核履歷時,人類無法忽視導致無意識偏見的事情,比如母校一樣或者在同一個地方長大。」

卡普表示,她支持紐約法案。她在聽證會上坦言:「如果技術用於招聘,技術製造商和候選人可以而且應該知道他們是如何被使用的。」

本文為界面新聞授權刊登,原文標題為「人工智能招聘系統也搞歧視?紐約市通過法案進行監管