人臉辨識頻踩道德紅線？亞馬遜悄悄延長自家系統的禁用時間

據路透社報導，亞馬遜已經延長了對自家人臉辨識軟體用於執法的禁令，直到另行通知。

該禁令之前設定為期一年，原定於六月到期，亞馬遜沒有立即回應為何延長這一禁令。

早在2018年，亞馬遜員工就曾力促亞馬遜縮減這一項目的規模。他們認為，有記載的人臉辨識種族偏見，可能加劇當地警方對於少數族裔的暴力行為。

亞馬遜一直為該項目辯護，直到去年6月，當時抗議活動的壓力越來越大，亞馬遜這才宣布，面向警方客戶的服務暫停一年。

Rekognition屬於AWS所提供的一項服務，其實許多亞馬遜在雲端運算領域的競爭對手都具有類似的技術。

就在亞馬遜做出承諾的第二天，微軟也宣布了類似聲明，稱將不會向當地警方出售其臉部辨識服務。

而IBM在同一週內也表示，將停止開發或研究臉部辨識技術；谷歌則表示不會向任何人提供臉部辨識技術的商用。

去年夏天，關於臉部辨識技術的道德性問題甚囂塵上。

麻省理工學院媒體實驗室的研究員Joy Buolamwini和微軟研究院的Timnit Gebru，都致力於揭示人臉辨識技術在種族偏見方面的偏見。兩人做了不少基礎性工作，其中有一篇共同撰寫的論文被廣泛引用。

該論文指出，包括IBM和Microsoft在內的主要科技公司，他們的人臉辨識系統，用於辨識膚色較黑的人的錯誤率，比辨識膚色較白的人要高幾十個百分點。根據《紐約時報》的一份報告，問題部分在於用於訓練系統的數據集，其中絕大多數可能是男性和白人。

在2019年的另一項研究中，Buolamwini和另一位學者分析了Rekognition，發現亞馬遜的系統也存在重大問題，無法辨識膚色較黑的人的性別，以及誤以膚色較黑的婦女為男性。研究發現，該系統在分析膚色較淺的人的圖像時，錯誤率幾乎為零。

在之前首次宣布禁用於執法時，亞馬遜曾表示，希望國會利用這段服務暫停的時間，來調整人臉辨識技術的法律法規。

當時亞馬遜在聲明中曾表示，「我們主張政府制定更嚴格的法規，來管理人臉辨識技術使用的道德問題，期望這一為期一年的暫停，可以使國會有足夠的時間祭出適當的規則，並且我們隨時準備根據要求提供幫助。」

但到目前為止，還沒有聯邦立法解決警方與人臉辨識技術的矛盾，但是許多州或地方政府已經通過了相關規定，決定減少這一技術的使用。

2019年5月，舊金山成為美國第一個禁止政府使用人臉辨識的城市，奧克蘭緊隨其後；俄勒岡州和緬因州波特蘭的城市也通過立法。

去年12月，馬薩諸塞州有過一項類似的禁令草案，但當時並未獲得通過，不過最近通過了一項修改後的法案，對警方使用人臉辨識一事增加了一些限制。

去年7月，紐約州立法機構剛剛通過了一項法令，禁止在學校中使用人臉辨識和其他生物特徵辨識技術，直至2022年。

另外，就在上個月，歐盟也發表了一項監管人工智慧使用的提案：《關於「歐洲議會和理事會條例：制定人工智慧的統一規則（人工智慧法案）並修訂某些聯盟立法」的提案》。

該提案規定了企業和政府應如何使用人工智慧技術，長達108頁，對人工智慧在一系列活動中的使用都進行了限制，其中就包括限制警方在公共場合使用人臉辨識軟體。

這些領域因其可能對人們的安全或基本權利造成威脅，而被歐盟視為「高風險」領域。不過，出於國家安全和其他目的的應用，可能會有一些豁免權。

根據該提案要求，歐盟將有可能對違規最嚴重的公司，處以相當於其全球年銷售額6%的罰款。