人臉辨識系統

台灣耶路撒冷國際基督徒協會著作所有，歡迎轉載，請註明出處

---

編譯：台灣ICEJ團隊
新聞出處：TOI｜新聞日期：2020/7/2

監督人臉辨識技術引發辯論，因誤差數值使許多公司懸崖勒馬，遏制此技術發展

以色列創業公司AnyVision官方表示，希望對該行業進行監管，因為與開放原始碼平台不同，該公司的軟體永遠都不會被濫用

 

由於在某些設備與工具上被發現原先就有的誤差，全球對人臉辨識技術的強烈反對，促使以色列在這領域上的新創公司警示大家，不要對該領域進行全面拒絕。

以色列頗受爭議的視覺情報技術全球領導者AnyVision的行銷總監亞當．迪瓦恩(Adam Devine)表示，政府應就僅知道如何保護隱私和防止數值誤差的專業來出售人臉辨識軟體。這家新創公司表示，不應將技術出售給不會正確使用它們的組織。行銷總監敦促著說：「你總是得避免錯誤啊！」

媒體最近指控人臉辨識系統這家新創公司向以色列國防軍提供了在巴勒斯坦領土上進行大規模監視的工具。微軟在三月份放棄了持股，儘管該科技巨頭表示，聘請前美國司法部長艾立克．霍爾德(Eric Holder)領導的一組律師調查此事後，無法證實該創業公司的技術被不道德地使用。整體上，人臉辨識技術受到了民主自由活動人士的抨擊，他們說這些工具偏向有色人種，侵犯了公民的隱私。該技術使用視覺圖像輔助計算機識別人們，從解鎖手機到在邊界或群眾聚會上挑出犯罪嫌疑人的臉，該技術得到了廣泛使用。由於愈來愈多使用該技術可以控制犯罪和恐怖攻擊，因此，有關該技術的優缺點，全球爭論日益激烈。

 

6月25日，波士頓市成為繼舊金山之後全球第二大城市，禁止警察和市府機構等使用人臉辨識技術，原因是在有色人種方面，該技術是不準確的。

無法分辨非裔美國人

羅伯特．威廉斯(Robert Williams)是一名居住在底特律郊區的非裔美國人，今年年初在妻子和兩個年幼的女兒面前在家中被捕，並被拘禁了近30個小時。密西根州警察使用的人臉辨識技術將他誤認為另一個非裔美國人，因為該部隊使用的技術無法區分非裔美國人。

美國公民自由聯盟(ACLU)表示，威廉斯與被一家手錶店的監控網路攝影機抓獲的嫌犯唯一的共同點是，他們都是個頭高骨架大的非裔美國人。該組織上個月呼籲議員「執法時，禁止使用人臉辨識技術」。

威廉斯的故事發生之際，包括IBM，亞馬遜和微軟在內的美國科技公司正計劃暫停或終止向美國警察出售其人臉辨識技術。亞馬遜於6月10日宣佈原允許警察執法部門使用人臉辨識平台，為期一年的禁令，暫停使用。而前兩天IBM表示，出於潛在的人權，偏見和隱私問題，IBM將不再提供其通用的人臉辨識或分析軟體。

 

麻省理工學院(MIT)於2018年進行的一項研究，調查了三家主要技術公司在商業發佈的人臉分析軟體產品當中，研究中發現，皮膚類型和性別辨識上都存在著有所誤差。例如，該軟體在識別淺色皮膚的男性性別時的錯誤率為0.8％，而深色皮膚的女性則為34％以上。

當初這家以色列新創公司，使用人工智慧技術辨識人臉，身體和物體，以用於安全，醫療和商業用途。其辨識技術軟體用於「針對合法用戶和客戶進行身份驗證；檢測目標；追踪罪犯和恐怖份子；並根據數據資料庫內，在各種各樣的環境中找到失踪人員，包括銀行，教育機構，教養所，機場，賭場，企業和特殊活動。」

去年，以色列商業報紙《標記》(The Marker)報導表示，以色列國防軍在西岸檢查站和巴勒斯坦權力機構的網路攝影機使用了這家新創公司提供的技術。報告指出，這些攝影機和數據庫被用來識別和追踪潛在的巴勒斯坦襲擊者。之後，去年10月，美國有線電視新聞頻道MSNBC的一份報告中，質疑了微軟為什麼要資助一家幫助監視西岸巴勒斯坦人的以色列公司。

 

 

 

該報告促使微軟對此事進行了調查。今年三月，這家美國科技巨頭表示，將撤回對以色列這家新創公司的投資，儘管其自身的調查無法證實該新創公司技術使用上有不道德的行為。

微軟在一份聲明中表示：「經過仔細考慮，微軟和以色列這家新創公司同意，放棄微軟在新創公司的股份，以符合兩家企業的最大利益。」除了從該公司撤資外，微軟還表示將停止對銷售人臉辨識技術的公司進行少數投資。微軟還表示，審計強調了在出售敏感技術的公司中擔任少數派投資者的挑戰，因為它可能沒有足夠的監督或控制該技術的使用方式。如今，美國和全球的頭條新聞更是進一步加劇了反對這些技術的熱度。

除了撤資時，以色列這家新創公司拒絕就微軟其雙方的關係發表評論不過同時也表示，沒有其他科技公司退出對新創公司的投資，而且「銷售並未受到微軟撤資的影響。」就公司官方表示，市場上對公司產品的興趣上升了，這歸功於「渴望改善人員和場所的安全性」。客戶使用人臉辨識技術打開為安全交易和安全目的進行遠程身份驗證和識別的大門，因著「識別監視列表中的已知人員來防止威脅。」

新冠病毒爆發不久後，這家新創公司在以色列最大的醫院拉馬干(Ramat Gan)的示巴醫療中心(Sheba Medical Center)安裝了熱像儀，使醫院能夠立即發現有發燒的醫護工作人員。據報導，人臉辨識軟體可以『在幾秒鐘內』辨識出與被感染人員接觸的任何人，並使政府能夠準確確定誰應該被隔離。

 

 

來自研究學者建議，目前正確的做法是，依照亞馬遜的建議，「採取道德上的停頓」，以弄清楚如何解決問題並確定前進的標準。嚴格的法規應該限制該技術的使用範圍，並且永遠不應允許其推斷有關人的其他私人信息，例如疾病或性傾向。算法還必須是「透明的」，開發人員可以公開他們接受過哪些數據訓練。外行可能很難理解這些信息，但是專業人員可以對其進行審查。而且，在那裡根據每件案子的具體情況，應該是讓人員有能力監督軟體的整個流程結束。