• <dd id="3gzlp"></dd>

    <li id="3gzlp"><acronym id="3gzlp"></acronym></li>

    <span id="3gzlp"></span>

    IBM 全面停止 AI 人臉識別相關技術業務

    伊紅-美藍
     伊紅-美藍
    發布于 2020年06月10日
    收藏 7

    openEuler項目召集令就在暑期2020,最高6萬元獎金等你來領!>>>

    近日,IBM 公司宣布停止提供人臉識別技術的相關服務,因為擔心這項技術可能被用來促進種族和性別歧視。

    IBM 首席執行官 Arvind Krishna 在一份遞交到美國國會的公開信中寫道:“IBM 堅決反對將任何技術用于大規模監視、種族定性、侵犯基本人權和自由,或任何與我們的價值觀、信任和透明原則不符的目的。”

    顯然,IBM 此舉旨在響應在美國愈演愈烈的反種族歧視運動“Black Lives Matter”。Arvind 在信中還呼吁國會出臺相關國家政策,鼓勵采用警員佩戴攝像頭(類似行車記錄儀)和數據分析等技術,引入適當的問責制度,讓執法工作更透明。 

    目前,美國少數城市已經禁止使用面部識別技術。去年,舊金山、奧克蘭和圣地亞哥等城市相繼禁止使用面部識別技術,理由是這項技術存在局限性,在使用方面缺乏標準,還助長了對少數人種的潛在偏見。 

    人臉識別技術的發展

    很難相信,這項十年前還常常出現在科幻電影中的技術,如今離我們的生活如此接近。事實上,人們在上世紀 60 年代就開始了對人臉識別技術的探索。彼時,人臉識別之父 Bledsoe 開發了一種系統,該系統可用計算機輔助人們手動記錄各種面部特征(包括眼睛,鼻子,發際線和嘴巴)的坐標位置,然后將這些坐標數據插入數據庫中。當為系統提供某人的新照片時,它能夠從數據庫中檢索與之最相似的圖像。這就是最早的人臉識別系統。可惜的是,受到當時的技術和計算機處理能力的限制,這項技術并沒有得到大規模的應用。但該系統成功證明了面部識別是可行的生物特征識別技術,邁出了人臉識別技術重要的第一步。 

    隨著計算機硬件性能的飛躍,研究者不斷地突破人臉識別系統的上限,但成功率一直無法實現大規模商用。直到 2014 年前后,大數據和深度學習的發展掀起了新時代 AI 熱潮,神經網絡重受矚目,并在圖像分類、手寫體識別、語音識別等應用中獲得了遠超經典方法的結果。來自香港中文大學的研究團隊提出將卷積神經網絡應用到人臉識別上,采用 20 萬訓練數據,在 LFW 上第一次得到超過人類水平的識別精度,這是人臉識別發展歷史上的一座里程碑。自此之后,人臉識別技術與機器學習綁定,研究者們不斷改進機器學習算法,同時擴大訓練樣本規模,將 LFW 上的識別精度推到99.5%以上。人臉識別發展過程中一些經典的方法及其在 LFW 上的精度,都有一個基本的趨勢:訓練數據規模越來越大,識別精度越來越高。

    人臉識別中的偏見 

    在過去的十年中,得益于人工智能的發展,人臉識別軟件有了很大的進步。同時,由于該技術通常是由私營公司提供的,缺少相關法律法規的限制和政府部門的監管。因此,有調查顯示這項技術存在種族、性別偏見,這會使該工具在執法過程中的可靠性大打折扣,存在侵犯公民合法權利的風險。 

    2018 年,Joy Buolamwini 和 Timnit Gebru 的研究首次揭示了許多商業人臉識別系統(包括 IBM 的)有多大的偏見。該研究測試了三款來自不同地區公司的主流人臉識別軟件,人物面部素材來自 3 個非洲國家和 3 個歐洲國家的志愿者,研究人員把素材按照膚色、性別來進行交叉分類。研究結果顯示:

    • 所有人臉識別軟件對男性的識別成功率都比女性更高,錯誤率相差 8.1%~20.6%
    • 所有人臉識別軟件對淺膚色的人臉識別成功率比深膚色的更高,錯誤率相差 11.8%~19.2%

    綜合各分類的人臉識別成功率如下:

    綜合對比顯示,各人臉識別軟件對淺膚色男性的人臉識別成功率最高,對深膚色女性的人臉識別成功率最低,正確率差距最高達到 34.4% 。

    也就是說,在這些已經大規模商用的人臉識別軟件應用場景下,黑人女性有 20%~30%的概率被識別錯誤,產生一定的誤會。如果是在警用安保等使用場景下,發生誤會的后果可能會非常嚴重。 

    這項研究工作引起了外界對這些人臉識別算法的批評,各大科技公司也為糾正偏差進行了持續的調查研究。例如,美國國家標準技術研究院(National Institute of Standards and Technology)于 2019 年12 月進行的一項研究發現,“在大多數當前評估的人臉識別算法中,跨人種差異確實存在廣泛的準確性偏差”。除了對人種、性別的識別偏差外,人臉識別技術還因其在侵犯隱私方面的問題而受到抨擊

    從今年初開始,另一家美國的人臉識別技術公司 Clearview AI 受到了嚴密的審查,因為有關部門發現其面部識別工具由超過 30 億張圖像(大部分是通過抓取社交媒體網站收集的)構建而成,并且已被很多企業廣泛使用。自那以來,Clearview 公司已被執法部門責令停業,并且面臨多項侵犯公民隱私的訴訟。今年 1 月份,Facebook 也因其非法使用面部識別技術遭到檢方起訴,面臨 5.5 億美元的罰款。

    人臉識別的未來

    這一次藍色巨人 IBM 宣布放棄人臉識別業務的決策,也給野蠻生長的人臉識別產業踩下了一腳急剎車,把人們的注意力集中到技術背后的問題上來,比如人權平等、隱私保護等。各項研究表明,目前的人臉識別技術仍存在一定的缺陷。

    不同于 5G 等新技術,AI 在誕生之初就被人們視為一把雙刃劍。無論是前段時間飽受爭議的 Deepfake,還是如今處境尷尬的人臉識別,人們對于 AI 技術帶來的社會、倫理問題的擔憂從未停止。但還是那句話,“菜刀可以用來做菜,也能用來傷人”,技術本身是無罪的,一切都取決于使用技術的人。相信在這項技術完全成熟以后,人臉識別仍然能夠在一些人類需要的場景下發光發熱。

    本站文章除注明轉載外,均為本站原創或編譯。歡迎任何形式的轉載,但請務必注明出處,尊重他人勞動共創開源社區。
    轉載請注明:文章轉載自 OSCHINA 社區 [http://www.url23.com]
    本文標題:IBM 全面停止 AI 人臉識別相關技術業務
    加載中
    此新聞有 30 條評論,請先登錄后再查看。
    返回頂部
    頂部
    聚看影院