• <dd id="3gzlp"></dd>

    <li id="3gzlp"><acronym id="3gzlp"></acronym></li>

    <span id="3gzlp"></span>

    裁掉數十名人工編輯后,微軟的新聞 AI 翻車了

    伊紅-美藍
     伊紅-美藍
    發布于 2020年06月12日
    收藏 1

    openEuler項目召集令就在暑期2020,最高6萬元獎金等你來領!>>>

    前段時間,微軟解雇了約 50 名 MSN 新聞編輯,同時打算用日漸成熟的 AI 系統取而代之的消息引發廣泛討論,不少編輯同事都擔心自己的飯碗將來也會被人工智能搶走。然而事情才過去沒幾天,微軟的 AI 就翻車了。

    外媒報道,近日,微軟新的人工智能發布軟件推送了一篇文章,文中內容談到種族主義對一位英國混血女歌手 Jade Thrilwall 的個人影響,但文中的配圖卻是 Jade 的隊友 —— 另一位混血女歌手 Leigh Anne Pinnock 的照片。顯然,該 AI 系統在人臉識別方面犯下了錯誤。

     

    (右 1 為 Jade Thirlwall,右 2 為 Leigh Anne Pinnock)

    Jade Thirlwall 是英國女子組合 Little Mix 的一員,近期在一檔與“Black Lives Matter”相關的 BBC 訪談節目中,Jade 分享了自己在英格蘭東北部南希爾茲一個以白人為主的社區環境下成長遭遇的不平等對待。她的外祖父母來自埃及和也門,而她因為阿拉伯血統而受到同齡人的欺負。

     

    (Jade Thirlwall)

    Jade 的這篇采訪稿由《獨立報》報道,并被微軟旗下的 MSN.com 網站轉載。該網站收錄了來自全球各地的優質內容,內容原本由 AI 系統輔助數十名人工編輯混合校審,然后發表。MSN.com 網站過去有數十名人工編輯策劃,他們負責挑選故事、新聞和圖片在網站上發表,直到上個月微軟宣布裁掉約 50 名人工編輯。微軟認為,原本輔助編輯們完成這一系列工作的 AI 發布系統完全有能力單獨勝任這項工作

    外界將 MSN 的這一錯誤歸咎于微軟的 AI 算法不可靠。值得一提的是,《衛報》媒體編輯吉姆·沃特森(Jim Waterson)聲稱,MSN 正試圖阻止 AI 編輯選擇《衛報》上這篇出現配圖錯誤的文章,MSN 的工作人員也被告知等待《衛報》這篇文章的發表,并嘗試從網站上手動刪除它,因為微軟的 AI 機器人編輯很有可能會認為這是 MSN 讀者感興趣的內容。

    而微軟方面則否認這一錯誤是由于「不可靠」的人工智能造成的,稱其是自動發布軟件的一項新功能的邏輯出了問題。“雖然消除偏見和提高準確性仍然是人工智能研究的一個重點領域,但這一錯誤并不是這些問題造成的。”微軟的一位發言人在周二的一次采訪中解釋說,“只是我們在測試中的一個圖片替換功能出了一些問題,但我們很快關閉了這一功能,并修正了圖片的錯誤。”

    然而,這個小小的誤會并沒有被忽視。Jade Thirlwall 本人在社交平臺上發帖指責了 MSN 的錯誤:“這件事發生在 Leigh Anne Pinnock 和我身上已經很多次了,一直以來都有媒體把我們弄混,這幾乎成了一個惡作劇。你們不能在一個團體的四個成員中區分出兩個有色人種的女人,這讓我很生氣!”

    事實上,目前的 AI 人臉識別技術確實在膚色、性別方面存在一定的偏見。有研究表明,微軟的 AI 人臉識別技術雖然準確率已經接近 100%(僅限于白人男性),但在識別膚色較深的人種時準確率仍只有 79.2% ~ 94%。而就在兩天前,另一 IT 巨頭 IBM 宣布放棄所有人臉識別相關技術業務,指出人臉識別技術存在膚色、性別偏見,旨在聲援日漸加深的種族歧視問題。值得一提的是,IBM 的 AI 人臉識別技術在識別膚色較深的人種時準確率只有 65.3% ~ 88%。

    近期,隨著 “Black Lives Matter” 運動在歐美地區的迅速發酵,其影響力也輻射到了包括 AI 在內的技術領域。比如有國外專家認為編程語言中的主-從(master-slave) 關系是一種壓迫性的比喻,Blacklist 等類似名詞包含對黑人的歧意等。包括谷歌在內的一些互聯網公司已經開始著手處理這些問題,主動更改項目代碼中的一些歧義描述,盡管這些代碼語句已經被人們沿用了數十年。

    本站文章除注明轉載外,均為本站原創或編譯。歡迎任何形式的轉載,但請務必注明出處,尊重他人勞動共創開源社區。
    轉載請注明:文章轉載自 OSCHINA 社區 [http://www.url23.com]
    本文標題:裁掉數十名人工編輯后,微軟的新聞 AI 翻車了
    加載中
    此新聞有 13 條評論,請先登錄后再查看。
    返回頂部
    頂部
    聚看影院