人工智能已經取得了顯著的進步，但事實上，剛剛起步的技術和有偏見的數據也不可避免地會產生人類未曾想到的錯誤。這就是為什么審查人工智能故障是必要和有意義的。

Synced最近對全年的人工智能十大“失敗案例”進行了首次總結(2018 in Review: 10 AI Failures)。

AI人臉識別闖紅燈“智障” 知名企業家董明珠躺槍

董明珠在寧波“闖紅燈”被抓?原來是在過馬路時公交廣告上董小姐的“大頭照”太明顯，一下子被闖紅燈人臉識別系統捕捉到，竟然誤以為是真人!董小姐人在家中，卻在社交媒體上不幸躺槍成了“jaywalker”。

那輛巴士剛好被投放了印有董明珠頭像的廣告。當這輛巴士行駛在寧波中山東路，經過江夏橋東一帶時，恰好從中間垂直方向穿過了一條亮著紅燈的斑馬線，而車身廣告上董明珠的照片正臉剛好對準了一側的紅燈，如果是個真人的話，TA的確是在闖紅燈。高大上的AI檢測系統頓時變成“人工智障”，把照片當成了真人，直接把這輛公交車拍了下來，還鎖定了車身上董明珠的照片，判定此人闖紅燈。該系統還從數據庫里搜索，把董明珠的車身廣告照片和一行「***，在江夏橋東違法闖紅燈」曝光到了大屏幕上。寧波交警事后回應稱，技術人員已經對該系統進行了全面升級。

CloudWalk深度學習研究員Zhou Xiang告訴Synced，問題可能出在算法缺乏實時檢測上。“在這個距離進行現場探測是一項具有挑戰性的工作，雖然將圖像識別為真人現在非常普遍。”

Uber自動駕駛汽車殺死了一名行人

在公共道路上第一個已知的與車輛相關的自動駕駛行人死亡事件中，優步的自動駕駛SUV于3月28日在亞利桑那州的Tempe市撞倒了一名女性行人，致其當場死亡。

Uber發現其自動駕駛軟件決定在汽車傳感器檢測到行人后卻沒有采取任何行動。根據美國國家運輸安全委員會關于事故的初步報告，這是因為Uber的自動模式禁用了沃爾沃工廠安裝的自動緊急制動系統。

在悲劇發生之后，Uber在北美城市暫停了自駕駕駛測試，而Nvidia和豐田也在美國停止了自駕車道路測試。事故發生8個月后，Uber宣布計劃在匹茲堡恢復自駕車路試，盡管該公司的自駕車未來仍然不明朗。

　　IBM Watson醫療保健出現重大漏洞

根據Stat獲得的內部文件，佛羅里達州Jupiter醫院的一名醫生評論IBM的旗艦人工智能程序Watson時寫道，“這個產品很糟糕，簡直就是一坨屎。”IBM最初是一個問答機器，一直在廣泛的應用程序和流程(包括醫療保健)中探索Watson的AI功能。 2013年，IBM開發了Watson首個針對癌癥治療推薦的商業應用程序，該公司在過去五年中與醫院和研究中心建立了許多重要的合作伙伴關系。但Watson AI Health并沒有給醫生留下深刻印象。一些人抱怨它對癌癥治療提出了錯誤的建議，可能會導致嚴重甚至致命的后果。

據報道，在沒有顯著進步的項目上花費數年后，IBM正在縮小Watson Health的規模并裁掉該部門員工的一半以上。

　　亞馬遜AI招聘工具“性別歧視”明顯

據報道，亞馬遜人力資源部門在2014年至2017年期間使用了支持AI的招聘軟件來幫助審核簡歷并提出建議。然而，該軟件對男性申請人更有利，因為其模型是在過去十年中提交給亞馬遜的簡歷上接受培訓的，當時雇用了更多的男性候選人。

據報道，該軟件降級了包含“女性”一詞的簡歷，或暗示申請人是女性，例如因為他們曾就讀過女子大學。亞馬遜此后放棄了該軟件。該公司并未否認使用該工具提出建議，但表示從未用于評估候選人。

　　DeepFakes將色情主角錯認成《星戰》Daisy Ridley

去年12月，Reddit網上出現了一些國際頂級女星——25歲《星戰》女星黛絲烈尼(Daisy Ridley)的色情視頻，原因竟然是是“DeepFakes”采用生成對抗網絡，將明星的臉與色情視頻中女性的臉進行了交換。

雖然面部交換技術已經開發多年，但DeepFakes的方法顯示，任何擁有足夠面部圖像的人現在都可以制作他們自己非常有說服力的假視頻。色請視頻的創作者，就是將《星球大戰》知名演員Daisy Ridley的臉與上面的色情女星交換了。

2018年，逼真的名人假視頻依舊充斥著互聯網。雖然這種方法在技術上并非“失敗”，但其潛在的危險是嚴重而深遠的：如果視頻證據不再可信，這可能會進一步鼓勵流傳假新聞。

Google Photo出現了bug

Google相冊包含一個相對未知的AI功能，可以自動檢測具有相同背景/場景的圖像，并將它們合并為單個全景圖片。 1月份，Reddit用戶“MalletsDarker”在滑雪場拍攝了三張照片：兩張是風景照，另一張是他朋友的照片。當谷歌照片合并這三個時，發生了一件奇怪的事情，因為他的朋友的腦袋被渲染成一個從森林中窺視出來的尖峰巨人。尷尬作死瞬間如圖：

這張照片使得r/funny subreddit排名前十，并獲得了202k的贊成票。社交媒體稱贊谷歌算法巧妙地混合了圖像，同時嘲笑它在構圖基礎方面的愚蠢。

LG機器人Cloi在揭幕儀式上“傻掉”

1月8日應該是LG的IoT AI助手Cloi在拉斯維加斯舉行的2018年國際消費電子展上首次亮相的那一天。 Cloi被呈現為一個簡單而愉快的界面，能夠識別控制家用電器的語音命令。然而，當可愛的機器人走上舞臺進行現場演示時，觀眾正在觀看和等待，一直等待……因為它未能回應LG市場營銷主管的命令，只產生尷尬的沉默。

　波士頓動力學機器人blooper

SoftBank擁有的機器人制造商波士頓動力公司今年不止一次為互聯網贏得了驚喜：它的機器人SpotMini可以靈巧地用頭戴式抓手臂打開門;它的人形機器人阿特拉斯現在可以做“跑酷”了——順利跳過原木，跳躍一系列40厘米的步驟而不會停下步伐。

但即使是波士頓動力公司也有其不小心“哎呀”的時刻：在未來科學家和技術專家大會上首次亮相時，阿特拉斯在一個完美的演示中舉起了盒子等。但正當表演結束準備離開時，這個可憐的機器人絆倒在窗簾上，笨拙地從舞臺上摔下來。不過，它摔倒的樣子倒也挺像人類的。

　2018年AI對世界杯的預測幾乎都是錯誤的

2018年世界杯是一年中最重要的體育賽事，高盛、德國多特蒙德技術大學、Electronic Arts、彼爾姆國立研究大學和其他機構的人工智能研究人員運行了機器學習模型，來預測多階段比賽的結果。然而大多數都是完全錯誤的，只有EA——使用其視頻游戲FIFA 18的新評級進行模擬——正確地支持了勝利者法國。EA游戲引擎以眾多機器學習技術為后盾，旨在使玩家的表現盡可能逼真。

SQL服務數據科學家Nick Burns提供了一個解釋：“無論你的模型有多好，它們都只是和你的數據一樣好……最近的足球數據還不足以預測世界杯的表現。缺少信息和未定義的影響太多了。”

Startup聲稱可以從面部掃描預測智商

以色列機器學習初創公司Faception提出了有爭議的說法，即其人工智能技術可以分析面部圖像和骨骼結構，以揭示人們的智商，個性，甚至是暴力傾向。數據科學家Ben Snyder在Twitter上斥責該公司的技術：“那是顱相學。你只是把ML當作一個種族主義的背鍋俠。“這條推文收到了超過6,500次轉推送和近17,000個點贊。

【來源：前瞻網】