今年，人工智能項(xiàng)目AlphaGo和Libratus分別在圍棋和德州撲克上擊敗了當(dāng)今世界上最優(yōu)秀的人類選手。雖然這些里程碑顯示了，近幾年人工智能到底發(fā)展到了何種地步，但許多人對(duì)新興技術(shù)的整體成熟度仍持懷疑態(tài)度 - 尤其是在過(guò)去12個(gè)月中 AI犯下的一些尷尬錯(cuò)誤。

雖然筆者是機(jī)器智能的粉絲，但是不可否認(rèn)，一些新技術(shù)在執(zhí)行任務(wù)時(shí)表現(xiàn)非常掙扎，經(jīng)常以人類料想不到的方式出錯(cuò)。一下是我們選擇的，值得注意的10次AI嚴(yán)重失誤。

1. 被面具解鎖的Face ID

Face ID是用于解鎖新型iPhone X的面部識(shí)別技術(shù)，被譽(yù)為迄今為止最安全的AI激活方法，蘋(píng)果公司宣稱被愚弄的幾率為百萬(wàn)分之一。事實(shí)證明亂立flag果然不是什么好習(xí)慣。沒(méi)過(guò)多久，越南公司BKAV使用由3D打印塑料、硅膠、化妝品和剪貼畫(huà)構(gòu)成的，成本為150美元的面具破解了Face ID。Bkav僅僅掃描了一個(gè)測(cè)試對(duì)象的臉部，使用3D打印機(jī)生成一個(gè)臉部模型，并貼上剪紙眼睛、嘴巴和硅膠鼻子。這一破解實(shí)驗(yàn)給整個(gè)行業(yè)帶來(lái)了巨大沖擊，加大了消費(fèi)者設(shè)備隱私的風(fēng)險(xiǎn)，更廣泛的說(shuō)，是暴露了基于人工智能技術(shù)的系統(tǒng)的安全性問(wèn)題。

2.鄰居報(bào)警投訴Amazon Echo

最近廣受歡迎的Amazon Echo被認(rèn)為是最強(qiáng)大的智能揚(yáng)聲器之一。但沒(méi)有什么是完美的。一名德國(guó)男子的Echo在不在家的時(shí)候被意外激活，并在午夜后開(kāi)始播放音樂(lè)，吵醒鄰居。于是他們打電話給警察，警方不得不打破前門(mén)以關(guān)閉搞事的揚(yáng)聲器。警方還更換了門(mén)鎖，所以當(dāng)這個(gè)人回來(lái)時(shí)，他發(fā)現(xiàn)自己進(jìn)不了家門(mén)了。

3. Facebook 聊天機(jī)器人被強(qiáng)行關(guān)閉

今年七月，廣泛報(bào)道說(shuō)兩個(gè)Facebook聊天機(jī)器人以無(wú)法識(shí)別的語(yǔ)言相互溝通后被關(guān)閉。關(guān)于新的秘密超級(jí)智能語(yǔ)言的謠言淹沒(méi)了討論區(qū)，直到Facebook解釋說(shuō)，這種神秘的交流只是語(yǔ)法編碼監(jiān)督的結(jié)果。

4. 拉斯維加斯無(wú)人駕駛公交車上路第一天就出車禍

一輛無(wú)人駕駛公交車今年十一月在拉斯維加斯首次亮相，當(dāng)時(shí)常駐當(dāng)?shù)氐拿鳎缒g(shù)師佩恩 - 泰勒（Penn＆Teller）等紛紛排隊(duì)等候。然而在短短的兩個(gè)小時(shí)內(nèi)，公交車就與一輛貨車撞上了。盡管從技術(shù)上來(lái)說(shuō)，公交車并不需要對(duì)這起事故負(fù)責(zé) - 而警方則傳訊了送貨卡車司機(jī) - 但是這輛智能公交上的乘客仍抱怨道，當(dāng)卡車慢慢靠近的時(shí)候，智能公交表現(xiàn)得一點(diǎn)都不智能，根本無(wú)法擺脫危險(xiǎn)。

5. Google Allo使用帶頭巾的表情符號(hào)來(lái)回應(yīng)槍支表情

CNN（美國(guó)有線電視新聞網(wǎng)）的工作人員在使用Google Allo時(shí)，收到了一個(gè)關(guān)于emoji表情建議。這是由一個(gè)包含手槍的表情符號(hào)引發(fā)的。Google公司非常狼狽地向公眾保證，他們已經(jīng)解決了這個(gè)問(wèn)題，并發(fā)表了道歉聲明。

6. 匯豐銀行的語(yǔ)音識(shí)別ID被雙胞胎戲弄

匯豐銀行（HSBC）的語(yǔ)音識(shí)別ID是一個(gè)以人工智能技術(shù)為基礎(chǔ)的安全系統(tǒng)，允許用戶通過(guò)語(yǔ)音命令訪問(wèn)他們的賬戶。盡管該公司聲稱它和指紋ID一樣安全，但BBC的一名記者的雙胞胎兄弟卻能夠通過(guò)模仿他的聲音訪問(wèn)他的賬戶。實(shí)驗(yàn)一共嘗試了七次。匯豐即時(shí)的解決辦法是三次認(rèn)證失敗后，該賬戶將被鎖定。

7. Google AI將步槍圖片識(shí)別為直升機(jī)

通過(guò)略微調(diào)整步槍照片，麻省理工學(xué)院的一個(gè)研究小組欺騙了Google Cloud Vision API，將其識(shí)別為直升機(jī)。這個(gè)技巧，又被稱為“不良樣本”，會(huì)導(dǎo)致計(jì)算機(jī)通過(guò)引入人眼無(wú)法察覺(jué)的修改來(lái)對(duì)圖像進(jìn)行錯(cuò)誤分類。過(guò)去，如果黑客知道目標(biāo)計(jì)算機(jī)系統(tǒng)的基本機(jī)制，對(duì)抗樣本才會(huì)起作用。麻省理工學(xué)院團(tuán)隊(duì)在沒(méi)有這些系統(tǒng)信息的情況下成功觸發(fā)錯(cuò)誤分類，較之更為高明。

8. “路牌黑客”愚弄無(wú)人駕駛車輛

研究人員發(fā)現(xiàn)，使用油漆或者膠帶對(duì)路邊的停止標(biāo)志進(jìn)行一定偽裝之后，他們可以欺騙自動(dòng)駕駛汽車對(duì)這些標(biāo)志進(jìn)行誤分類。用“love”和“hate”這兩個(gè)詞修飾的停車標(biāo)志，欺騙了自動(dòng)駕駛汽車的機(jī)器學(xué)習(xí)系統(tǒng)，在100％的測(cè)試案例中將其誤認(rèn)為是“限速45”的標(biāo)志。

9. AI為新顏色自動(dòng)生成詭異名稱

機(jī)器學(xué)習(xí)研究員Janelle Shan訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，以生成新的油漆顏色以及相匹配的名稱。這些顏色也許并沒(méi)有毛病，但是生成的名字就很搞笑了。即使在用顏色名稱數(shù)據(jù)進(jìn)行少量訓(xùn)練之后，該模型仍然將天藍(lán)色標(biāo)記為“Gray Pubic（灰色恥骨）”，將深綠色標(biāo)記為“Stoomy Brown”。

10.別隨意調(diào)戲語(yǔ)音助手，它可能會(huì)把你的話當(dāng)真

亞馬遜Alexa的虛擬助手可以使網(wǎng)上購(gòu)物更容易。不過(guò)也許容易過(guò)頭了？2017年1月，圣地亞哥新聞?lì)l道CW6報(bào)道說(shuō)，一個(gè)六歲的女孩購(gòu)買(mǎi)了一個(gè)170美元的玩具屋，而她僅僅是向Alexa提出了一個(gè)小請(qǐng)求。那還不是全部。當(dāng)播出的電視主持人重復(fù)了這個(gè)女孩的話，說(shuō)：“我喜歡這個(gè)小女孩說(shuō)，‘Alexa給我訂個(gè)玩具屋'” 。一些觀眾家里的Alexa設(shè)備再次觸發(fā)了玩具屋的自動(dòng)下單購(gòu)買(mǎi)。

原文：

作者：SYNCED； 翻譯：

尊重原創(chuàng)，尊重譯者。轉(zhuǎn)載請(qǐng)務(wù)必注明文章原文、譯者、出處、和本文鏈接！