八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
【AI世代編者按】 如今的人工智能已經(jīng)開始滲透我們?nèi)粘Ｉ畹姆椒矫婷妫瑹o(wú)論是政府機(jī)構(gòu)、企業(yè)公司、教育學(xué)府還是普通人家庭都開始越來(lái)越多的看到AI技術(shù)身影穿梭其中。
不過(guò)所謂人無(wú)完人，AI技術(shù)目前也遠(yuǎn)遠(yuǎn)沒(méi)有發(fā)展到“完美”的階段，人們?cè)谥暗氖褂弥幸捕啻闻龅搅薃I“宕機(jī)”的情況。
以下為AI世代（微信：tencentAI）整理的過(guò)去一段時(shí)間AI技術(shù)所出現(xiàn)的八個(gè)典型失敗案例：
1、亞馬遜Alexa助手自動(dòng)幫小孩下單購(gòu)買玩具
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
今年早些時(shí)候，一名六歲的女孩在跟Echo內(nèi)置人工智能語(yǔ)音助手Alexa聊天時(shí)，意外訂下了價(jià)值170美元的玩具和一盒重達(dá)四磅的餅干。
雖然孩子的媽媽在收到一個(gè)不知打哪來(lái)的訂單確認(rèn)電話后立刻進(jìn)行了取消操作，但該訂單卻已經(jīng)被處理，且一個(gè)跟孩子身高幾乎相同的玩偶就在隔天送來(lái)了。最后，他們無(wú)奈的決定將這一玩偶捐贈(zèng)給當(dāng)?shù)貎和t(yī)院。
2、圖像識(shí)別AI出錯(cuò)
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
一名名為理查德-里（Richard Lee）的亞裔男子在試圖網(wǎng)絡(luò)更新護(hù)照的時(shí)候被新西蘭內(nèi)務(wù)部軟件判斷為“眼睛閉上，照片審核未通過(guò)”。最后，理查德-里只能親自聯(lián)系被新西蘭內(nèi)務(wù)部，并通過(guò)人工審核的方式才成功更新了自己的護(hù)照。
3、亞馬遜Alexa誤聽(tīng)指令向孩子提供成人內(nèi)容
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
最近國(guó)外網(wǎng)站出現(xiàn)一段視頻，在視頻中小孩向亞馬遜Alexa下達(dá)指令：“Alexa，請(qǐng)播放‘Digger digger（一首兒童歌曲）’。”之后，亞馬遜個(gè)人助手通過(guò)算法進(jìn)行識(shí)別，竟然認(rèn)為孩子想聽(tīng)情色內(nèi)容。不一會(huì)，孩子的父母才意識(shí)到發(fā)生了什么事，可惜他們已經(jīng)無(wú)法阻止Alexa繼續(xù)播放聲音。
對(duì)此，亞馬遜新聞發(fā)言人表示：“我們之前已經(jīng)修正過(guò)該問(wèn)題，但Alexa很難完全屏蔽成人內(nèi)容。目前我們正在加強(qiáng)限制防止類似的事情再次發(fā)生，并已經(jīng)與客戶取得聯(lián)系向他們致歉。”
4、機(jī)器人誤傷事件
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
在去年的深圳高交會(huì)上，一臺(tái)名為“小胖”的機(jī)器人在沒(méi)有指令的情況下突然自行打砸展臺(tái)玻璃，最終導(dǎo)致部分展臺(tái)破壞。與此同時(shí)，該機(jī)器人撞向展臺(tái)玻璃致使玻璃倒地、摔碎，并劃傷一名現(xiàn)場(chǎng)觀眾，致其腳踝被劃破流血送醫(yī)。
5、AI竟也存在人種歧視
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
在由微軟和英偉達(dá)支持的“青年實(shí)驗(yàn)室“（Youth Laboratories）此前舉辦了全球第一屆AI選美比賽，這一比賽也吸引了來(lái)自全球119個(gè)國(guó)家和地區(qū)的六千多人參加。不過(guò)，在AI選美比賽的最終結(jié)果卻讓人大失所望，因?yàn)樵谧罱K脫穎而出的44位選美冠軍中，黃色人種和黑色人種分別只有6名和1名，其余的37張面孔都是白種人，這也讓人不禁懷疑原來(lái)AI也存在人種歧視觀念。
6、微軟AI機(jī)器人Tay發(fā)布種族主義言論被微軟關(guān)停
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
微軟此前曾將設(shè)計(jì)的“Tay”AI聊天機(jī)器人放到了包括Twitter在內(nèi)的社交網(wǎng)絡(luò)上，希望“Tay”能夠通過(guò)社交平臺(tái)學(xué)習(xí)應(yīng)該怎么像青少女一樣與別人互動(dòng)。不過(guò)，互聯(lián)網(wǎng)上充斥著各種各樣的人，包括那些希望看到世界大亂的網(wǎng)友。其中，就有一幫人希望Tay能說(shuō)出類似“希特勒是對(duì)的”這樣“大逆不道”的話。而且，由于“Tay”在設(shè)計(jì)上原本就會(huì)模仿人類說(shuō)話，因此微軟很快便讓“Tay”下線了。
7、谷歌(微博)“還原馬賽克”AI技術(shù)堪比恐怖圖庫(kù)
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
谷歌大腦（Google Brain）團(tuán)隊(duì)此前開發(fā)了一個(gè)軟件，能利用人工神經(jīng)網(wǎng)絡(luò)來(lái)填充低分辨率圖像細(xì)節(jié)。也就是說(shuō)，那些打了馬賽克的照片有可能在后期被谷歌成功還原。只不過(guò)，在實(shí)際使用中我們發(fā)現(xiàn)還原馬賽克AI技術(shù)給出的許多還原后照片都非常恐怖。
8、考試機(jī)器人沒(méi)過(guò)大學(xué)錄取線
八個(gè)失敗案例告訴你，人工智能還遠(yuǎn)非萬(wàn)能
日本國(guó)立情報(bào)學(xué)研究所此前推出了一個(gè)名為“東大機(jī)器人”(Todai Robot Project)的項(xiàng)目，其目標(biāo)是未來(lái)能通過(guò)日本頂級(jí)學(xué)府東京大學(xué)的入學(xué)考試。但有消息稱，自2011年以來(lái)“東大機(jī)器人項(xiàng)目”就開始攻關(guān)日本的大學(xué)入學(xué)考試，但在過(guò)去連續(xù)2年的得分均低于東京大學(xué)的錄取分?jǐn)?shù)線。因此，其開發(fā)團(tuán)隊(duì)已經(jīng)在去年11月正式宣布放棄該項(xiàng)目。
