【AI世代編者按】
如今的人工智能已經開始滲透我們日常生活的方方面面，無論是政府機構、企業公司、教育學府還是普通人家庭都開始越來越多的看到AI技術身影穿梭其中。
不過所謂人無完人，AI技術目前也遠遠沒有發展到“完美”的階段，人們在之前的使用中也多次碰到了AI“宕機”的情況。
以下為AI世代(微信：tencentAI)整理的過去一段時間AI技術所出現的八個典型失敗案例：
1、亞馬遜Alexa助手自動幫小孩下單購買玩具
今年早些時候，一名六歲的女孩在跟Echo內置人工智能語音助手Alexa聊天時，意外訂下了價值170美元的玩具和一盒重達四磅的餅干。
雖然孩子的媽媽在收到一個不知打哪來的訂單確認電話后立刻進行了取消操作，但該訂單卻已經被處理，且一個跟孩子身高幾乎相同的玩偶就在隔天送來了。最后，他們無奈的決定將這一玩偶捐贈給當地兒童醫院。
2、圖像識別AI出錯
一名名為理查德-里(Richard
Lee)的亞裔男子在試圖網絡更新護照的時候被新西蘭內務部軟件判斷為“眼睛閉上，照片審核未通過”。最后，理查德-里只能親自聯系被新西蘭內務部，并通過人工審核的方式才成功更新了自己的護照。
3、亞馬遜Alexa誤聽指令向孩子提供成人內容
最近國外網站出現一段視頻，在視頻中小孩向亞馬遜Alexa下達指令：“Alexa，請播放‘Digger
digger(一首兒童歌曲)’。”之后，亞馬遜個人助手通過算法進行識別，竟然認為孩子想聽情色內容。不一會，孩子的父母才意識到發生了什么事，可惜他們已經無法阻止Alexa繼續播放聲音。
對此，亞馬遜新聞發言人表示：“我們之前已經修正過該問題，但Alexa很難完全屏蔽成人內容。目前我們正在加強限制防止類似的事情再次發生，并已經與客戶取得聯系向他們致歉。”
4、機器人誤傷事件
在去年的深圳高交會上，一臺名為“小胖”的機器人在沒有指令的情況下突然自行打砸展臺玻璃，最終導致部分展臺破壞。與此同時，該機器人撞向展臺玻璃致使玻璃倒地、摔碎，并劃傷一名現場觀眾，致其腳踝被劃破流血送醫。
5、AI竟也存在人種歧視
在由微軟和英偉達支持的“青年實驗室“(Youth
Laboratories)此前舉辦了全球第一屆AI選美比賽，這一比賽也吸引了來自全球119個國家和地區的六千多人參加。不過，在AI選美比賽的最終結果卻讓人大失所望，因為在最終脫穎而出的44位選美冠軍中，黃色人種和黑色人種分別只有6名和1名，其余的37張面孔都是白種人，這也讓人不禁懷疑原來AI也存在人種歧視觀念。
6、微軟AI機器人Tay發布種族主義言論被微軟關停
微軟此前曾將設計的“Tay”AI聊天機器人放到了包括Twitter在內的社交網絡上，希望“Tay”能夠通過社交平臺學習應該怎么像青少女一樣與別人互動。不過，互聯網上充斥著各種各樣的人，包括那些希望看到世界大亂的網友。其中，就有一幫人希望Tay能說出類似“希特勒是對的”這樣“大逆不道”的話。而且，由于“Tay”在設計上原本就會模仿人類說話，因此微軟很快便讓“Tay”下線了。
谷歌大腦(Google
Brain)團隊此前開發了一個軟件，能利用人工神經網絡來填充低分辨率圖像細節。也就是說，那些打了馬賽克的照片有可能在后期被谷歌成功還原。只不過，在實際使用中我們發現還原馬賽克AI技術給出的許多還原后照片都非常恐怖。
8、考試機器人沒過大學錄取線
日本國立情報學研究所此前推出了一個名為“東大機器人”(Todai Robot
Project)的項目，其目標是未來能通過日本頂級學府東京大學的入學考試。但有消息稱，自2011年以來“東大機器人項目”就開始攻關日本的大學入學考試，但在過去連續2年的得分均低于東京大學的錄取分數線。因此，其開發團隊已經在去年11月正式宣布放棄該項目。
