機(jī)器人“傷人”背后 人工智能安全性引質(zhì)疑

　　今年深圳高交會期間，網(wǎng)上熱傳一起“機(jī)器人傷人”事件。一名網(wǎng)友在微信上發(fā)圖并配文稱：“親眼看到隔壁展臺進(jìn)化者小胖機(jī)器人沒人操縱，自己突然跑起來，把玻璃墻給推倒了，砸傷旁邊一路人?！眻D片顯示，現(xiàn)場滿地玻璃，一位受傷觀眾被擔(dān)架抬走。

　　人工智能在生活中正扮演越來越重要的角色。其中，對主要面向人類的服務(wù)機(jī)器人，在智能化、安全性、可靠性等方面的要求都遠(yuǎn)高于其他種類的機(jī)器人產(chǎn)品。機(jī)器人“小胖”意外事件一發(fā)生，媒體鋪天蓋地輿論宣傳，機(jī)器人“傷人”的標(biāo)題赫然醒目，”小胖“事件真的是機(jī)器人故意”傷人嗎？在沒有確認(rèn)事故原因的情況下為什么大家會如此恐慌，輿論一邊倒地把責(zé)任歸于“小胖”機(jī)器人？機(jī)器人“傷人”到底觸碰了誰的神經(jīng)？

　　機(jī)器人會“傷人”？廠商稱系“操作不當(dāng)”

　　“小胖”機(jī)器人傷人事件一出，隨后深圳高交會組委會發(fā)布公告：第十八屆高交會1號館1D32展位深圳展景世紀(jì)科技有限公司展臺由于該展商工作人員操作不當(dāng)，誤將“前進(jìn)鍵”當(dāng)成“后退鍵”，導(dǎo)致用于輔助展示投影技術(shù)的一臺機(jī)器人(又名“小胖”，北京進(jìn)化者機(jī)器人科技有限公司生產(chǎn))撞向展臺玻璃，玻璃倒地摔碎并劃傷一名現(xiàn)場觀眾，致其腳踝被劃破流血。

　　北京進(jìn)化者機(jī)器人公司相關(guān)負(fù)責(zé)人稱，“小胖”的行進(jìn)速度大約每分鐘10米，相當(dāng)于成人的慢行速度；在外形設(shè)計(jì)方面，小胖身高1024mm，是不倒翁的外形，以防孩子或?qū)櫸飺涞顾Ｔ撠?fù)責(zé)人表示，可以通過輕按小胖頭部的方式使其制動。另外，小胖背面有SOS按鈕，用戶容易找到和觸摸到，可通過按這個按鈕或打開面罩等方式制動。

　　“小胖”的生產(chǎn)合作商--深圳新生活智能科技有限公司生產(chǎn)總監(jiān)王韜解釋，“小胖”有兩套操作模式，即機(jī)器人模式和手動模式。當(dāng)面罩打開，手動模式開啟，機(jī)器人模式關(guān)閉，此時自動避障功能消失，只能靠人工操作。

　　王韜告訴記者：“當(dāng)天出事的主要原因是展景公司的工作人員操作不當(dāng)，誤將前進(jìn)鍵當(dāng)作后退鍵。”王韜認(rèn)為“小胖”沒有安全隱患：“汽車踩油門會往前開，但也有誤把油門當(dāng)剎車的情況發(fā)生。如果發(fā)生事故，能把責(zé)任歸結(jié)到油門頭上嗎？”

　　人工智能安全性引質(zhì)疑

　　特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克是對機(jī)器人安全性持質(zhì)疑態(tài)度的代表人物。馬斯克曾警告，人工智能的發(fā)展將使未來機(jī)器人自主決定屠殺人類。

　　2016年1月份，馬斯克還曾向未來生命研究所捐贈1000萬美元，資助他們研究人工智能的安全性。該研究所的目的是確保人類對人工智能始終擁有控制權(quán)，確保機(jī)器人不會毀滅人類。

　　汽車工業(yè)是當(dāng)前機(jī)器人應(yīng)用最為密集的產(chǎn)業(yè)，有些汽車制造商已經(jīng)開始把輕型協(xié)作機(jī)器人投入生產(chǎn)線與工人一起工作，一些機(jī)器人的設(shè)計(jì)也考慮到了安全性，譬如在周圍有人接近時，機(jī)器人會自動停止工作。德國大眾汽車公司去年說，它計(jì)劃使用更多機(jī)器人，應(yīng)對新工人短缺和今后幾年即將迎來的大批工人退休潮。

　　業(yè)內(nèi)大佬對機(jī)器人安全性如是說

　　機(jī)器人傷人到底觸動了誰的神經(jīng)，為什么一出現(xiàn)故障就直指機(jī)器人傷人？在事故原因還未查清楚之前，就將責(zé)任理所當(dāng)然地歸咎于機(jī)器人，這或許是觸動了人類對高科技新事物的恐懼感。針對機(jī)器人安全性問題，中國機(jī)器人網(wǎng)小編采訪了配天集團(tuán)副總裁、CTO兼北京和安徽配天機(jī)器人技術(shù)有限公司總經(jīng)理徐志根，他表示，“機(jī)器人的使用安全性，一直是非常重要的課題。長期以來，都是通過機(jī)器人硬件和軟件系統(tǒng)的安全設(shè)計(jì)標(biāo)準(zhǔn)以及集成應(yīng)用的規(guī)范化，來保障人們安全地使用機(jī)器人。對于工業(yè)機(jī)器人，其工作區(qū)域與人的活動范圍需要嚴(yán)格地物理隔離，可以盡可能地減少對人身的傷害。即使如此，也曾出現(xiàn)過工業(yè)機(jī)器人傷人事故。未來將引入更多 地實(shí)時檢測和感知系統(tǒng)，進(jìn)一步降低機(jī)器人傷人的可能性。服務(wù)型及人機(jī)協(xié)作型機(jī)器人由于其工作/活動區(qū)域與人的活動區(qū)域可以重疊，安全性一定需要重點(diǎn)關(guān)注。理想狀態(tài)下，需要遵守阿西莫夫的機(jī)器人三定律，保障機(jī)器人不傷害人類。但是，目前市場上出現(xiàn)的機(jī)器人，還僅僅是在”機(jī)器“這個階段，只是機(jī)器而已，也會出現(xiàn)各種故障，其后果可能是失效、破壞其他物件、甚至傷人”。