近日，大眾汽車新生產(chǎn)線上的安裝機(jī)器人將一名技師抓住并按壓致死事件，觸動了公眾的神經(jīng)。盡管專家稱目前機(jī)器人尚未發(fā)展到主動攻擊人類的水平，人為操作失誤的可能性更大。但人類面對機(jī)器人，會不會面臨一場控制危機(jī)的話題？

       科技觀察家

　　近日，大眾汽車新生產(chǎn)線上的安裝機(jī)器人將一名技師抓住并按壓致死事件，觸動了公眾的神經(jīng)。盡管專家稱目前機(jī)器人尚未發(fā)展到主動攻擊人類的水平，人為操作失誤的可能性更大。但人類面對機(jī)器人，會不會面臨一場控制危機(jī)的話題？引發(fā)人們關(guān)注。

　　“傳統(tǒng)”看法認(rèn)為，如果我們能夠做到謹(jǐn)慎地監(jiān)控、管制和引導(dǎo)機(jī)器人技術(shù)的發(fā)展，那么機(jī)器人將是可控制的。

　　然而，近幾十年來，在不少科幻小說或電影中，都出現(xiàn)了人工智能機(jī)器拒絕服從人的命令，甚至殺死或控制人的場景。設(shè)若科幻小說或電影場景變成現(xiàn)實(shí)的話，人類與機(jī)器人的關(guān)系將會怎樣？

　 　在學(xué)術(shù)界，關(guān)于人工智能可能性的探討，或者說機(jī)器（非生物系統(tǒng)）是否能夠跟人類媲美乃至超越人類的智慧，一直也有著很多激烈的爭論。比如：我們有理由相 信無機(jī)生命（機(jī)器）會發(fā)展出與有機(jī)體類似的生存和競爭意志嗎？有朝一日機(jī)器會不會自己設(shè)計(jì)、制造并操作不遵循人類準(zhǔn)則的新型機(jī)器？而屆時(shí)我們很可能沒有任 何辦法來避免這一可能性的發(fā)生。

　　2014年，包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克在內(nèi)的一些著名人士都提出：如果智能機(jī)器缺乏監(jiān)管，人類將迎來一個(gè)黑暗的未來；人工智能可能是我們面臨的最大滅絕風(fēng)險(xiǎn)。

　　為什么會有這樣的擔(dān)憂？

　 　有學(xué)者認(rèn)為，一旦機(jī)器擁有了像人類一樣的設(shè)計(jì)和架構(gòu)技能，僅僅更快的速度和更大的容量就可以使它們對自己的設(shè)計(jì)（源碼）進(jìn)行操控。機(jī)器智能在反饋循環(huán)中 不斷提高自己的能力，出現(xiàn)“智能爆發(fā)”，并將遠(yuǎn)遠(yuǎn)超出無機(jī)器輔助的人類智能。到了那個(gè)時(shí)候，人類對情感的理解能力，以及作出適當(dāng)反應(yīng)的能力（所謂的情商） ——這些人類智慧的重要表現(xiàn)，也將被未來的機(jī)器智能理解并掌握；人類的世界終將被人工智能的世界代替，人類將會面臨一場控制危機(jī)。

　　當(dāng)然，也有人認(rèn)為這一切都是危言聳聽、杞人憂天，機(jī)器人永遠(yuǎn)也不可能超越人的智能。我們現(xiàn)在連理解一個(gè)老鼠的神經(jīng)行為，從而來模擬老鼠的行為都做不到，何談通過計(jì)算機(jī)來模擬人類的行為，進(jìn)而完全理解人類行為的一切原理？

　　真正的問題或許是：當(dāng)科技加速發(fā)展，使機(jī)器具有更多的智能時(shí)，我們并不知道哪里是危險(xiǎn)的邊緣。更重要的一點(diǎn)在于，我們再不能以看待過去的視野，去理解必將超越它的事物了。