在今天的裝配線上，有上千個(gè)機(jī)器人參與生產(chǎn)。一些掛在天花板上，有些則在地面輸送材料;而有一些15尺高的巨型機(jī)器人，1000多磅的特斯拉汽車在它們面前就像是玩具車。然而，雖然它是世界上最高度自動(dòng)化的汽車制造工廠，特斯拉每周的產(chǎn)量大約也只有1000輛(通用一天都能炮制出1000輛汽車)。真正令人驚訝的是：特斯拉雇傭了大約3000人。也就是說(shuō)，特斯拉在制造更好的汽車的同時(shí)，平均每輛汽車所需要的人類員工也幾乎是通用的三倍。這種情況看來(lái)，工廠自動(dòng)化不僅沒(méi)有淘汰就業(yè)崗位，反而帶動(dòng)了崗位增長(zhǎng)。

　　那這些人都是做什么的呢?有些負(fù)責(zé)對(duì)機(jī)器人來(lái)說(shuō)還是太微妙和復(fù)雜的流水線工作，比如儀表板安裝;有些則負(fù)責(zé)維修機(jī)器人和所需要的工具設(shè)備?！斑@座工廠，是人類和機(jī)器人合作的工廠，”Passin說(shuō)道，“不管是人類還是機(jī)器人，他們都負(fù)責(zé)各自擅長(zhǎng)的工作?！睋Q句話說(shuō) ，這不是一座自動(dòng)化工廠，而是一出人類和機(jī)器人共同上演的好戲。

　　毫無(wú)疑問(wèn)，智能機(jī)器的進(jìn)步將對(duì)就業(yè)產(chǎn)生重大影響。一些崗位的消失將會(huì)由高科技領(lǐng)域創(chuàng)造的新職位抵消，另一些則一去不復(fù)返了。英國(guó)牛津大學(xué)2013年一份報(bào)告顯示，現(xiàn)有的工作崗位中有接近一半將會(huì)在接下來(lái)的20年中面臨被自動(dòng)化淘汰的風(fēng)險(xiǎn)。美銀美林最近一份報(bào)告的作者指出：

　　“我們正面臨一個(gè)將改變我們生活和工作的方式的范式轉(zhuǎn)變：近年來(lái)，破壞性技術(shù)的創(chuàng)新已經(jīng)展現(xiàn)出拋物線軌跡，相信不久的將來(lái)就會(huì)到達(dá)一個(gè)頂峰?！?

　　其實(shí)，不難看出哪些工作是會(huì)被機(jī)器人取代的：文員職位、流水線工作、賣漢堡包的。上個(gè)月的白宮《年度經(jīng)濟(jì)報(bào)告》預(yù)計(jì)，如果一份工作支付的酬勞不到每小時(shí)20美元，那么被自動(dòng)化淘汰的幾率將高達(dá)83%。除此之外，所造成的影響則比較難預(yù)測(cè)。失業(yè)和藍(lán)領(lǐng)薪酬停滯不前以及教育水平低下的工人已經(jīng)對(duì)美國(guó)政治產(chǎn)生了影響，并引發(fā)了特朗普的崛起——與日俱增的自動(dòng)化只會(huì)加快這一趨勢(shì)。

　　“這種趨勢(shì)引起了很大的恐慌，”加州伯克利大學(xué)機(jī)器人學(xué)家Ken Goldberg表示：

　　“但是我們也應(yīng)該意識(shí)到，機(jī)器人有它擅長(zhǎng)的領(lǐng)域，人類同樣也有不可替代的長(zhǎng)處。所以，我們應(yīng)該以二元的態(tài)度看待這個(gè)趨勢(shì)，因?yàn)橐苍S未來(lái)機(jī)器人還會(huì)幫助人類在某些領(lǐng)域取得進(jìn)步?！?

　　Ken Goldberg發(fā)起了一個(gè)“人類和機(jī)器人”計(jì)劃，以期找到一種方式來(lái)增強(qiáng)人機(jī)協(xié)作。Goldberg現(xiàn)在正在研究的人機(jī)協(xié)作案例之一是“外科機(jī)器人”。

　　這些外科機(jī)器人誕生15年了，但他們也不必昂貴的機(jī)械手臂好多少。這些機(jī)械手臂，也已經(jīng)能夠在醫(yī)生的攝像頭監(jiān)控下，以安全的方式進(jìn)行微創(chuàng)手術(shù)了，不過(guò)它們沒(méi)有自我強(qiáng)化、自我策劃行為等自主意識(shí)(雖然這種情況很快將被改變)。手術(shù)室里要進(jìn)行的任務(wù)非常乏味， 比如手術(shù)縫合和清創(chuàng)術(shù)。Goldberg表示，讓機(jī)器人去完成這些乏味的任務(wù)，可以讓醫(yī)生有更多時(shí)間做有意義的事情。而當(dāng)技術(shù)達(dá)到一定水平后，機(jī)器人也許還會(huì)做得更好?！拔覀兛梢允褂?a href="http://www.zgdxszj.com/Product/T814/list_p_1.shtml" target="_blank">傳感器來(lái)掃描人體組織，發(fā)現(xiàn)其中的毒瘤，然后切除。”不過(guò)，這會(huì)威脅外科醫(yī)生的工作嗎?顯然不會(huì)。它們只會(huì)是成為幫助外科醫(yī)生改進(jìn)工作的工具。機(jī)器人分擔(dān)單調(diào)乏味的任務(wù)，讓醫(yī)生能夠把精力集中在重要的任務(wù)。

　　即便如此，對(duì)于許多技能門檻較低的工人來(lái)說(shuō)，經(jīng)濟(jì)轉(zhuǎn)型仍將是一次殘酷的危機(jī)。斯坦福Thrun認(rèn)為，應(yīng)對(duì)這場(chǎng)即將到來(lái)劇變，最好的方式不是試圖努力控制技術(shù)，而是加強(qiáng)人類的教育，“我們?nèi)缃袢栽谝揽?9世紀(jì)至20世紀(jì)時(shí)開(kāi)發(fā)的教育系統(tǒng)來(lái)普及科學(xué)知識(shí)。”Thrun的在線免費(fèi)高等教育學(xué)校Udacity如今已經(jīng)擁有400萬(wàn)注冊(cè)用戶，該學(xué)校針對(duì)計(jì)算機(jī)相關(guān)領(lǐng)域授予納米學(xué)位?！叭缃竦那樾问?，技能熟練的人與不熟練的人之間的差距正不斷擴(kuò)大，我對(duì)每一個(gè)學(xué)生必須進(jìn)行的任務(wù)教育可以說(shuō)是抵御AI技能化的真正嘗試?！?

　　未來(lái)戰(zhàn)爭(zhēng)時(shí)代：真正的人機(jī)大戰(zhàn)

　　根據(jù)新美國(guó)安全中心(CNAS)2014年一篇頗有影響力的論文，人機(jī)之爭(zhēng)的未來(lái)“將是全新的作戰(zhàn)性質(zhì)，無(wú)人和自治系統(tǒng)扮演中心角色……美國(guó)國(guó)防部領(lǐng)導(dǎo)人現(xiàn)在應(yīng)該開(kāi)始為這個(gè)不遠(yuǎn)的未來(lái)——機(jī)器人時(shí)代，未雨綢繆”。想一想，成群3D打印的武裝無(wú)人機(jī)鋪天蓋地，它們采用遠(yuǎn)程電腦控制植入神經(jīng)元進(jìn)行作戰(zhàn);海邊的無(wú)人駕駛潛艇瘋狂從岸邊往陸地中心獵殺……在這個(gè)新的戰(zhàn)爭(zhēng)年代，《寒戰(zhàn)》中昂貴的科技，比如戰(zhàn)斗轟炸機(jī) 會(huì)瘋狂增長(zhǎng)，裝配大型計(jì)算機(jī)的軍事力量開(kāi)始轉(zhuǎn)移到平板和筆記本……

　　這樣的軍事技術(shù)革命似乎是由三個(gè)因素驅(qū)動(dòng)的。第一是風(fēng)險(xiǎn)更低。機(jī)器人可以到達(dá)士兵無(wú)法到達(dá)的環(huán)境，軍隊(duì)死亡率較低。在阿富汗和伊拉克，有超過(guò)1700個(gè)背負(fù)式的機(jī)器人，它們可以通過(guò)無(wú)線網(wǎng)絡(luò)來(lái)控制，還裝配了遙控手臂，能夠進(jìn)行偵測(cè)地雷或監(jiān)測(cè)攝像頭。而 MQ-9 死神等較新式的軍事無(wú)人機(jī)已經(jīng)可以在沒(méi)有人工干預(yù)的情況下起飛、降落和飛到指定點(diǎn)。

　　第二個(gè)因素是金錢。美國(guó)每年的國(guó)防預(yù)算為6000億美元，而軍方預(yù)計(jì)，目前已經(jīng)進(jìn)行了15年研發(fā)的f-35戰(zhàn)斗機(jī)需要花費(fèi)1.5萬(wàn)億美元。在對(duì)抗ISIS年代，這種支出不僅是難以被證明其價(jià)值，而且可以說(shuō)是愚蠢之極。因?yàn)?，在一群武裝無(wú)人機(jī)或者購(gòu)人肉炸彈恐怖分子面前，F(xiàn)-35毫無(wú)用處。另外，供養(yǎng)一支軍隊(duì)，花費(fèi)在人身上的資金是昂貴的。最近一位美軍上將預(yù)測(cè)，未來(lái)一支戰(zhàn)斗旅的規(guī)模也許要從4000人下降到3000人，缺口的1000人則由機(jī)器人補(bǔ)上。

　　第三個(gè)因素是對(duì)中國(guó)崛起的恐懼(有人會(huì)說(shuō)這是偏執(zhí)思想)。自冷戰(zhàn)結(jié)束以來(lái)，美國(guó)對(duì)自身的精確制導(dǎo)導(dǎo)彈等技術(shù)優(yōu)勢(shì)保持高度的自信。但是現(xiàn)在中國(guó)正在迎頭趕上，并不斷增加國(guó)防投入。如果戰(zhàn)爭(zhēng)爆發(fā)，中國(guó)的反艦導(dǎo)彈將給西太平洋的美國(guó)航母構(gòu)成極大的威脅。與此同時(shí)，中國(guó)還大量投資于先進(jìn)的武器，尤其是軍用無(wú)人機(jī)。

　　對(duì)軍方來(lái)說(shuō)，最大的問(wèn)題是針對(duì)哪些環(huán)節(jié)和情景推動(dòng)智能機(jī)器的部署，以及部署到何種程度。對(duì)某些工作來(lái)說(shuō)，機(jī)器干預(yù)是顯而易見(jiàn)的。曾是美軍首批女性飛行員之一的Mary Cummings表示，“從航母起飛和降落是軍隊(duì)中最危險(xiǎn)的航空任務(wù)之一?！盋ummings現(xiàn)在杜克大學(xué)掌管機(jī)器人實(shí)驗(yàn)室，進(jìn)行更深入的人機(jī)協(xié)作研究，尤其是針對(duì)充滿焦慮、容易導(dǎo)致誤判的情景進(jìn)行研究。她說(shuō)，“現(xiàn)在，F(xiàn)18 的自動(dòng)駕駛儀在航母的起飛降落都駕輕就熟，甚至要比人類好很多?！钡?，人類仍然在這些環(huán)節(jié)中占據(jù)著主導(dǎo)地位，因?yàn)闊o(wú)人機(jī)的所有攻擊都需要官方簽字。

　　人機(jī)之爭(zhēng)的中心問(wèn)題并非技術(shù)性的，而是哲學(xué)性

　　但談到機(jī)器人和戰(zhàn)爭(zhēng)問(wèn)題時(shí)，中心問(wèn)題并非技術(shù)層面的，而是哲學(xué)性的：機(jī)器會(huì)被賦予刺殺人類的權(quán)力嗎?賦予機(jī)器這樣的能力，后果是非?？膳碌摹Ｈツ?月，康涅狄格州一位年輕人因?yàn)榻o一架無(wú)人機(jī)加裝了一把手槍，并上傳至YouTube，而引發(fā)了一場(chǎng)激烈的辯論。裝配帶有攝像頭的手機(jī)，以及一把半自動(dòng)武器，這樣的無(wú)人機(jī)在效果上無(wú)異于一架自制的遠(yuǎn)程武裝無(wú)人機(jī)。

　　當(dāng)然，簡(jiǎn)單的自動(dòng)化武器并不新鮮了：地雷就屬于這類武器。這樣的武器其實(shí)極其愚蠢，因?yàn)闊o(wú)論是敵人還是3歲小孩踩到它都會(huì)爆炸。1990年代，美國(guó)活動(dòng)家Jody Williams幫助一起反地雷的國(guó)際運(yùn)動(dòng)成功讓 162 個(gè)國(guó)家簽署條約——條約禁止使用、開(kāi)發(fā)或者囤積地雷。Williams還因此獲得了諾貝爾和平獎(jiǎng)。到了今天，她又為遏制殺人機(jī)器人而努力。在20位諾貝爾獎(jiǎng)得主的幫助下，她希望能在全自動(dòng)武器成為現(xiàn)實(shí)前全面禁止它們。她說(shuō)：“如果有人認(rèn)為將決定人類生和死的權(quán)力交給機(jī)器也沒(méi)什么問(wèn)題的話，人性何在?”從2014年開(kāi)始，聯(lián)合國(guó)就一直在考慮制定可能性的國(guó)際指導(dǎo)方針。

　　在美國(guó)，五角大樓要求 “在使用武力時(shí)要保持適當(dāng)程度的人類判斷?！?但什么是 “適當(dāng)” 的呢?事實(shí)上，目前正在制造的一些武器系統(tǒng)中，已經(jīng)出現(xiàn)全自動(dòng)的產(chǎn)物了。美國(guó)很快就會(huì)部署具有自主控制系統(tǒng)的遠(yuǎn)程導(dǎo)彈，它能夠自行搜尋目標(biāo)。韓國(guó)也已經(jīng)研發(fā)出自動(dòng)化的槍塔，它能夠在黑暗中監(jiān)測(cè)到一英里以外的目標(biāo)并進(jìn)行射擊。

　　對(duì)機(jī)器人倫理頗有研究的喬治亞理工學(xué)院教授Ronald Arkin表示，“我并不倡導(dǎo)終結(jié)者式的武器，但我確實(shí)認(rèn)為這是一個(gè)復(fù)雜的議題，我們不能簡(jiǎn)單地否定或肯定?！? 他認(rèn)為，智能武器可以減少平民的傷亡?！耙?yàn)闄C(jī)器沒(méi)有情緒，它們不會(huì)感到恐慌，” 他說(shuō)：“也不會(huì)像哲學(xué)家所說(shuō)的 ‘戰(zhàn)爭(zhēng)迷霧’ 那樣作出不利的判斷。” 比如，去年10月，美軍一架AC-130武裝直升機(jī)誤炸了阿富汗一家醫(yī)院，導(dǎo)致至少 42 人喪生，美軍上將John F. Campbell稱，這起人為失誤的悲劇本可以避免。自動(dòng)化的無(wú)人機(jī)會(huì)犯這樣的錯(cuò)誤嗎?

　　“現(xiàn)在，我們指使無(wú)人機(jī)殺死那些真正可怕的人，”計(jì)算機(jī)科學(xué)家兼作者 Jaron Lanier 說(shuō)：“但我們正在建立能夠自主飛行并尋找目標(biāo)的系統(tǒng)?！碑?dāng)然，問(wèn)題又來(lái)了：那些可怕的人劫持了無(wú)人機(jī)并用它們來(lái)攻擊我們?cè)撛趺崔k?這樣的情況會(huì)發(fā)生嗎?“歷史告訴我們，這樣的情況一定會(huì)發(fā)生?！? 他說(shuō)：“但是，當(dāng)出現(xiàn)這種情況時(shí)，我們要做的不是詛咒 ‘那些邪惡的機(jī)器’，而應(yīng)該指責(zé)那些不負(fù)責(zé)任、愚蠢的工程師。我們不應(yīng)該討論AI的罪惡，而是工程師的責(zé)任——他們應(yīng)該開(kāi)發(fā)出一套可靠的不會(huì)反轉(zhuǎn)攻擊我們自己的系統(tǒng)。這才是正確的討論?！?

　　總結(jié)

　　一些科學(xué)家認(rèn)為，我們也許能夠?qū)惱淼赖录尤氲綑C(jī)器的編程中，但這項(xiàng)工作的復(fù)雜程度，高到我們只能臆想。無(wú)論如何，越來(lái)越多自動(dòng)化武器的出現(xiàn)也許已經(jīng)是不可避免的。跟需要大量國(guó)家才能支撐得起的投資的核武器不一樣，這種新技術(shù)是由商業(yè)經(jīng)濟(jì)推動(dòng)的。“我敢保證，Google和亞馬遜不久之后對(duì)無(wú)人機(jī)的監(jiān)控能力比軍隊(duì)還強(qiáng)，”Cummings稱，“他們有更強(qiáng)大的數(shù)據(jù)庫(kù)，更先進(jìn)的人臉識(shí)別技術(shù)，更強(qiáng)大的制造和控制無(wú)人機(jī)的能力。這些公司對(duì)你的了解比CIA還多。如果未來(lái)政府指望企業(yè)來(lái)為他們提供最先進(jìn)的國(guó)防技術(shù)，世界會(huì)發(fā)生什么?”

　　不過(guò)，Cummings認(rèn)為殺手機(jī)器人的到來(lái)還有很遠(yuǎn)：在實(shí)驗(yàn)室提出自動(dòng)化機(jī)器人和武器的構(gòu)想比真正在現(xiàn)實(shí)世界中容易得多。

　　如果未來(lái)我們?cè)O(shè)計(jì)的機(jī)器反過(guò)來(lái)挑戰(zhàn)我們，傷害我們，破壞我們熱愛(ài)的世界，甚至想要滅絕人類，那也是因?yàn)槲覀兘o了它們這樣的權(quán)力和能力。到了最終，智能機(jī)器崛起的恐慌不在于有朝一日它們也有了自己的思想意識(shí)(如今許多人所擔(dān)心的)，而在于它們擁有了我們——存在一切可能的缺陷和復(fù)雜性的人類——為它們?cè)O(shè)計(jì)和創(chuàng)造的思想。