對(duì)人類(lèi)威脅太大！2000科學(xué)家聯(lián)名反對(duì)殺人機(jī)器人

      好萊塢電影《終結(jié)者》為我們展現(xiàn)了殺手機(jī)器人橫行、人類(lèi)瀕臨滅絕的末日?qǐng)鼍啊ｋS著近年來(lái)人工智能技術(shù)以及機(jī)器人技術(shù)的發(fā)展，此前還處于人們想象中的場(chǎng)景越來(lái)越接近現(xiàn)實(shí)，因而也愈發(fā)引起人們的警覺(jué)。

據(jù)英國(guó)《衛(wèi)報(bào)》19日?qǐng)?bào)道，由美國(guó)太空探索技術(shù)公司CEO馬斯克以及谷歌頂級(jí)人工智能研究團(tuán)隊(duì)DeepMind創(chuàng)始人薩勒曼領(lǐng)銜的多家科技界大佬，與來(lái)自數(shù)百家公司的2000多名人工智能(AI)及機(jī)器人領(lǐng)域的科學(xué)家，在斯德哥爾摩國(guó)際AI聯(lián)合會(huì)議上聯(lián)名簽署宣言，誓言絕不將他們的技能用于開(kāi)發(fā)自主殺人機(jī)器。

該宣言表示，“我們簽署者達(dá)成一致意見(jiàn)：永遠(yuǎn)不應(yīng)將人類(lèi)生命的決定權(quán)委托給機(jī)器”，“致命的自主武器，在沒(méi)有人為干預(yù)的情況下選擇和參與目標(biāo)，將危及每個(gè)國(guó)家和個(gè)人的穩(wěn)定。”通過(guò)該協(xié)議，簽字者承諾今后將“既不參與也不支持致命自主武器的開(kāi)發(fā)、制造、貿(mào)易或使用”。

報(bào)道稱(chēng)，各國(guó)軍方是AI技術(shù)最大的資助和采購(gòu)方。借助先進(jìn)的計(jì)算機(jī)系統(tǒng)，機(jī)器人可以在各種地形上執(zhí)行任務(wù)、在地面上巡邏或是在海上航行。而且“更復(fù)雜的武器系統(tǒng)正在籌備中”。《衛(wèi)報(bào)》稱(chēng)，就在本周一，英國(guó)防長(zhǎng)加文·威廉姆森公布一項(xiàng)價(jià)值20億英鎊的計(jì)劃，確保新的英國(guó)空軍戰(zhàn)斗機(jī)“暴風(fēng)雨”能在沒(méi)有飛行員的情況下飛行。

美國(guó)國(guó)家公共電臺(tái)稱(chēng)，這一承諾的立場(chǎng)在于最終鼓勵(lì)全球政府采取法律行動(dòng)。蒙特利爾學(xué)習(xí)算法研究所的AI領(lǐng)域先驅(qū)約書(shū)亞認(rèn)為，如果該承諾能得到公眾認(rèn)可，輿論就會(huì)倒向他們。“這一做法已經(jīng)在地雷問(wèn)題上奏效了，”約書(shū)亞稱(chēng)，“盡管像美國(guó)這樣的主要國(guó)家沒(méi)有簽署禁止地雷的條約，但美國(guó)的公司已經(jīng)停止生產(chǎn)地雷。”

據(jù)了解，這已經(jīng)不是AI屆的領(lǐng)袖們第一次表達(dá)如上憂慮了。美國(guó)國(guó)家公共電臺(tái)稱(chēng)，去年8月，各大科技企業(yè)的技術(shù)領(lǐng)導(dǎo)人就給聯(lián)合國(guó)寫(xiě)了一封公開(kāi)信，對(duì)圍繞此類(lèi)武器正在開(kāi)展的軍備競(jìng)賽提出警告。但問(wèn)題是，僅靠科學(xué)家們的呼吁，人類(lèi)社會(huì)能夠避免打開(kāi)智能殺人機(jī)器人這一潘多拉魔盒嗎？

“有些問(wèn)題是沒(méi)辦法去百分之百地阻止，因?yàn)榘l(fā)達(dá)國(guó)家都在研究如何將無(wú)人技術(shù)運(yùn)用到軍事領(lǐng)域，”19日在接受《環(huán)球時(shí)報(bào)》記者采訪時(shí)，門(mén)羅機(jī)器人CEO楊興義對(duì)這個(gè)問(wèn)題并沒(méi)有感到樂(lè)觀，“在某些方面，科學(xué)家和軍事部門(mén)之間并不是站在同一條戰(zhàn)線上的，他們有時(shí)候是事物的正反兩面。”

楊興義認(rèn)為，從技術(shù)層次上看，想要一勞永逸地杜絕人工智能朝著殺人機(jī)器的方向發(fā)展是很難的，“用什么方式能夠控制自動(dòng)武器去攻擊誰(shuí)是一件很難的事情，我們只能盡量約束它們開(kāi)火的權(quán)力，比如設(shè)置代碼或原則，把開(kāi)火的權(quán)力控制在人類(lèi)手上。”他表示，要防止人工智能技術(shù)朝著殺人機(jī)器的方向發(fā)展，更重要的是通過(guò)更多的法律、社會(huì)輿論和公眾參與以及更多規(guī)則的建立來(lái)做到相互制約。