機(jī)器人學(xué)三定律

　　1法則提出

　　阿西莫夫的《我，機(jī)器人》，在一九五〇年末由格諾姆出版社出版。雖說這本書是“舊稿子”，但是這些短篇是在十年間零零散散發(fā)表的，這次集中出版，使讀者第一次領(lǐng)略阿西莫夫機(jī)器人科幻小說的魅力。阿西莫夫?yàn)檫@本書新寫了《引言》，而《引言》的小標(biāo)題就是《機(jī)器人學(xué)的三大法則》，把“機(jī)器人學(xué)三大法則”放在了最突出、最醒目的地位。

　　而三大法則之間的互相約束，為后世的創(chuàng)作有一定的指導(dǎo)意義。

　　機(jī)器人三定律（ThreeLawsofRobotics）是科幻小說家艾薩克·阿西莫夫在他的機(jī)器人相關(guān)作品和其他機(jī)器人相關(guān)小說中為機(jī)器人設(shè)定的行為準(zhǔn)則，是阿西莫夫除“心理史學(xué)”外另一個著名的虛構(gòu)學(xué)說：

　　第一法則：機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；

　　第二法則：除非違背第一法則，機(jī)器人必須服從人類的命令；

　　第三法則在不違背第一及第二法則下，機(jī)器人必須保護(hù)自己。

　　但在1985年，《機(jī)器人與帝國》這本書中，阿西莫夫?qū)⑷蠓▌t擴(kuò)張為四大法則：

　　第零法則機(jī)器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害；

　　第一法則除非違背第零法則，機(jī)器人不得傷害人類，或袖手旁觀坐視人類受到傷害；

　　第二法則除非違背第零或第一法則，機(jī)器人必須服從人類的命令；

　　第三法則在不違背第零至第二法則下，機(jī)器人必須保護(hù)自己。

　　“機(jī)器人三定律”在他于1942年發(fā)表的作品Runaround（《轉(zhuǎn)圈圈》，《我，機(jī)械人》中的一個短篇）中第一次明確提出，并且成為他的很多小說，包含基地系列小說中機(jī)器人的行為準(zhǔn)則和故事發(fā)展的線索。機(jī)器人被設(shè)計(jì)為遵守這些準(zhǔn)則，違反準(zhǔn)則會導(dǎo)致機(jī)器人受到不可恢復(fù)的心理損壞。但是在某些場合，這樣的損壞是不可避免的。在兩個人互相造成傷害時，機(jī)器人不能任人受到傷害而無所作為，但是這會造成對另一個人的傷害，在一些小說中這造成了機(jī)器人的自毀。

　　他在小說中提出了三定律的很多變體。這些對機(jī)器人行為準(zhǔn)則的修改成為他的很多故事的主線。在LittleLostRobot（《消失無蹤》，《我，機(jī)械人》中的一個短篇）中為了避免機(jī)器人無謂地阻止人類進(jìn)行低危險性工作，第一定律中的后半部分被去掉了，但是也產(chǎn)生了一些其他的問題。在RobotDreams（《機(jī)械人之夢》，同名小說中的一個短篇）中，一個機(jī)器人做了個關(guān)于取消第一定律和第二定律的夢，導(dǎo)致了他的毀滅。在機(jī)器人與帝國中，一些機(jī)器人的系統(tǒng)中“人類的定義”被修改（說話沒有該星球的口音就不是人類），而攻擊人類。在科幻電影BicentennialMan（《雙百人》，原為短篇小說，后改編為中篇小說《正子人》）中，一個機(jī)器人為了成為人，將自己的機(jī)械部分逐步替換成組織，并且在最后用自己的貢獻(xiàn)和犧牲換來了人類的認(rèn)同和保護(hù)機(jī)器人的法律的產(chǎn)生。

　　三定律在科幻小說中大放光彩，在一些其他作者的科幻小說中的機(jī)器人也遵守這三條定律。同時，三定律也具有一定的現(xiàn)實(shí)意義，在三定律基礎(chǔ)上建立新興學(xué)科“機(jī)械倫理學(xué)”旨在研究人類和機(jī)械之間的關(guān)系。雖然截至2006年，三定律在現(xiàn)實(shí)機(jī)器人工業(yè)中沒有應(yīng)用，但很多人工智能和機(jī)器人領(lǐng)域的技術(shù)專家也認(rèn)同這個準(zhǔn)則，隨著技術(shù)的發(fā)展，三定律可能成為未來機(jī)器人的安全準(zhǔn)則。

　　下面是大部分人對此的評價三定律加上零定律，看來堪稱完美，但是，“人類的整體利益”這種混沌的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機(jī)器人了。威爾·史密斯曾說：“《我，機(jī)器人》的中心概念是機(jī)器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。”

　　而且，在此之后，羅杰·克拉克添加了以下的定律：元定律：機(jī)器人可以什么也不做，除非它的行動符合機(jī)器人學(xué)定律。此定律置于第零、第一、第二、第三定律之前。第四定律：機(jī)器人必須履行內(nèi)置程序所賦予的責(zé)任，除非這與其他高階的定律沖突。繁殖定律：機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造，除非新的機(jī)器人的行動服從機(jī)器人學(xué)定律。

　　2傳播發(fā)展

　　從1941年的短篇科幻小說《推理》開始，阿西莫夫就在“三大法則”的框架下創(chuàng)作了一系列短篇機(jī)器人科幻小說。他熟練運(yùn)用“三大法則”，在機(jī)器人有可能違背法則的前提下逐漸展開故事。這些短篇故事極具邏輯性，情節(jié)緊湊，扣人心弦，后來大都被收錄在《我，機(jī)器人》(1950)和《其他機(jī)器人》(1964)這兩本科幻小說集中。在嘗試了一系列短篇小說之后，阿西莫夫又創(chuàng)作了機(jī)器人長篇科幻小說，分別是《鋼窟》（又譯《鋼穴》）(1953)和《裸日》(1957)，內(nèi)容都涉及人類偵探與機(jī)器人偵探聯(lián)手破案的傳奇故事，被譽(yù)為科幻與推理相結(jié)合的典范。

　　有了“三大法則”，阿西莫夫筆下的機(jī)器人就不再是“欺師滅祖”、“犯上作亂”的反面角色，而是人類忠實(shí)的奴仆和朋友。不過高度智能化的機(jī)器人還是會產(chǎn)生各種心理問題，需要人類協(xié)助解決，這正是機(jī)器人故事的基礎(chǔ)。阿西莫夫所向往的，是人類為代表的“碳文明”與機(jī)器人為代表的“硅文明”的共存共生。在阿西莫夫的另一篇優(yōu)秀作品《二百歲人》(1976)中，他的這一思想表露得淋漓盡致。

　　隨著《我，機(jī)器人》產(chǎn)生廣泛的影響，阿西莫夫的“機(jī)器人學(xué)三大法則”也引起廣泛的注意，以至今日不少論著在論及“機(jī)器人學(xué)三大法則”時，總是寫道：“一九五○年阿西莫夫在《我，機(jī)器人》一書中首次提出‘機(jī)器人學(xué)三大法則’。”實(shí)際上，阿西莫夫著名的“機(jī)器人學(xué)三大法則”，醞釀于一九四○年末，部分發(fā)表于一九四一年五月，完整提出于一九四一年十月。

　　《我，機(jī)器人》收入九個短篇機(jī)器人科幻小說。這些小說，彼此關(guān)聯(lián)，是用三個人物貫穿。這三個人物是機(jī)器人工程師唐納文、鮑威爾和機(jī)器人心理學(xué)家蘇珊·卡爾文。故事常常是在一位名叫勞倫斯·羅伯遜的人于一九八二年創(chuàng)立的“美國機(jī)器人與機(jī)械人公司”這樣的背景下展開。正是因?yàn)橛泄餐娜宋镓灤?，使《我，機(jī)器人》中的九個短篇不是各自獨(dú)立、互不相干，而是成為系列小說。

　　在阿西莫夫創(chuàng)作一系列機(jī)器人短篇科幻小說并提出“機(jī)器人學(xué)三大法則”時，世界上還沒有機(jī)器人，當(dāng)然也沒有機(jī)器人學(xué)和機(jī)器人公司。一九五九年，美國英格伯格和德沃爾制造出世界上第一臺工業(yè)機(jī)器人，宣告機(jī)器人從科學(xué)幻想變?yōu)楝F(xiàn)實(shí)。隨著機(jī)器人技術(shù)的不斷進(jìn)步，隨著機(jī)器人的用途日益廣泛，阿西莫夫的“機(jī)器人學(xué)三大法則”越來越顯示智者的光輝，以至有人稱之為“機(jī)器人學(xué)的金科玉律”。

　　3零定律

　　后來又出現(xiàn)了補(bǔ)充的“機(jī)器人零定律”：

　　第零定律：機(jī)器人必須保護(hù)人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立。

　　出現(xiàn)

　　在《機(jī)器人與帝國》中，“機(jī)器人系列”前三部的主人公伊利亞·貝萊在臨終前對機(jī)器人R·丹尼爾說道：“個別人的死亡是無所謂的。一個人生路，留下的工作后人會繼承。從這個意義上來說，他沒有死。只要人類存在一天，人類的事業(yè)就不會結(jié)束。每一個人的工作，結(jié)合成人類整體的一部分，因此，就成了整體的一部分。整體存在，他的那一部分也就存在。全人類的生命——過去的、現(xiàn)代的和將來的——匯成了永不停息的生命的長河，并將變得越來越壯麗。一個人的生命，只是這生命長河中的一滴水。”丹尼爾就是據(jù)此將第一定律擴(kuò)展為第零定律。

　　意義

　　為什么后來要定出這條“零定律”呢？打個比方，為了維持國家或者說世界的整體秩序，我們制定法律，必須要執(zhí)行一些人的死刑。這種情況下，機(jī)器人該不該阻止死刑的執(zhí)行呢？顯然是不允許的，因?yàn)檫@樣就破壞了我們維持的秩序，也就是傷害了人類的整體利益。“第零定律”的重要性在于地位凌駕其它三大定律，如若有個機(jī)器人為保護(hù)人類整體（維護(hù)第零定律），必須殺害一個人或一群人（抵觸第一定律），機(jī)器人的正子程式為了人類整體著想就會同意謀殺罪行。

　　定律的完善整合

　　所以新的阿西莫夫的機(jī)器人定律為：

　　第零定律：機(jī)器人必須保護(hù)人類的整體利益不受傷害。

　　第一定律：機(jī)器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機(jī)器人學(xué)第零定律。

　　第二定律：機(jī)器人必須服從人給予它的命令，當(dāng)該命令與第零定律或者第一定律沖突時例外。

　　第三定律：機(jī)器人在不違反第零、第一、第二定律的情況下要盡可能保護(hù)自己的生存。

　　評價

　　三定律加上零定律，看來堪稱完美，但是，“人類的整體利益”這種混沌的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機(jī)器人了。威爾·史密斯曾說：“《我，機(jī)器人》的中心概念是機(jī)器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。”

　　4補(bǔ)充修改

　　阿西莫夫之后，人們不斷提出對機(jī)器人三原則的補(bǔ)充、修正。

　　保加利亞科幻作家LyubenDilov1974年在小說《Icarus'sWay》中提出第四原則：

　　第四原則：機(jī)器人在任何情況下都必須確認(rèn)自己是機(jī)器人。

　　1989年美國科幻作家HarryHarrison在《Foundation'sFriends》中又提出另一個第四原則：

　　第四原則：機(jī)器人必須進(jìn)行繁殖，只要進(jìn)行繁殖不違反第一原則、第二原則或者第三原則。

　　保加利亞科幻作家NikolaKesarovski在《TheFifthLawofRobotics》（1983年）中又提出一個與LyubenDilov第四原則看似相似實(shí)則不同的第五原則：

　　第五原則：機(jī)器人必須知道自己是機(jī)器人。

　　這些補(bǔ)充的確有其發(fā)生的理由，但普遍存在的一個問題是補(bǔ)充本身的必要性和必然性。要知道，阿西莫夫三原則指出了機(jī)器人學(xué)的三個基本規(guī)范（或者“規(guī)律”），更具體的規(guī)范必須建立在這些基本規(guī)范的基礎(chǔ)之上。怎樣劃分一個規(guī)范是具體規(guī)范還是基本規(guī)范？如果是基本規(guī)范，又怎樣確定它在基本規(guī)范體系中的位置（為什么它是“第四”原則，而另一個又是“第五”原則？）？客觀地說，前述幾個“第四”、“第五“原則的內(nèi)容并不能使自己成為第四原則、第五原則，既看不出它們何以成為原則，也看不出何以如此排序。這些原則的提出，多半是適應(yīng)小說情節(jié)的需要，在小說中固然言之成理，但卻不必過份拘泥。很顯然，這幾個補(bǔ)充原則的出發(fā)點(diǎn)是小說情節(jié)的需要，并不是機(jī)器人三原則本身的內(nèi)容。而從三原則的內(nèi)容出發(fā)對三原則加以補(bǔ)充、修改，這樣的工作人們已經(jīng)做過，并產(chǎn)生過很多嚴(yán)肅的討論文章。這里只舉羅杰·克拉克為例，他構(gòu)思的機(jī)器人原則是：

　　元原則：機(jī)器人不得實(shí)施行為，除非該行為符合機(jī)器人原則。

　　第零原則：機(jī)器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

　　第一原則：除非違反高階原則，機(jī)器人不得傷害人類個體，或者因不作為致使人類個體受到傷害。

　　第二原則：機(jī)器人必須服從人類的命令，除非該命令與高階原則抵觸。

　　機(jī)器人必須服從上級機(jī)器人的命令，除非該命令與高階原則抵觸。

　　第三原則：如不與高階原則抵觸，機(jī)器人必須保護(hù)上級機(jī)器人和自己之存在。

　　第四原則：除非違反高階原則，機(jī)器人必須執(zhí)行內(nèi)置程序賦予的職能。

　　繁殖原則：機(jī)器人不得參與機(jī)器人的設(shè)計(jì)和制造，除非新機(jī)器人的行為符合機(jī)器人原則。

　　5繁殖原則

　　羅杰·克拉克把最后一個原則命名為“繁殖原則”，而沒有稱為“第五原則”，是有道理的；僅就其內(nèi)容看，的確很難確定這一個原則到底應(yīng)該放到什么位置上。他把機(jī)器人按履行內(nèi)置職能放在執(zhí)行人類命令之后，認(rèn)為服從人類命令優(yōu)先于執(zhí)行本職工作，總體上也無問題。但把機(jī)器人保護(hù)自身存在置于執(zhí)行本職工作之前，頗有值得商榷之處。此外，這些原則除調(diào)整人與機(jī)器人的關(guān)系之外，還涉及機(jī)器人之間的部分關(guān)系，這是超出原有原則范圍的內(nèi)容。

　　6涉及電影

　　美國演員威爾史密斯的《機(jī)器公敵》提到過機(jī)器人三大定律。

　　美劇《生活大爆炸》中提及。

　　《機(jī)器人管家》（或《變?nèi)恕罚┲杏刑峒啊?/p>

　　7發(fā)展史

　　20世紀(jì)

　　1920年捷克斯洛伐克作家卡雷爾·恰佩克在他的科幻小說《羅薩姆的機(jī)器人萬能公司》中，根據(jù)Robota(捷克文，原意為“勞役、苦工”)和Robotnik(波蘭文，原意為“工人”)，創(chuàng)造出“機(jī)器人”這個詞。

　　1939年美國紐約世博會上展出了西屋電氣公司制造的家用機(jī)器人Elektro。它由電纜控制，可以行走，會說77個字，甚至可以抽煙，不過離真正干家務(wù)活還差得遠(yuǎn)。但它讓人們對家用機(jī)器人的憧憬變得更加具體。

　　1942年美國科幻巨匠阿西莫夫提出“機(jī)器人學(xué)三大法則”。雖然這只是科幻小說里的創(chuàng)造，但后來成為學(xué)術(shù)界默認(rèn)的研發(fā)原則。

　　1948年諾伯特·維納出版《控制論》，闡述了機(jī)器中的通信和控制機(jī)能與人的神經(jīng)、感覺機(jī)能的共同規(guī)律，率先提出以計(jì)算機(jī)為核心的自動化工廠。

　　1954年美國人喬治·德沃爾制造出世界上第一臺可編程的機(jī)器人，并注冊了專利。這種機(jī)械手能按照不同的程序從事不同的工作，因此具有通用性和靈活性。

　　1956年在達(dá)特茅斯會議上，馬文·明斯基提出了他對智能機(jī)器的看法：智能機(jī)器“能夠創(chuàng)建周圍環(huán)境的抽象模型，如果遇到問題，能夠從抽象模型中尋找解決方法”。這個定義影響到以后30年智能機(jī)器人的研究方向。

　　1959年德沃爾與美國發(fā)明家約瑟夫·英格伯格聯(lián)手制造出第一臺工業(yè)機(jī)器人。隨后，成立了世界上第一家機(jī)器人制造工廠——Unimation公司。由于英格伯格對工業(yè)機(jī)器人的研發(fā)和宣傳，他也被稱為“工業(yè)機(jī)器人之父”。

　　1962年美國AMF公司生產(chǎn)出“VERSTRAN”(意思是萬能搬運(yùn))，與Unimation公司生產(chǎn)的Unimate一樣成為真正商業(yè)化的工業(yè)機(jī)器人，并出口到世界各國，掀起了全世界對機(jī)器人和機(jī)器人研究的熱潮。

　　1962年——1963年傳感器的應(yīng)用提高了機(jī)器人的可操作性。人們試著在機(jī)器人上安裝各種各樣的傳感器，包括1961年恩斯特采用的觸覺傳感器，托莫維奇和博尼1962年在世界上最早的“靈巧手”上用到了壓力傳感器，而麥卡錫1963年則開始在機(jī)器人中加入視覺傳感系統(tǒng)，并在1965年，幫助MIT推出了世界上第一個帶有視覺傳感器，能識別并定位積木的機(jī)器人系統(tǒng)。

　　1965年約翰·霍普金斯大學(xué)應(yīng)用物理實(shí)驗(yàn)室研制出Beast機(jī)器人。Beast已經(jīng)能通過聲納系統(tǒng)、光電管等裝置，根據(jù)環(huán)境校正自己的位置。20世紀(jì)60年代中期開始，美國麻省理工學(xué)院、斯坦福大學(xué)、英國愛丁堡大學(xué)等陸續(xù)成立了機(jī)器人實(shí)驗(yàn)室。美國興起研究第二代帶傳感器、“有感覺”的機(jī)器人，并向人工智能進(jìn)發(fā)。

　　1968年美國斯坦福研究所公布他們研發(fā)成功的機(jī)器人Shakey。它帶有視覺傳感器，能根據(jù)人的指令發(fā)現(xiàn)并抓取積木，不過控制它的計(jì)算機(jī)有一個房間那么大。Shakey可以算是世界第一臺智能機(jī)器人，拉開了第三代機(jī)器人研發(fā)的序幕。

　　1969年日本早稻田大學(xué)加藤一郎實(shí)驗(yàn)室研發(fā)出第一臺以雙腳走路的機(jī)器人。加藤一郎長期致力于研究仿人機(jī)器人，被譽(yù)為“仿人機(jī)器人之父”。日本專家一向以研發(fā)仿人機(jī)器人和娛樂機(jī)器人的技術(shù)見長，后來更進(jìn)一步，催生出本田公司的ASIMO和索尼公司的QRIO。

　　1973年世界上第一次機(jī)器人和小型計(jì)算機(jī)攜手合作，就誕生了美國CincinnatiMilacron公司的機(jī)器人T3。

　　1978年美國Unimation公司推出通用工業(yè)機(jī)器人PUMA，這標(biāo)志著工業(yè)機(jī)器人技術(shù)已經(jīng)完全成熟。PUMA至今仍然工作在工廠第一線。

　　1984年英格伯格再推機(jī)器人Helpmate，這種機(jī)器人能在醫(yī)院里為病人送飯、送藥、送郵件。同年，他還預(yù)言：“我要讓機(jī)器人擦地板，做飯，出去幫我洗車，檢查安全”。

　　1998年丹麥樂高公司推出機(jī)器人(Mind-storms)套件，讓機(jī)器人制造變得跟搭積木一樣，相對簡單又能任意拼裝，使機(jī)器人開始走入個人世界。

　　1999年日本索尼公司推出犬型機(jī)器人愛寶(AIBO)，當(dāng)即銷售一空，從此娛樂機(jī)器人成為機(jī)器人邁進(jìn)普通家庭的途徑之一。

　　21世紀(jì)

　　2002年美國iRobot公司推出了吸塵器機(jī)器人Roomba，它能避開障礙，自動設(shè)計(jì)行進(jìn)路線，還能在電量不足時，自動駛向充電座。Roomba是目前世界上銷量最大、最商業(yè)化的家用機(jī)器人。

　　2006年6月，美國微軟公司推出MicrosoftRoboticsStudio，機(jī)器人模塊化、平臺統(tǒng)一化的趨勢越來越明顯，比爾·蓋茨預(yù)言，家用機(jī)器人很快將席卷全球。