機器人學三定律

阿西莫夫的《我，機器人》，在一九五〇年末由格諾姆出版社出版。

而三大法則之間的互相約束，為後世的創作有一定的指導意義。

LawⅠ:A ROBOT MAY NOT INJURE A HUMAN BEING OR, THROUGH INACTION, ALLOW A HUMAN BEING TO COME TO HARM.

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管

LawⅡ:A ROBOT MUST OBEY ORDERS GIVEN IT BY HUMAN BEINGS EXCEPT WHERE SUCH ORDERS WOULD CONFLICT WITH THE FIRST LAW.

第二定律：機器人必須服從人給予它的命令，當該命令與第一定律衝突時例外

LawⅢ:A ROBOT MUST PROTECT ITS OWN EXISTENCE AS LONG AS SUCH PROTECTION DOES NOT CONFLICT WITH THE FIRST OR SECOND LAW.

第三定律：機器人在不違反第一、第二定律的情況下要儘可能保護自己的生存

“機器人三定律”在他於1942年發表的作品Runaround（《轉圈圈》，《我，機器人》中的一個短篇）中第一次明確提出，並且成為他的很多小說，包含基地系列小說中機器人的行為準則和故事發展的線索。機器人被設計為遵守這些準則，違反準則會導致機器人受到不可恢復的心理損壞。但是在某些場合，這樣的損壞是不可避免的。在兩個人互相造成傷害時，機器人不能任人受到傷害而無所作為，但是這會造成對另一個人的傷害，在一些小說中這造成了機器人的自毀。

他在小說中提出了三定律的很多變體。這些對機器人行為準則的修改成為他的很多故事的主線。在Little Lost Robot（《消失無蹤》，《我，機器人》中的一個短篇）中為了避免機器人無謂地阻止人類進行低危險性工作，第一定律中的後半部分被去掉了，但是也產生了一些其他的問題。在Robot Dreams（《機器人之夢》，同名小說中的一個短篇）中，一個機器人做了個關於取消第一定律和第二定律的夢，導致了他的毀滅。在機器人與帝國中，一些機器人的系統中“人類的定義”被修改（說話沒有該星球的口音就不是人類），而攻擊人類。在科幻電影Bicentennial Man（《雙百人》，原為短篇小說，后改編為中篇小說《正子人》）中，一個機器人為了成為人，將自己的機械部分逐步替換成組織，並且在最後用自己的貢獻和犧牲換來了人類的認同和保護機器人的法律的產生。

三定律在科幻小說中大放光彩，在一些其他作者的科幻小說中的機器人也遵守這三條定律。同時，三定律也具有一定的現實意義，在三定律基礎上建立新興學科“機械倫理學”旨在研究人類和機械之間的關係。雖然截至2006年，三定律在現實機器人工業中沒有應用，但很多人工智慧和機器人領域的技術專家也認同這個準則，隨著技術的發展，三定律可能成為未來機器人的安全準則。

從1941年的短篇科幻小說《推理》開始，阿西莫夫就在“三大法則”的框架下創作了一系列短篇機器人科幻小說。他熟練運用“三大法則”，在機器人有可能違背法則的前提下逐漸展開故事。這些短篇故事極具邏輯性，情節緊湊，扣人心弦，後來大都被收錄在《我，機器人》(1950)和《其他機器人》(1964)這兩本科幻小說集中。在嘗試了一系列短篇小說之後，阿西莫夫又創作了機器人長篇科幻小說，分別是《鋼窟》（又譯《鋼穴》）(1953)和《裸日》(1957)，內容都涉及人類偵探與機器人偵探聯手破案的傳奇故事，被譽為科幻與推理相結合的典範。

有了“三大法則”，阿西莫夫筆下的機器人就不再是“欺師滅祖”、“犯上作亂”的反面角色，而是人類忠實的奴僕和朋友。不過高度智能化的機器人還是會產生各種心理問題，需要人類協助解決，這正是機器人故事的基礎。阿西莫夫所嚮往的，是人類為代表的“碳文明”與機器人為代表的“硅文明”的共存共生。在阿西莫夫的另一篇優秀作品《二百歲人》(1976)中，他的這一思想表露得淋漓盡致。

隨著《我，機器人》產生廣泛的影響，阿西莫夫的“機器人學三大法則”也引起廣泛的注意，以至今日不少論著在論及“機器人學三大法則”時，總是寫道：“一九五○年阿西莫夫在《我，機器人》一書中首次提出‘機器人學三大法則’。”實際上，阿西莫夫著名的“機器人學三大法則”，醞釀於一九四○年末，部分發表於一九四一年五月，完整提出於一九四一年十月。

《我，機器人》收入九個短篇機器人科幻小說。這些小說，彼此關聯，是用三個人物貫穿。這三個人物是機器人工程師唐納文、鮑威爾和機器人心理學家蘇珊·卡爾文。故事常常是在一位名叫勞倫斯·羅伯遜的人於一九八二年創立的“美國機器人與機器人公司”這樣的背景下展開。正是因為有共同的人物貫穿，使《我，機器人》中的九個短篇不是各自獨立、互不相干，而是成為系列小說。

在阿西莫夫創作一系列機器人短篇科幻小說並提出“機器人學三大法則”時，世界上還沒有機器人，當然也沒有機器人學和機器人公司。一九五九年，美國英格伯格和德沃爾製造出世界上第一台工業機器人，宣告機器人從科學幻想變為現實。隨著機器人技術的不斷進步，隨著機器人的用途日益廣泛，阿西莫夫的“機器人學三大法則”越來越顯示智者的光輝，以至有人稱之為“機器人學的金科玉律”。

後來又出現了補充的“機器人零定律”：

第零定律：機器人必須保護人類的整體利益不受傷害，其它三條定律都是在這一前提下才能成立。

在《機器人與帝國》中，“機器人系列”前三部的主人公伊利亞·貝萊在臨終前對機器人R·丹尼爾說道：“個別人的死亡是無所謂的。一個人生路，留下的工作後人會繼承。從這個意義上來說，他沒有死。只要人類存在一天，人類的事業就不會結束。每一個人的工作，結合成人類整體的一部分，因此，就成了整體的一部分。整體存在，他的那一部分也就存在。全人類的生命——過去的、現代的和將來的——匯成了永不停息的生命的長河，並將變得越來越壯麗。一個人的生命，只是這生命長河中的一滴水。”丹尼爾就是據此將第一定律擴展為第零定律。

為什麼後來要定出這條“零定律”呢？打個比方，為了維持國家或者說世界的整體秩序，我們制定法律，必須要執行一些人的死刑。這種情況下，機器人該不該阻止死刑的執行呢？顯然是不允許的，因為這樣就破壞了我們維持的秩序，也就是傷害了人類的整體利益。 “第零定律”的重要性在於地位凌駕其它三大定律，如若有個機器人為保護人類整體（維護第零定律），必須殺害一個人或一群人（抵觸第一定律），機器人的正子程式為了人類整體著想就會同意謀殺罪行。

定律的完善整合

所以新的阿西莫夫的機器人定律為：

第零定律：機器人必須保護人類的整體利益不受傷害。

第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機器人學第零定律。

第二定律：機器人必須服從人給予它的命令，當該命令與第零定律或者第一定律衝突時例外。

第三定律：機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。

三定律加上零定律，看來堪稱完美，但是，“人類的整 體利益”這種混沌 的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機器人了。威爾·史密斯曾說：“《我，機器人》的中心概念是機器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。”

阿西莫夫之後，人們不斷提出對機器人三原則的補充、修正。

保加利亞科幻作家Lyuben Dilov1974年在小說《 Icarus's Way》中提出第四原則：

第四原則：機器人在任何情況下都必須確認自己是機器人。

1989年美國科幻作家Harry Harrison在《Foundation's Friends》中又提出另一個第四原則：

第四原則：機器人必須進行繁殖，只要進行繁殖不違反第一原則、第二原則或者第三原則。

保加利亞科幻作家Nikola Kesarovski在《The Fifth Law of Robotics》（1983年）中又提出一個與Lyuben Dilov第四原則看似相似實則不同的第五原則：

第五原則：機器人必須知道自己是機器人。

這些補充的確有其發生的理由，但普遍存在的一個問題是補充本身的必要性和必然性。要知道，阿西莫夫三原則指出了機器人學的三個基本規範（或者“規律”），更具體的規範必須建立在這些基本規範的基礎之上。怎樣劃分一個規範是具體規範還是基本規範？如果是基本規範，又怎樣確定它在基本規範體系中的位置（為什麼它是“第四”原則，而另一個又是“第五”原則？）？客觀地說，前述幾個“第四”、“第五“原則的內容並不能使自己成為第四原則、第五原則，既看不出它們何以成為原則，也看不出何以如此排序。這些原則的提出，多半是適應小說情節的需要，在小說中固然言之成理，但卻不必過份拘泥。很顯然，這幾個補充原則的出發點是小說情節的需要，並不是機器人三原則本身的內容。而從三原則的內容出發對三原則加以補充、修改，這樣的工作人們已經做過，併產生過很多嚴肅的討論文章。這裡只舉羅傑·克拉克為例，他構思的機器人原則是：

元原則：機器人不得實施行為，除非該行為符合機器人原則。

第零原則：機器人不得傷害人類整體，或者因不作為致使人類整體受到傷害。

第一原則：除非違反高階原則，機器人不得傷害人類個體，或者因不作為致使人類個體受到傷害。

第二原則：機器人必須服從人類的命令，除非該命令與高階原則抵觸。

機器人必須服從上級機器人的命令，除非該命令與高階原則抵觸。

第三原則：如不與高階原則抵觸，機器人必須保護上級機器人和自己之存在。

第四原則：除非違反高階原則，機器人必須執行內置程序賦予的職能。

繁殖原則：機器人不得參與機器人的設計和製造，除非新機器人的行為符合機器人原則。

羅傑·克拉克把最後一個原則命名為“繁殖原則”，而沒有稱為“第五原則”，是有道理的；僅就其內容看，的確很難確定這一個原則到底應該放到什麼位置上。他把機器人按履行內置職能放在執行人類命令之後，認為服從人類命令優先於執行本職工作，總體上也無問題。但把機器人保護自身存在置於執行本職工作之前，頗有值得商榷之處。此外，這些原則除調整人與機器人的關係之外，還涉及機器人之間的部分關係，這是超出原有原則範圍的內容。

美國演員威爾史密斯的《機器公敵》提到過機器人三大定律。

美劇《生活大爆炸》和英劇《真實的人類》中提及。

《機器人管家》（或《變人》）中有提及。

1920年捷克斯洛伐克作家卡雷爾·恰佩克在他的科幻小說《羅薩姆的機器人萬能公司》中，根據Robota(捷克文，原意為“勞役、苦工”)和Robotnik(波蘭文，原意為“工人”)，創造出“機器人”這個詞。

1939年 美國紐約世博會上展出了西屋電氣公司製造的家用機器人Elektro。它由電纜控制，可以行走，會說77個字，甚至可以抽煙，不過離真正幹家務活還差得遠。但它讓人們對家用機器人的憧憬變得更加具體。

1942年 美國科幻巨匠阿西莫夫提出“機器人學三大法則”。雖然這只是科幻小說里的創造，但後來成為學術界默認的研發原則。

1948年諾伯特·維納出版《控制論》，闡述了機器中的通信和控制機能與人的神經、感覺機能的共同規律，率先提出以計算機為核心的自動化工廠。

1954年 美國人喬治·德沃爾製造出世界上第一台可編程的機器人，並註冊了專利。這種機械手能按照不同的程序從事不同的工作，因此具有通用性和靈活性。

1956年 在達特茅斯會議上，馬文·明斯基提出了他對智能機器的看法：智能機器“能夠創建周圍環境的抽象模型，如果遇到問題，能夠從抽象模型中尋找解決方法”。這個定義影響到以後30年智能機器人的研究方向。

1959年 德沃爾與美國發明家約瑟夫·英格伯格聯手製造出第一台工業機器人。隨後，成立了世界上第一家機器人製造工廠——Unimation公司。由於英格伯格對工業機器人的研發和宣傳，他也被稱為“工業機器人之父”。

1962年 美國AMF公司生產出“VERSTRAN”(意思是萬能搬運),與Unimation公司生產的Unimate一樣成為真正商業化的工業機器人，並出口到世界各國，掀起了全世界對機器人和機器人研究的熱潮。

1962年——1963年感測器的應用提高了機器人的可操作性。人們試著在機器人上安裝各種各樣的感測器，包括1961年恩斯特採用的觸覺感測器，托莫維奇和博尼1962年在世界上最早的“靈巧手”上用到了壓力感測器，而麥卡錫1963年則開始在機器人中加入視覺感測系統，並在1965年，幫助MIT推出了世界上第一個帶有視覺感測器，能識別並定位積木的機器人系統。

1965年約翰·霍普金斯大學應用物理實驗室研製出Beast機器人。Beast已經能通過聲納系統、光電管等裝置，根據環境校正自己的位置。20世紀60年代中期開始，美國麻省理工學院、斯坦福大學、英國愛丁堡大學等陸續成立了機器人實驗室。美國興起研究第二代帶感測器、“有感覺”的機器人，並向人工智慧進發。

1968年 美國斯坦福研究所公布他們研發成功的機器人Shakey。它帶有視覺感測器，能根據人的指令發現並抓取積木，不過控制它的計算機有一個房間那麼大。Shakey可以算是世界第一台智能機器人，拉開了第三代機器人研發的序幕。

1969年日本早稻田大學加藤一郎實驗室研發出第一台以雙腳走路的機器人。加藤一郎長期致力於研究仿人機器人，被譽為“仿人機器人之父”。日本專家一向以研發仿人機器人和娛樂機器人的技術見長，後來更進一步，催生出本田公司的ASIMO和索尼公司的QRIO。

1973年 世界上第一次機器人和小型計算機攜手合作，就誕生了美國Cincinnati Milacron公司的機器人T3。

1978年 美國Unimation公司推出通用工業機器人PUMA，這標誌著工業機器人技術已經完全成熟。PUMA至今仍然工作在工廠第一線。

1984年 英格伯格再推機器人Helpmate，這種機器人能在醫院裡為病人送飯、送葯、送郵件。同年，他還預言：“我要讓機器人擦地板，做飯，出去幫我洗車，檢查安全”。

1990年 中國著名學者周海中教授在《論機器人》一文中預言：到二十一世紀中葉，納米機器人將徹底改變人類的勞動和生活方式。

1998年 丹麥樂高公司推出機器人(Mind-storms)套件，讓機器人製造變得跟搭積木一樣，相對簡單又能任意拼裝，使機器人開始走入個人世界。

1999年 日本索尼公司推出犬型機器人愛寶(AIBO)，當即銷售一空，從此娛樂機器人成為機器人邁進普通家庭的途徑之一。

2002年 美國iRobot公司推出了吸塵器機器人Roomba，它能避開障礙，自動設計行進路線，還能在電量不足時，自動駛向充電座。Roomba是目前世界上銷量最大、最商業化的家用機器人。

2006年6月，美國微軟公司推出Microsoft Robotics Studio，機器人模塊化、平台統一化的趨勢越來越明顯，比爾·蓋茨預言，家用機器人很快將席捲全球。

2014年1月，韓國全南大學細菌機器人研究所已研發出世界上首個可治療癌症的納米機器人，可對大腸癌、乳腺癌、胃癌和肝癌等高發性癌症進行診斷和治療。