登錄 注冊
您的位置:首頁> 建站知識 > vi設計
阿西莫夫的機器人四大定律
標簽:vi設計
發表日期:2019-06-07 09:28:08     文章編輯:admin     瀏覽次數:167

第零定律:機器人不可以傷害人類的整體利益,也不可以在人類整體利益遭遇危險時,袖手旁觀。

第一定律:機器人不可以傷害某一個人,也不可以在那個人遭遇危險時袖手旁觀,除非與機器人第零定律相沖突。

第二定律:機器人必須服從人類的命令,除非這些命令與第零定律相沖突或與第一定律相沖突。第三定律:機器人在不與第零、第一、第二定律相沖突的情況下,必須保護自身安全。

許多機器本身已經被直接裝入了這些定律的關鍵內容,讓我們來看看這些定律如何執行。

第零定律——“機器人不可以傷害人類的整體利益,也不可以在人類整體利益遭遇危險時袖手旁觀。”這超出了機器人目前的能力,阿西莫夫在他早期的小說中不需要這一定律,很大部分也是出于以下原因:單單是確定某一行動或不作為是否會傷害到人類整體利益,這已經非常復雜了,也許還超出了大多數人的能力。

第一定律——“機器人不可以傷害某一個人,也不可以在那個人遭遇危險時袖手旁觀,除非這與機器人第零定律相沖突。”這條定律也可以稱為“安全定律”。制造出傷害人的物品根本就是非法的,更不用說是不恰當的了。因此,現在所有機器都擁有多重安全保護裝置,將造成傷害的可能性降至最低。安全定律保證機器人和普通機器被安裝上多重安全裝置,以防止它們的行為會傷害到人類。工業機器人和家用機器人都裝有接近和碰撞感應器。即便是簡單的機器,例如電梯和車庫門,都裝有防止它們夾到人的感應器?,F在的機器人都會設法避免撞到人或其他物體。割草機和吸塵機器人都有感應裝置,當它們在撞到東西或者靠近某高處的邊緣(例如樓梯)時會停下或退后。工業機器人通常會被圍欄隔開,當它們工作時,人們不可以靠近。有些機器人裝有人類探測器,當探測到附近有人時,它們會停下來。家用機器人裝有很多機械裝置,以便將傷害的風險降到最低。不過,在這種情況下,大多數機器人都會電量不足,即使它們想傷害別人也無法做到。此外,律師都會小心防范潛在的危險。一家公司出售的家用機器人可以給小孩子讀書,同時還會看家,它會在家里到處查看,遇到意外狀況時會拍下照片并通知主人,如果有必要的話,還會給主人發郵件(當然,是通過它的無線網絡連接,將照片附在信息上)。盡管機器人具有這些預設用途,但是對機器人的使用也有嚴格的規定,既不能讓它靠近小孩子,也不能將它單獨留在家里。

為了實現第一定律中的安全措施,人們已經投入了巨大努力。我們認為,有關這方面的大部分工作都被應用在本能層次,當有關操作違反了安全定律時,就會用很簡單的機械裝置來關閉這個系統。

該定律的第二部分——不可以在那個人遭遇危險時袖手旁觀——非常難執行。如果難以確定機器人的行為會如何影響人類,那么要判斷袖手旁觀會如何影響到人類,就更加困難了。這屬于反思層次的行為,因為機器人必須進行大量的分析和計劃,從而確定袖手旁觀是否會帶來傷害。這超出了現有大多數機器人的能力范圍。

盡管遇到這些困難,但是仍然有一些簡單的解決方案。許多電腦都插上了“不間斷電源”,以避免在電力中斷時丟失數據。如果電力中斷,而且不采取任何措施,就會造成損失。但在上述情況下,當電力中斷了,電源供應設備就會采取措施,切換到電池,把電池的電壓轉換為電腦要求的水平。它也可以設定為向使用者發出通知,讓其可以從容不迫地關機。其他的安全系統則被設計為,當正常進程失效時,它就會采取措施。有些汽車安裝了內置感應器,以便監視汽車行駛路線,通過調整引擎動力和剎車來確保汽車保持既定的行駛路線。我們嘗試用自動速度控制器來保持汽車與前車的安全距離,而車道變更探測器也在研究當中。如果當不采取任何行動會引起事故時,這些設備就可以保障汽車和乘客的安全。

現在,盡管這些裝置都還很簡單,而且都是內置式的,但我們仍然可以看到有關第一定律的不作為條款的初步解決方案。

第二定律——“機器人必須服從人類的命令,除非這些命令違反了第零定律或第一定律。”這一條定律與服從人類有關,并且與第一定律形成對比,后者則是與保護人類有關。從很多方面來說,執行這條定律非常容易,不過又都是為了最基本的理由?,F在的機器沒有獨立的思想,所以它們必須服從命令:它們別無選擇,只能遵守人類發出的命令。如果它們失敗了,將會面臨最嚴厲的懲罰:它們會被關機,然后被送到維修廠。

機器可以為了保護第一定律而違反第二定律嗎?可以,但是靈活性不高。當你指令一臺電梯把你送到你想要去的樓層,如果它感應到有人或物體擋住了門,它就會拒絕執行命令。不過,這就是執行這條定律最簡單的方式,當情況更復雜時,它可能會失效。實際上,當安全系統阻止機器執行命令時,人們通常都可以越過安全系統而允許機器繼續運行。這是許多火車、汽車、飛機和工廠事故發生的原因。也許阿西莫夫是對的,我們應該讓機器去決定某些事情。

某些自動配置安全系統是“袖手旁觀”這一條款的例子。如果駕車者迅速剎車,但是沒有完全踩下剎車踏板,大多數汽車就不會完全降速。然而,奔馳汽車考慮到了這種“袖手旁觀造成的傷害”,當它探測到一個快速的剎車動作,就會將剎車踏板壓到底,自動設定駕駛者想盡快停車。這是第一定律和第二定律聯合產生的結果:對于第一定律,汽車防止給駕駛者造成傷害,而對于第二定律,汽車違反了駕駛者把剎車踏板踩到一半的“命令”。當然,這也許不是真的違反命令:機器人推測駕駛者打算把剎車踩到底,即使它沒有收到這樣的命令。也許機器人引用了新的規則:“按照我的意思去做,而不是按照我說的話去做 [2] 。”這是早期人工智能電腦系統采用的一個舊概念。

盡管汽車的自動剎車功能執行了第二定律的部分規定,但是正確的執行方法應該是讓汽車先檢查前方的路況,然后自己決定應該如何把握速度快慢、剎車強度或是方向盤角度。只有這樣做,我們才算真正徹底地執行了第一和第二定律。我再次向各位讀者聲明,這一切都正在開始實現。例如,有些汽車在太靠近前面的車輛時,即使駕駛者沒有采取措施減速,它們也會自動降低速度。

我們暫時還沒有遇到相互沖突的命令,但是我們很快就會擁有互動機器人,那時,機器人的要求可能會與人類管理者的要求相互沖突。那樣的話,確定事情的先后次序和優先權就變得很重要了。

這些都是比較簡單的例子,在阿西莫夫的設想中,還有汽車拒絕啟動的情況——“對不起,因為今天晚上的路況太危險了。”我們還沒達到這樣的境界,但是,我們將會達到。到了那時,阿西莫夫的第二定律就會很有用了。

阿西莫夫認為,在所有定律中,自我保護是最不重要的一條——“機器人在不違反第零、第一、第二定律的情況下,必須保護自身安全。”——所以它被列為第三定律,是四大定律中的最后一條。當然,由于現在機器的性能仍然很有限,很少需要應用第一和第二定律,因此,在當今社會中,第三定律反而顯得最重要。想想看,如果我們價值不菲的機器人被弄壞或者燒壞了自己,我們肯定會懊惱不已。因而,我們可以很容易地在現代機器中看到這條定律如何發揮作用。還記得安裝在吸塵機器人里面,以防止它們從樓梯跌落的感應器嗎?還有割草機器人裝有撞擊和障礙探測器,以避免被撞壞。另外,許多機器人都會監控自己的能量狀態,在能量水平下降時,會確定進入“睡眠”模式還是回到充電站點。到目前為止,我們還不能很好地解決這一定律與其他定律之間的矛盾,除非有操作人員在場,由他們判斷在什么情況下可以忽略安全因素。

我們目前還不能徹底執行阿西莫夫的四大定律,除非機器具備強大而有效的反思能力,包括元知識(meta-knowledge,對自身知識的認識)和對自身狀態、行為和意圖的自我意識。這就向人類提出了關于哲學和科學的難題,同時還向工程師和程序員提出了復雜的執行問題。這個領域正在不斷發展之中,不過進展緩慢。

即便是當今相對簡單的設備,要是能擁有一些這樣的能力,也是非常有用的。因此,當發生矛盾時,忽略操作員的命令就是一個明智的決定。飛機的自動控制系統會監控前方的情況,以便確定飛行路線上的潛在情況,如果察覺到即將發生危險,就會改變航道。有些飛機真的嘗試過在自動控制狀態下飛進崇山峻嶺中,因此,如果飛機具備上述能力,就能挽救無數的生命。事實上,許多自動系統已經開始進行這種檢查工作了。

此外,即使是現在的玩具機器人,也具有一些自我意識。我們來看看這種機器人,它既由自己與主人玩耍的“意愿”控制,同時還會確保自己不會消耗完所有電量。當處于低電量狀態時,它就會回到充電站點,即使人們還想繼續跟它玩。

在我們執行類似于阿西莫夫四大定律的規則時,最大的障礙就是他關于自動操作和中央控制機制的基本假設可能無法應用于現在的系統。

阿西莫夫的機器人像個體一樣工作,只要給它分配一項任務,它就會去做。在少數情況下,他也會讓機器人以團隊方式工作,由其中一個機器人擔任管理者。此外,他從來不會讓人類和機器人組成工作團隊。然而,我們卻更想制造具有合作性的機器人,在這樣的體系下,人類和機器人或者機器人團隊可以一起工作,就像一群合力完成一項任務的工人一樣。合作行為要求一套不同于阿西莫夫的假設,因此,具有合作性的機器人需要這樣一套規則,讓它們可以充分交流各自的意圖、當前狀態和進展情況。

然而,阿西莫夫的主要錯誤 [3] 在于,他認為機器必須由人進行控制。他在寫小說時,經常假設智能機器需要中央協調和控制機制,而且在這個機制下還設有等級組織架構。這是數千年來軍隊的組織方式:軍隊、政府、企業和其他機構。人們很自然地就會設想所有智能系統都采用相同的組織原理。但是,這并不是大自然的組織方式。自然界里各種各樣的系統——從螞蟻和蜜蜂的行為,到鳥類的集結成群,甚至是城市的發展和股票市場的架構——都是通過多個團體互動而產生的自然結果,而不是由某些中央協調的控制架構產生?,F代控制理論也已經脫離了這種中央集權式的假設,分散式控制才是現代系統的標志。阿西莫夫假設每個機器人均由一個中央決策組織控制,根據他的四大定律指導它如何行動。但實際上,這可能并不是機器人工作的方式:四大定律是機器人結構的一部分,分布在它的機械裝置的各個模塊中,而這些模塊會進行互動,從而產生遵循四大定律的行為。這就是現代概念,阿西莫夫在寫作時還不理解這個概念,因此也難怪他沒有達到我們今天對復雜系統的理解水平。

盡管這樣,阿西莫夫仍然領先于他所身處的年代,具有劃時代的前瞻性。他的小說寫于20世紀40年代到50年代,但是在小說《機械公敵》(I,Robot )中,他引用了虛擬2058年出版的《機器人技術手冊》中的機器人三大定律。因此,他預測了超過100年之后的事情。到2058年,我們可能真的需要他的定律。除此之外,正如上述分析所指出的那樣,這些定律真的很重要,現在很多系統都在不經意間遵循著這些定律。執行這些定律的困難之處在于,如何處理由于不作為而造成的傷害,以及如何判斷應該服從命令還是避免自己、他人受傷。

隨著機器變得越來越能干,替代了越來越多的人類活動,并且能夠自動運作而不需要人類直接監管,它們也將面對法律問題。在發生意外時,將由法律制度來確定孰是孰非。在出現這種情況之前,先設立一些道德規范是很有益處的?,F在已經有一些適用于機器人的安全守則 [4] ,不過這些都是很基本的,我們需要制定更多的規定。

現在開始思考未來智能化和情感化的機器將會給我們帶來的問題并不算太早,我們要考慮許多關于實踐、道德、法律和倫理的問題。盡管很多問題都是將來才會遇到,但是我們也有充分的理由從現在開始做打算——如此一來,當問題發生時,我們已經做好了準備。

留言預約
關于我們
易神州網絡-專業的軟件開發和品牌營銷公司,提供互聯網基礎服務與數字營銷產品解決方案專家,14年豐富的軟件開發、品牌策劃營銷。擅長于系統化解決企業品牌在互聯網上的統一性傳播,企業品牌在互聯網上的應用。我們協助您通過在線品牌的塑造,建立長久的企業品牌價值。
聯系我們
400-611-0508
周一至周六9:00-18:00
全方位的營銷咨詢   精準的解決方案
地址:北京市豐臺科技園漢威國際四區8號樓7層
關注公眾號

        {久久AV高潮AV无码AV喷吹,怡红院AV一区二区三区,天天爽夜夜爽人人爽一区二区,无码无套少妇毛多18PXXXX}