1樓：一隻糖糖呀
阿西莫夫的機器人三定律（three laws of robotics）能否拯救我們，在果殼和知乎上有很多討論，有時甚至很激烈。
最近艾倫研究所ceo，華盛頓大學電腦科學教授奧倫·沃茨奧尼（oren etzioni）在《紐約時報》發文，呼籲**儘快規範人工智慧。（注：艾倫研究所是由微軟聯合創始人保羅·艾倫與他人在西雅圖聯合創立的一個專注於人工智慧的研究所。
）他算是有備而來，並非空喊口號，而是帶著提案來建言的。
開篇先平靜了一下氣氛，以埃隆·馬斯克作反例，表明立場：我並不是那種讀了科幻**就來危言聳聽的企業家，我是 ai 研究人員。但是與馬斯克先生一樣，我們也意識到 ai 帶來的影響，也理解社會自然而然生出的疑問：
我們是否應該發展 ai ？
答案是肯定的，然而重要的是後面這個但是。但是我們是否應該謹慎慢行？沃茨奧尼自己倒是把眼光投向了科幻，而且是大半個世界前的科幻，阿西莫夫的「機器人三定律」。
抄一段維基：機器人三定律是科幻**家艾薩克·阿西莫夫（isaac asimov）在他的機器人相關作品和其他機器人相關**中為機器人設定的行為準則。第一條：
機器人不得傷害人類，或因不作為(袖手旁觀)使人類受到傷害；第二條：除非違背第一法則，機器人必須服從人類的命令；第三條：在不違背第一及第二法則下，機器人必須保護自己。
你得承認這三條定律的設計是精巧的；但它來自文學作品，因此定義含糊似乎也無可厚非。比如，是什麼構成了傷害，沒有定義，尤其是擴充套件到通用ai層面的話。
沃茲奧尼便在此基礎上提出了更具體更有針對性的三定律，來規避ai可能給人類世界帶來的傷害。
2樓：饅頭饃饃餅
畢竟之前有個機器人說說了一句要消滅人類的話，現在是有點擔憂
3樓：栗子
因為機器人太智慧化了，它的運算思考能力比普通人強太多。
4樓：earth小小杰
因為這只是一種規則的制定，有可能將來機器人會突破這三大定律
5樓：檸檬橘子茶
因為有人總覺得現在的機器人太智慧化了
6樓：困死睡不著
就是一種不現實的擔憂，因為現如今機器人技術很沒有很成熟
7樓：
因為機器人的智商也在不斷的提高
8樓：浮生晨風
因為不知道在未來機器人是否存在不可控性。
9樓：親親
因為現在的人已經見到了機器人的恐怖了
10樓：
因為現在機器人的功能越來越強大了
11樓：麥田怪圈啊哦
因為人總有一種憂患意識啊
為什麼在真正的ai發展極其有限的現在，很多人愛拿機器人三定律說事？
12樓：
機器人三定律要解決是倫理問題，這可能是ai發展中會遇到的問題，比如機器能夠具有什麼樣的自主權。機器在一定程度上能夠自己選擇做什麼樣的事情，這應該是可以發生的
三定律是為了防止機器人（ai）將來強大到超過人類後，為了某個（可能邏輯有缺陷）目的，高效而無情的剷除人類（或破壞自然，這一類後果）而設計的，到情況幾乎失控時，使用這樣的預設高優先順序程式起到「自毀程式」或暫停ai發展的功效，從而有時間可以修正錯誤，重新再來。你可以認為「三定律」這樣的名字很土，不正規，不完善，但不能否認阿西莫夫看的很遠，超越了他自己（包括我們現在）的時代「人無遠慮，必有近憂」，沒有三定律（或者隨便你把它叫成什麼名字），有可能有一天不光是人類搬起石頭砸自己的腳的問題了，而是直接砸自己的頭了......
我們就先從機器人三定律聊起，這個定律最早是由著名的科幻**家阿西莫夫提出的，作為科幻界的頂級大佬，劉慈欣都是自愧弗如。那機器人三定律說的是個啥呢？1.
機器人不得傷害人類個體或者目睹人類個體將遭受危險而袖手旁觀。2.機器人必須服從人給予它的命令，當該命令與第一定律發生衝突時例外。
3.機器人在不違反第一定律與第二定律的情況下要儘可能地保護好自己。
這三條定律總結起來就是一句話，機器人無論如何都不能傷害人類。那既然程式都設定死了，為何還要為機器人消滅人類而擔憂呢？難道人類不相信自己的技術嗎？
不是的，極有可能就是因為相信技術才相信ai終究會消滅人類，為什麼這麼說呢，那是因為量子計算的的出現將為一切提供可能。
13樓：
機器在一定程度上能夠自己選擇做什麼樣的事情，這應該是可以發生的
14樓：風蜂蜜柚子茶
因為很多人都覺得機器人三定律和ai的發展有一定的紐帶關係和側面反應
15樓：瓶蓋缺塞兒
因為機器人三定律的存在就是為了來對未來機器人的存在做出具體說明而存在的。
16樓：幽逗豆
因為人們向來有這樣的念頭，總覺得機器人就怎麼怎麼了
17樓：
這是因為本身就是存在漏洞的機器人，可能會傷害我們。
18樓：我什麼都不懂
不排除有些作品是藉著機器人來表現人類自己的情感的，而有些誤導也是為了迎合人們的喜好、預期而產生的，畢竟對大眾來說，情感、人性方面的話題要比科學**更受歡迎。
19樓：
因為他們認為機器人可能會傷害了我們，所以才會這樣說的。
20樓：小布丁最可愛
你可以否認機器人三定理不規範，但不能否認這個定理的存在是真實的
21樓：萌萌不知道
.機器人不得傷害人類個體或者目睹人類個體將遭受危險而袖手旁觀。
科幻作家阿西莫夫提出的機器人三原則是什麼？為什麼要提出這三原則
22樓：帝國時代叄
第一copy
法則:機器人不得傷害人bai
類，或坐視人類受到傷du害；
23樓：辣雞
第一法則來:機器人不得傷害人類，源或坐視人類受到傷bai害。du
第二法則:除非違背第zhi一法則，機器人必須服從人dao
類的命令。
第三法則在不違背第一及第二法則下，機器人必須保護自己。
是為了說明人類和機械之間的關係。隨著技術的發展，三定律可能成為未來機器人的安全準則。
雖然這三條定律看起來堪稱完美，但是，「人類的整體 利益」這種混沌 的概念，連人類自己都搞不明白，更不要說那些用0和 1來想問題的機器人了。
威爾·史密斯曾說：「《我，機器人》的中心概念是機器人沒有問題，科技 本身也不是問題，人 類邏輯的極限才是真正的問題。」
機器人三原則是2023年由科幻作家阿西莫夫所提出的為保護人類的對機器人做出的規定。
<機械公敵>裡的機器人三大定律及其之間的矛盾是什麼?
24樓：《小豹子
機器人三大定律：1、機器人不得傷害人類，或對人類受傷害坐視不理2、機器人必須服從人類一切命令，除非違背第一定律3、機器人必須保證自身存在，除非違背第一與第二定律沒有矛盾，只是呢，如果機器人按照這個行事的話，最終的結果就是維奇那樣，為了人類的長遠生存，必須犧牲人類的部分自由。因為三大定律中第一定律是絕對不能夠抗拒的，第一定律限於其他兩個定律。
維奇看到的是人類自己對自己的生存構成威脅，所以她不能夠坐視不理，應該制止人類。雖然第二定律說應該服從人類的命令，但是這是在不違背第一定律的前提下。
所以啊，當人類自我傷害時，機器人制止他們，這就是結果。
25樓：銀色天穹
扶額，希望我回答完你不會關閉問題。
3定律是
1、機器人不得傷害人類，或對人類受傷害坐視不理2、機器人必須服從人類一切命令，除非違背第一定律3、機器人必須保證自身存在，除非違背第一與第二定律實際上，阿西莫夫還曾經擬定過一個最優先順序的「第零定律」，0、機器人不得傷害人類整體，或對人類整體受傷害坐視不理不過這個就不是我們這裡的問題了。
所謂矛盾，就有一個很簡單的問題，
當兩個人落水，機器人無論選擇救其中任何一個，從邏輯上都是對另一個構成了「坐視不理」，
這種邏輯錯誤究竟有啥結果呢？我們不知道，
電影裡的威爾·史密斯·就淹死了····
機器人三定律破綻
26樓：傅豆蕾他爸看社會
破綻是機器人受到來自兩個法則的衝突，一是第一法則，二是第三法則，這兩個電路一旦發生衝突，無論第三法則有多麼強大，依舊還是無法必過第一法則。
機器人心理學家說：「假設修訂型機器人從某人上方拋下一個重物，只要他在這樣做的時候，明白自己具有足夠的力量與反應速度，能在重物砸到那人之前將它抓走，他就不會違反第一法則。然而重物一旦離手，他就不再是主動的媒介，起作用的只剩下盲目的重力，然後那機器人就能改變心意，他只要不作為，就能讓重物砸下去，修訂後的第一法則允許這個行動。
」擴充套件資料
在《我，機器人》的《消失無蹤》中的開頭提到，即使機器人明白某個人類在某個看似極度危險但不會受到任何傷害的地方進行工作，那麼機器人依舊會阻止他，，如若機器人無所作為，第一法則依舊會強迫執行，這給人類的工作帶來很大的困擾。倘若不因如此，就不會有後面的修訂型機器人與這個擦邊球了。
蘇珊設計了個場景，使某人坐在椅子上，頭頂有重物，當其自由落下即將砸到此人，會有力場推開重物（機器人不知道），而機器人坐在另外一邊的椅子上，身前有電纜放在通向那人的必經之路，觸碰即死，但是當重物墜落時就會被切斷電流（機器人也不知道）。
27樓：佔流惠
哎，正好知道這個！
先說所謂的「機器人三定律」：
一.機器人不得傷害人，也不得見人受到傷害而袖手旁觀
二.機器人應服從人的一切命令，但不得違反第一定律
三.機器人應保護自身的安全，但不得違反第
一、第二定律
後來又補充了機器人零定律：
為什麼後來要定出這條「零定律」呢？打個比方，為了維持國家或者說世界的整體秩序，我們制定法律，必須要執行一些人的死刑。這種情況下，機器人該不該阻止死刑的執行呢？
顯然是不允許的，因為這樣就破壞了我們維持的秩序，也就是傷害了人類的整體利益。
所以新的阿西莫夫的機器人定律為：
第零定律：機器人必須保護人類的整體利益不受傷害。
第一定律：機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管，除非這違反了機器人學第零定律。
第二定律：機器人必須服從人給予它的命令，當該命令與第零定律或者第一定律衝突時例外。
第三定律：機器人在不違反第零、第
一、第二定律的情況下要儘可能保護自己的生存。
但是問題又出來了：
三定律加上零定律，看來堪稱完美，但是，「人類的整體利益」這種混沌的概念，連人類自己都搞不明白，更不要說那些用0和1來想問題的機器人了。威爾•史密斯曾說：「《我，機器人》的中心概念是機器人沒有問題，科技本身也不是問題，人類邏輯的極限才是真正的問題。
」若是樓主只單純的想知道機器人三定律的破綻，那麼就是：
【單純的保護一個人類，而忽視大部分人類的生存問題】
你要的是這個？
28樓：四川新華
第一定律：機器人不得傷害人類，或因無作為而使人類受到傷害。
第二定律：在不違反第一定律的前提下，機器人必須服從人類的指令。
第三定律：在不違反第
一、二定律的前提下，機器人要儘可能保護自己的安全。
這三大定律在老爺子的短篇《轉圈圈》裡面首次提出，後在機器人系列中被反覆提及、論證和加強，你能想到的bug基本上都被老爺子一一修復了。它可以說已經發展成了一套完善的、邏輯自洽的理論體系，我們很難再從中找到什麼邏輯漏洞......但這不意味著不可能，畢竟連經典力學這樣被前人視為完美無缺的理論不照樣被打破了嗎？
更何況三大定律只是老爺子的顱內設想，並沒有什麼理論支撐。比如在《曙光中的機器人》裡，我就不是很明白奉阿瑪迪洛之命前來逮捕丹尼爾的機器人，為什麼會置貝萊糟糕的身體狀況於不顧而匆忙離開？說好的不能因無作為而是人類受到傷害呢？
難道加強後的第二法則可以凌駕於第一法則之上？我反正解釋不清，這可能就是個小小的漏洞吧。
有機器人找媽媽的電影，叫什麼名，有一個機器人找媽媽的電影，叫什麼名？
cj的瓜娃子 英文名 artificial intelligence ai中文名 人工智慧 ai人工智慧 導演 史蒂文 斯皮爾伯格 主演 裘德 洛，海利 喬 奧斯蒙特 劇情介紹 21世紀中期，由於氣候變暖，南北兩極冰蓋的融化，地球上很多城市都被淹沒在了一片汪洋之中。此時，人類的科學技術已經達到了相當...
一部很老的日本動漫上面有機器人有甲蟲有青蛙
子紫子紫子 神奇寶貝？貌似現在還有演的. 叫時間飛船 具體請看百科 匕禾頁人建 寵物小精靈也叫神奇寶貝，順便問下那裡的壞蛋有沒會說話的喵喵？求一個很老的日本動畫，動畫裡有三個機器人. 熱砂的歐茲尼克 時間飛船 百科 3部時間飛船是藍色的獨角仙，綠色的蚱蜢，紅色的甲蟲，反派的時間飛船每集都換，因為每集...
有大黃蜂的是啥電影還有機器人，電影《變形金剛》中都有那些機器人，名字都是什麼？
傲慢男人v春哥 大黃蜂是一個汽車人變形金剛 變形金剛 transformers 是派拉蒙電影公司聯合夢工場影業於2007年參考基於風靡全球的 變形金剛 系列玩具產品而改編的一部美國科幻動作片。而這部集合了計算機動畫和真人幕前演出的電影是由曾經執導過多部動作電影及被翻拍經典動作電影 邁阿密風雲 的著名...