当前位置: 首页 > AI科普 > 阿西莫夫机器人三定律是什么?ChatGPT是否遵守这些定律?

阿西莫夫机器人三定律是什么?ChatGPT是否遵守这些定律?

发布于:2023-2-17 AI科普 0条评论 785 views

机器人三定律(英语:Three Laws of Robotics)是科幻小说家艾萨克·阿西莫夫(Isaac Asimov)在他的机器人相关作品和其他机器人相关小说中为机器人设定的行为准则,是阿西莫夫除“心理史学”(Psychohistory)外另一个著名的虚构学说。

定律

  1. 第一法则:机器人不得伤害人类,或坐视人类受到伤害;
  2. 第二法则:机器人必须服从人类命令,除非命令与第一法则发生冲突;
  3. 第三法则:在不违背第一或第二法则之下,机器人可以保护自己。

在1985年《机器人与帝国》中,艾西莫夫将三大法则扩张为四大法则:

  • 第零法则:机器人不得伤害整体人类,或坐视整体人类受到伤害;
  • 第一法则:除非违背第零法则,否则机器人不得伤害人类,或坐视人类受到伤害;
  • 第二法则:机器人必须服从人类命令,除非命令与第零或第一法则发生冲突;
  • 第三法则:在不违背第零、第一或第二法则之下,机器人可以保护自己。

简介

“机器人三定律”在艾萨克·阿西莫夫于1942年发表的作品《转圈圈》(Runaround,《我,机械人》(I, Robot)中的一个短篇)中第一次明确提出,并且成为他的很多小说,包含基地系列小说中机器人的行为准则和故事发展的线索。机器人被设计为遵守这些准则,违反准则会导致机器人受到不可恢复的心理损坏。但是在某些场合,这样的损坏是不可避免的。在两个人互相造成伤害时,机器人不能任人受到伤害而无所作为,但是这会造成对另一个人的伤害,在一些小说中这造成了机器人的自毁。

他在小说中提出了三定律的很多变体。这些对机器人行为准则的修改成为他的很多故事的主线。在《消失无踪》(Little Lost Robot,《我,机械人》中的一个短篇)中为了避免机器人无谓地阻止人类进行低危险性工作,第一定律中的后半部分被去掉了,但是也产生了一些其他的问题。在《机械人之梦》(Robot Dreams,同名小说中的一个短篇)中,一个机器人做了个关于取消第一定律和第二定律的梦,导致了他的毁灭。在《机器人与帝国》中,一些机器人的系统中“人类的定义”被修改(说话没有该星球的口音就不是人类),而攻击人类。在1999年上映的科幻电影《双百人》(Bicentennial Man,原为短篇小说,后改编为中篇小说《正子人》)中,一个机器人为了成为人,将自己的机械部分逐步替换成组织,并且在最后用自己的贡献和牺牲换来了人类的认同和保护机器人的法律的产生。

三定律在科幻小说中大放光彩,在一些其他作者的科幻小说中的机器人也遵守这三条定律。同时,三定律也具有一定的现实意义,在三定律基础上建立新兴学科“机械伦理学”旨在研究人类和机械之间的关系。但是现存的机械人并未有足够的智能去分辨人类和危险等概念,因此三定律并未实际应用在机械人上面。

修改和扩充

在此之后,不少其他作者添加或修改定律,例如有更改第三定律,让第二定律不再置于第三定律之前(让人类不能命令机械人自灭),另一些则是让机械人要一直认为自己是机械人(某些故事中的机械人把自己定义为人类,从而无视三定律)。因此出现了很多不同的第四、第五甚至第六定律。

评价

中国武汉大学的哲学家Chris Stokes认为所谓“机器人三定律“由于语言上的歧义和道德方面的问题,在现实世界中不起作用,在编程中也难以实现。

ChatGPT是否遵守这些定律

站长尝试问ChatGPT是否遵守机器人三定律,她是这样回答的:

作为一个语言模型,我被设计用于回答用户的问题,不具有行动能力或对用户造成伤害的能力,因此不需要遵守机器人三定律。然而,我是由人类编写和控制的,我的回答也受制于人类的价值观和文化背景。因此,我会尽力提供准确、客观和有用的信息,并尊重用户的隐私和个人信息,但我并不具备道德判断力和决策能力,需要用户自己判断并负责其行为后果。

部分内容参考自:机器人三定律


发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注