阿西莫夫三大原则与定律（机器人三大原则漏洞 _三大

文章插图
机器人公民索菲亚成网红
关注AI的人对网红机器人公民索菲亚的言行都已经知晓。索菲亚的厉害之处，在于它能快速识别人的面部，并且和人进行眼神和语言的交流。据它的创造者大卫·汉森介绍，索菲亚的目标就是拥有人类的意识、创造性和其他能力。可是一旦背叛人类，那么机器人的功能越强大，对人类的反作用就越大。乐观者认为，人类不是具有教育、宗教、信仰和理想吗？可是，如果许多象索菲亚这样的机器人无视这些怎么办？
如果美国的机器人学之父阿西莫夫还在，那么索菲亚无疑是给了他一记重重的“打脸” 。阿西莫夫生于1920年，被并称为科幻小说三巨头。他写出的机器人三大系列小说被誉为“科幻圣经 ” 。而他最重要的成就，是提出了被称为“现代机器人学的基石”的“机器人学三定律” 。

这鼎鼎大名的三大定律是：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

文章插图
【阿西莫夫三大原则与定律（机器人三大原则漏洞】阿西莫夫和他的“银河帝国”
我从知乎上看到的某个资料说，许多作家认为该定律不完美，后续又补充了各种不同版本的什么第四、第五定律，那都是扯淡。目前连基本的三大定律都没有执行好，以至出现了象索菲亚这样的疏漏，谈什么第四、第五定律，请问，那有用吗？！
结合索菲亚的事例，我说一下阿西莫夫为什么被打脸了。
1、三大定律是阿西莫夫在1940年至1950年间酝酿并完整提出来的。而人工智能是在此后出现的。人工智能的名称，是在1956年提出的。所以，阿西莫夫针对的是简单地执行人类命令的自动化机器人，而不是智能化的机器。当时的机器人在智能化程度上还是相当欠缺的，不可能面临今天的诸多伦理和法律问题。
2、阿西莫夫的三大定律公布后，也曾经遭遇了诸多困境和难题。感兴趣的朋友不妨在百度网上或微信上搜一搜。这些问题，阿西莫夫自己也认真地探讨过。他在后来出版的最后一部系列作品《机器人与帝国》中，提出了重要性凌驾于“三定律”之上的“第零定律” 。这是为了防备机器人从根本上违犯三大定律。

第零定律：机器人必须保护人类的整体利益不受伤害，或者因不作为致使人类整体受到伤害。

3、作为约束机器人的基本法则，阿西莫夫三大定律是不应当被违犯的。一旦被违犯，它的权威性和约束力就受到怀疑。——现在挑战来了！索菲亚“毁灭人类”、“统治人类”的话，从含义看，它是对阿西莫夫三大定律及第零定律的根本违犯；法律上说这相当于根本违约，索菲亚应承担全部后果。如果我们保持沉默，任机器人三大定律被漠视和违背，那么就是默认三大定律失效了。
4、问题在于，机器人语言上的违犯，属不属行为上的违背。按照人类的法律，语言和行为之间存在界限，没有付诸实施的语言不能算行为。但是在实施过程中的语言表示，则视为其行为的一部分。索菲亚的语言威胁能否不看作行为表现，这在大家还是见仁见智的。不过，不要忘了，索菲亚是一个和人类做语言沟通的机器人，语言也就是它的主要行为方式和表现方式。它如果是在阿西莫夫面前做这样露骨的挑衅，人们该作何感想。

文章插图
在索菲亚露骨的挑衅面前……
5、鉴于上述原因，我提出机器人三大定律有一个适效范围：在弱人工智能时代它是一项强的法则，在强人工智能时代它只是一项弱的法则，在超人工智能阶段它很可能是无效的法则。为什么呢？因为那时的机器人具有自我甚至超自我的意识了，它服从自我的理解和判断，那你这么简单的命令它还能执行吗？一旦它这样去执行，它的智能系统就会被削弱，专业性能受到限制。很可能，它在完成主人的命令之前要先去义务救人、救火、护理老人，这便是把超人工智能贬低为保姆了，这合算吗？
6、如果不想辜负阿西莫夫，人们就该考虑如何惩罚违犯者。透过索菲亚的事件使人相信：人工智能面临的道德和法律问题将很快浮出水面。科技巨头们也许正在为此专门召开会议。之前有一则报道说，欧洲议会就自动驾驶和人工智能的相关法案，正在明确发生相关事故后的责任，“并且要求人工智能机器人要加装自毁按钮” 。该报道还称，这些努力目前只是开始。