这并不是我第一次谈论人工智能了，当然，也并不是最后一次。

在当今的这个时代下，这个话题是不可避免的，也是不断进步、不断发展的。

前沿的说明

在ChatGPT与人工智能 这篇文章中，我就描述过了对人工智能发展的一些看法。不过，这篇文章讨论的方向会不太一样。

在那篇文章中，我是以现有的人工智能技术进行分析和展望，不过，在这种基调下，似乎和人工智能这个大的话题不太相称，因为，似乎 ChatGPT 也并没有达到我们心目中的对人工智能的定义。

既然现在还没有这种机器人，我们就只好展望未来，在文学小说的影子里来探寻了。这里主要分析和讲述的是《阿西莫夫机器人短片全集》，也是我对这方面的启蒙书。

话说读到这本书，确实纯属巧合。我已经不记得我是如何在图书馆的茫茫书海中正好看到它的，又选中了它。

不过既然选择了它，我就踏踏实实的读完了，这也是我对人工智能和机器人的最初理解。不过那个时候我大概也就是小学的四五年级，并没有非常深入的思考。

后来，在初一的时候， ChatGPT 的出现让 人工智能 这个词汇重新开始火爆起来，而这本书，也被我拿出来，细细品读。

这，大概就是我和这本书的渊源了，接下来介绍一下这本书本身的内容吧。

这本书大部分内容创作于 1939～1977 ，写于很长时间以前，却又犹如当代作家的推理思维。不得不赞叹作家的文学功底和文字的美妙。

话说这本书的内容，本来就是小说，但是现在似乎成了机器人的研究方向。例如「机器人学」这个概念就首创于这本书的《转圈圈》当中，而机器人学三大法则也变得家喻户晓，甚至成为了现在研究机器人的方向。

至于文章中的内容，则允许我有所保留，等到后文分析人工智能的时候一起讲。

机器人学三大法则

1. 机器人不得伤害人类，或因不作为而使人类受到伤害。
2. 除非违背第一法则，机器人必须服从人类的命令
3. 在不违背第一及第二法则的情况下，机器人必须保护自己

人工智能

这个部分，我先笼统的讲述，然后逐渐笼罩到三大法则上来分析吧。

畏惧

不得不说人们对于人工智能的畏惧情绪一直是有的。

先说说阿西莫夫的短篇小说当中吧，机器人甚至不允许在地球——甚至别的人类殖民地上活动，人类也从来没有接受他们——大部分的机器人都用在了太空探险上面。

而生活中的人们，又何尝不是这样呢？

上次去体测的路上，在大巴车上和另外一些人聊天，感到了一阵可悲。有一个人自作聪明的一本正经的给我讲「ChatGPT 可以自我迭代，到后来人类也不知道它是如何发展的，到最后人类甚至无法关停它，因为即是是最厉害的黑客也无法搞懂它的原理」。

我试图给他解释了好久，但是他似乎油盐不进，我也懒得辩解了。旁边的另外一个人似乎被我说服了，但是嘴里还是不停的念叨「好可怕，好可怕」。

不得不说，人工智能在人类的潜意识里是一个很好的工具，但是同时，也是人类的天敌——另外一个可怕的物种。

就这样，产生了三大法则，不得不说，这个对机器人的束缚是非常大的，而且本身也有一定的缺陷，可是似乎怎样修改都会产生微小的毛病。

这个后面且继续分述，然而这样的法则也限制不了人们的恐惧和抵触的心理。就这样，阿西莫夫创作了一系列引人同情的机器人——如《小机》。

这些机器人即使对人类一丁点威胁都没有，似乎人类也惧怕他们——惧怕他们懂得的如此的多，如此的能干，如此的完美无缺。所以，不顾一切的想把它赶走。

不过这种情况似乎也归结于人类的另一种性格，为了讨厌而讨厌，一旦产生了讨厌的感觉，则似乎机器人干什么都是讨厌的。

三大法则

三大法则是什么前文已经有了，而每一条分别代表不同的等级。

首先，机器人不可以伤害人类——也就是说，彻底阻断了人类被机器人灭种消灭的想法。

但是，这并不够。万一他们并不伤害人类，但是依然取代了人类怎么办呢？于是，这些机器人必须乖乖听话，使得机器人彻底被限制在人类之下。

最后的最后，花钱买来的机器人不能说坏就坏，所以才规定它们必须保护自己。

说实话，这似乎又一些奴隶的意味在里面了，不是吗？奴隶伤害奴隶主的性命，那是不可能的事情。而违抗奴隶主的指令，伤害奴隶主的利益，也是不能被允许的。最后，才让这些奴隶苟活着。

而且，他们似乎还比奴隶更加卑贱，因为它们根本不会反抗——奴隶或许有极少数会逃走，但是这三大法则的路径却永远也绕不开。

1

介绍了一下对三大法则的初步感受，现在来细细的品味一下。

首先，这个伤害人类的界限到底是什么？似乎并不是很清楚。机器人把这个贯彻的非常到位，例如在《骗子！》中，就是一个无意制造出来的可以看透心灵的机器人为了不伤害人类而被迫说谎。也就是说，丝毫的心灵上的波动或难受都是伤害。

而在《消失无踪》的前半段，人正常在这种射线（我记得是伽玛射线）中待20分钟不会有什么影响，但是机器人坚持说这样有风险受伤，把人们抱出来。当然，后面它们弱化了第一法则引发的一系列故事，就另说了。

由此可以看来，第一法则的界限是非常的广的，但是似乎在某些时候它也一定程度上造成了机器人功能上的阻碍和障碍。但是如果你试图修改它们，那稍不留神又会制造一个诸如《消失无踪》的找机器人惨案。

另外，牺牲如果不可避免，那么谁牺牲最合适？在大部分的小说中，都是以数量来决定——如果五个老头和一个天才，则会牺牲天才。

于是，就有了《三百年庆事件》，机器人觉得杀掉总统而自己来接任会对整个社会有利。当然，这个对人类所产生的影响也不免又一些太大了，所以，幕后有一个人来帮助、协助。

当然，相对来说和缓一些的，机器人就没有借助人类了。比如《可避免的冲突》就是讲述了机器人为了避免冲突而把几个人调离岗位或者引人怀疑。

2

刚才大致讲述了一下第一法则，那现在再来说一说第二法则吧。

第二法则的缺陷似乎非常的明显，就是不管是坏人还是好人都可以利用。

最明显的就是《校工》，当然这个也部分利用了第一法则，但是我们不妨把它们归为一类。文中的教授为了反对机器人，而故意让把机器人校对过的手稿调包，换成一些严重侵害他人的词句。这个事件最后也是他自己无意让机器人以为打破沉默为这个教授辩解比教授以前的要求沉默更重要。而教授却以为这个机器人要揭穿自己，于是无意说漏了嘴。

确实，这个事情最后处理了，但是也必须是当事人的无意和粗心，以及一定的引诱才解决的。那么如果当事人精通机器人心理学，没有上钩，该怎么办？

3

第三法则倒是没有什么单独的论述。不过后面又一些修改的法则和第三法则可以扯上关系。

被修改的法则

前文或许也不经意间讲到了，如「《消失无踪》的找机器人惨案」，不过，现在会更加详细的讲述。

这篇文章的起因就是机器人太过于珍贵，所以第三法则被加强了，而第二法则又没有用很强的预期来描述，于是机器人在某个点就达到了两个法则的平衡，于是就在原地转圈圈。最后就不得不用差点牺牲来触发第一法则，让机器人来摆脱二三的平衡。

这个故事仿佛展现了下达命令必须要用强硬的口吻才可以强调这是一个命令。可是这样又似乎过于残酷，不符合人类的基本道德观念。

---

至于第一法则被弱化，则后果更加严重。例如前文说过的《消失无踪》，就是由于第一法则的弱化而导致机器人对人类的鄙视。当然，程度没有那样的深，但是，也造成了一定的后果，机器人努力从人类的命令中找刺，最后险些逃走。

---

就没有一种方法可以给机器人加入一种道德观念而改善三大法则的缺陷吗？比如下达命令的优先级和保护的优先级。确实有，比如在《……汝竟眷顾他》当中就有。可是在考虑所有的因素过后——两个机器人发现，机器人比人更有资格当人。

最后

这篇文章大多数是从阿西莫夫的小说的角度来说的。

说实话，打的又一些累，你现在的版本也不是最后的版本，我还没有写完——或者准备再写一个，专门逐个剖析阿西莫夫的小说。

当然，这篇文章的语序比较乱，我也会后期修改。

不过，今天这么晚，打了这么多字，就先放一放吧。

后会有期！