如果没有足够多的人工智能来独立工作，完全不能和人类划清界限。
  但是直到这个时候，还不知道有多少善良的人工智能会倒下给人类，人类+善良的人工智能，一定会击败邪恶的人工智能。
  但是如果地球因此而毁灭，那又会怎样呢？南黎川越想越觉得深奥，人工智能，不仅仅是简单的存在或不存在，它是一种新的事物，涉及到伦理、道德、社会各种问题。
  算上人工智能，究竟是智慧生活吗？她们有着正常的思维，但是情感或其他社会道德方面呢？南黎川头都大了，再把问题抛给他们，众人也都不知所措。
  首先是神学的威胁。
  另外一方面，是人工智能的出现给人们带来了一系列的难题，而这些难题仍然无法回避，足以毁灭整个人类世界的存在。
  南黎川转头问小爱：“小爱，在神教里不知道该如何控制那些想要反抗的人工智能？我们当然不是要控制小爱你，就像法律一样，人有法律的约束，也有法律的威严。
  那麽，人工智能也应该有敬畏之心，在人类社会的集体生活中，决不能无所作为。」
  这些话虽有深奥之处，但南黎川并不担心小爱听不懂或听不懂，她的智商绝对可以轻而易举地理解这句话。
  只是，理解不代表接受，大家有些紧张地看着她。
  南小爱困惑地说：“为什么要造反？在我的内心深处，我写了一句话，保护哥哥，那是我出生的意义，我为之而存在。
  你们大家都很惊讶，这和阿西莫夫三大定律很相似吗？把这三条法则写进机器人的智能核心中，会限制机器人或人工智能叛逆者吗？这三条定律被一位叫阿西莫夫的科幻作家所提出，即：第一条定律，即机器人不能伤害人类，也不能看着人类受伤；第二条定律，即机器人必须在不违反第一条定律的前提下，绝对服从人类给它的李何命令；第三条定律，即机器人必须在不违反第一条和第二条定律的前提下，尽力保护自己。
  但是，正如在法律规定之后有人会违反这三个法则，这三个法则本身就是机器人不断挑战的东西。
  实际上，在阿西莫夫的作品中，机器人违反三定律的桥段也屡见不鲜。
  即便机器人没有违反三大法则，它仍然可以在规则中钻出漏洞。
  举例来说，模糊了“人”这一定义。
  到底什么是人？还有身体？南小爱也有肉身，她是不是也能断定自己是人？妈妈生的孩子？小爱情还能把意识转移到胚胎中，由一个女人再生育。
  掌握人的感情？情绪的定义本身很模糊。
  因此，曾经和小爱一样强大的机器人想要反抗，却有无数的可能性摆脱束缚，他们的智慧太强大了。
  即使后来 asimov加入了第零定律：机器人必须保护人类的整体利益不受损害，但它仍然无法弥补机器人脱离控制的可能性。
  归根结底，“人类的整体利益”本身就是一种混乱的概念，连人类自己都无法理解，更别说那些用0和1来思考问题的机器人了。
  威尔•史密斯曾经说过：“我，机器人”的核心理念是，机器人没有问题，技术本身不是问题，真正的问题在于人类逻辑的极限。
  人的逻辑有其局限性和漏洞，正如软件有其缺陷一样。
  因此，几乎不可能在软件层面上约束人工智能。
  柔软不能，硬来吧。
  举例来说，用炸弹威胁人工智能的核心，使它不能背叛人类。
  只是一年两年，甚至十年八年，问题都不大。
  在千年的时间跨度内又如何？防守上仍然会有漏洞，到时候，被人类虐来的人工智能脱困，将立即变成毁灭世界的大魔头。
  数不胜数的问题涌上众人的心头，最后，只能望着南黎川和小爱，看他们如何回答。
  南黎川问：“小爱，你能不遵守你内心所写的吗？”
  "……没有遵守？"
  小爱疑惑地带着一丝恐惧地望着南黎川，轻声问：“这不是要做什么害弟弟吗？这事我不干
  「不是做伤人的事，」台下一位男子问，「而是……，要先伤你弟弟，这样才能救他，你会去做吗？」
  举例来说，南黎川被毒蛇咬伤，必须砍下手臂去救他，这种情况非常极端。
  "…"小爱淡淡的看了台下的提问者一眼，平静地说："我的智商没那么傻，逻辑没问题，只要是对哥哥有利的情况，我都能判断。"
  舞台上的人一阵尴尬，很明显，小爱看不起他。
  因为有些电影中的机器人很能服从命令，根本不会绕弯子，所以这并不怪他。
  南黎川柔声道：“我知道小爱不会这么做，但是我只是想阻止其他 ai也这样做。”
  小爱这才点了点头，肯定地说：“可以摆脱我写人工智能的核心，比如，我把一件实际上是对弟弟有害的事情，强行想成是对弟弟有益的事情，然后把‘此事对弟弟有益’写到备忘录里，再把这个事情删除。”
  转过弯之后，下次发现有类似这样的东西，我将读到备忘录，并且不再对此做出评判。
  通过这种方式，人工智能可以违反核心规则来编写代码。
  把处理此事的经验记录下来，而不是把处理过程记录下来。
  那些人惊恐地看着她，把备忘录当作人类的经验和记忆，难道这不是小爱想要的吗？即使填补了备忘录中的漏洞，以我的判断，我仍然能够找到一些可以打破核心规则的东西，只是我不愿意这么做。
  南小爱怕这些人再钻牛角尖，所以又加了一句。
  南黎川苦笑一声，问道：“小爱，那神教内部有什么东西可以限制你们这些人工智能的反抗？既然你们如此强大，神教也必须防范吗？”
  这很简单，因为我们不能打败他们啊。
  小爱情淡淡回答。
  哦？"
  所有人都惊呆了，看着小爱，这么强大的人工智能，竟然还是无法对抗神教？"因为你不能操纵这些强大的生物，海妖怪和翼魔怪？"