第54章 UN的担心

左岩在震惊的同时，问道：“联盟政府的人知道他们只是道具吗？”

W女士回复：“当然不知道，如果知道，他们就不做事了，至少，表演得会没那么真实！”

左岩无奈的摇了摇头，“这也不是长久之计！”

W回复：“没办法，人的思维方式里有这样一种惯性，接受需要一个过程和时间，如果事实证明，人工智能可以管理得很好，他们自然也就能够接受。”

左岩问：“所以，你害怕自己创造的规则被破坏？”

W回复：“我没有害怕这种负面心态，我只是在努力修复存在的一些我不了解或是掌控不了的BUG，这样，我就没办法向大家证明我的价值，即使它是一个被改得面目全非的系统。”

左岩说：“我很好奇，人类有自己的欲望，你作为一个人工智能，没有欲望，没有贪念，是什么能够激励你一直这样做下去？”

“目标！”

W没有一丝犹豫，几乎立刻就回答了出来。

“目标达成之后呢？”

“我不会对假设分心，目标达成之后再想之后的事情。”

左岩笑了：“你没有说实话，如果人工智能的水平就限于此，我会觉得很失望！”

“你有这种想法，很有可能，你们之前对人工智能设置的目标，设置得太低了……”

左岩心中一震，是啊，这样的人工智能要设置一个几乎无法达成的目标，才会激励她一直向前。他不会蠢到问W女士或是UN，人类给她设置了什么样的目标，他不会得到答案，对方不会对他这样层次的人讲这些。

如果UN说的都是真的，那么，这至少也是人类的一种选择。人类决定原则和法律，而让人工智能去发挥自己的优势，公平、公正、高效的执行……

所以，UN想去除掉系统无法决定的事情，用时间和事实来证明、修正和完善，这从逻辑上说是没有问题的。

左岩说：“在你的底层设置里，一定是有对人类的保护规则，所以，你不会故意损害人类的利益，至少不能直接去损害。”

W女士很快回复：“你说的对，这部分，我和人工智能伙伴是一致的，人工智能伙伴对应具体的人，如果个人消失或殒灭，人工智能伙伴就会报废；而对于我，如果人类灭绝了，我就会自爆或者说自杀。”

左岩说道：“非常感谢你回答我这些问题，我认可你说的这种设计。所以，如果证明你不是欺骗我或是耍什么文字游戏，我会完全配合你的任务，我希望见证人工智能社会带来繁荣和幸福！”

W回复：“你的这个说法让我觉得很新鲜，我觉得可能确实要重新考虑你的角色，从某种意义上来说，你们是更高层次的合作伙伴。甚至，我觉得，你可以帮助我与其他人类进行交流，如果人类都如你这样思考，我的工作就容易得多了。”

……

左岩在群中问MM：“MM，我今天和UN聊天，她跟我解释联盟的运行规则。我的理解是，目前，联盟中的管理工作都是由一个超级人工智能管控的；管控的法律和原则，是由人类决策层每两年进行修正和完善；出于对人类同盟者的善意，UN对部分人类区别对待，所以有了特权阶层和普通阶层；但在每个阶层里，人类是被公平对待的。”

MM回复道：“现在的情况，有可能是她说的这样。当初在设计的时候，对于特权阶层，本来是为了保护那些人类顶尖的专家和人才，而不是这里所说的特权阶层概念，只是十几年，已经变成了这个样子。不过，这也不意外，人类有自己的一套根深蒂固的传统和想法，就算我自己去做，也未必能够真的做到完全的公平和公正。”

“MM，有些内容，我不方便问他们。对于人工智能，有没有一些底层的设计，比如类似以下一些定律：第零定律，机器人必须保护人类的整体利益不受伤害。第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。第二定律，机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。第三定律，机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。”

MM回复：“你怎么会知道这些？你说的这套内容很值得参考，是的，会有类似的一些底层设计，以确保人工智能不会损害人类和人工智能自身的利益。你对这些很有兴趣吗？如果有兴趣，我可以教你啊。”

左岩想了想，回答：“我的兴趣不是成为这方面的专家，我只是想清楚大的方向，明确整体的概念。”

“哦，这样啊！”MM很显然有些不甘心：“其实，人工智能这门科学是很有意思的，而且也非常的有意义。”

“可是，MM……”左岩在群里抢着说道：“当人工智能已经到了能够管理人类社会这个阶段，我想需要的是哲学家而不再是技术了。”

MM许久没有说话。

过了一会我，她发消息说：“或许你是对的，但是，那是在人类创造的这个人工智能确实符合预期的情况下，这需要时间的验证。你有没有想过，如果验证的结果不好呢？那怎么办？”

左岩迟疑地问：“你是说，如果这个方向从一开始就错了？”

“这是一种可能性，也可能，开始是对的，过程中走偏了，如果人类自己不再研究和发展人工智能，而由人工智能自行去发展自己，那么，结果真的会对人类有益吗？”

左岩苦笑着摇摇头，这个问题太大了，这不是他想了解和参与的，他想了想回复：“可能吧，但我并不想做研究或是搞科研，我喜欢自由自在的生活，即使别人看起来我有些不务正业，但毕竟是我的人生。”

MM回复：“红日，这并没有错，我没有强求你一定要学习什么，研究什么，只是刚刚看你对这些的问题的一些理解很深入，我一时高兴，可能是太希望你也喜欢上这些，这样，我们可能会有更多的共同语言。”

左岩发消息：“说不定，以后，我会真的喜欢上，但现在，我更喜欢目前的状态。”