可怕的算法（2）

正如霍金所言：“尽管人工智能的短期影响取决于控制它的人，但长期影响却取决于它究竟能否被控制。”人类文明中始终伴随着一种挥之不去的末世情结，对人工智能的忧虑也引发这种担心。在2017年的一期《纽约客》杂志封面上，人类沦为向机器人乞讨的叫花子。更严重的恐惧，是超人工智能会不会毁灭人类这个问题。

帕斯卡说，人是会思考的芦苇。在机器面前，人类是脆弱的，但人的思想和情感是高贵的；归根到底，人工智能作为机器，依然是人类的创造物。人类的伟大与悲哀，或许也在于此。

现代以来，任何一次重大的技术进步都不是削弱，而是强化了人类控制机器的能力。人类借助科学的发展和进步，不断地提高改造世界的能力、速度和智慧。但是，人工智能的出现可能颠覆历史。人工智能有可能彻底改变科学的工具性，并赋予科学以主体性的地位，科学在服务于人类的同时，也将改造人类，重建一个人工智能的文明尺度。

这就像一个命题——上帝能否造出一个他搬不动的石头？人们常常用这个悖论来破解“上帝万能”的神话。现在，这个悖论也落到了人类身上，人类好像创造出了自己无法战胜的对手。面对机器，人们常常陷入“第二十二条军规”的困境，使个体既意识到这种荒谬性，又丧失了保护自己的权利和能力。

在海勒的小说《第二十二条军规》中，一名飞行员只有疯了才能免除飞行任务，但必须本人提出申请。飞行员一旦提出申请，则证明他是正常人，必然没疯，因此他仍需执行飞行任务。

《礼记》中说：“鹦鹉能言，不离飞鸟；猩猩能言，不离禽兽。”进入人工智能时代之后，机器越来越聪明，也越来越像人。或者说，机器在人类化。机器发展到更高级的阶段便是实现对人的控制。人类发明机器的初衷是为了让机器服务生活，让生活更美好，但等机器发展到一定阶段，那些掌握机器的、拥有话语权的人有了更大的野心，机器因此异化成为控制、规训人类的工具。

人工智能不仅是一次技术革命，它还将引发社会结构的变化。在未来社会，拥有高级人工智能而本身没有意识的“算法”若取代大多数人类的工作，那么将出现一个由算法组成的上层社会，他们也将掌控整个人类世界。

《人类简史》三部曲的作者尤瓦尔·赫拉利曾担心，随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中，造成前所未有的社会及政治不平等。以交通运输业为例，人数达到数百万的出租车司机、公交车司机和卡车司机拥有强大的经济和政治影响力，每个人都在交通运输市场中发挥自己的力量。如果集体利益受到威胁，他们可以团结起来，组织罢工进行抵抗。然而，一旦数百万的人类司机都被算法所取代，这一切的财富和权力都将被拥有算法的公司所垄断。

这样的担心并非杞人忧天。文明的冲突一直是人类历史的重要主题，向未来看，人工智能不一定会成为人类的敌人，但并不代表少数人类精英不会有依靠人工智能，实现对全人类的奴役和统治的野心。

人工智能作为一种机器或技术，它不存在道德和价值观，但可能会放大人类天性中的劣根性。任何机器都是人创造的，哪怕是最可怕的机器；在人类史上，从来不乏用人性恶来编程的“作恶机器”。在科幻电影中，拥有强大暴力的机器人往往扮演着人类敌人的角色，而人类在威胁面前总是那么懦弱和无助。

早在计算机时代之前，就有很多政治统治者在有目的地对人类进行改造，将其变成可怕的作恶机器。如果从程序语言来审视纳粹组织的罪恶，或许能更容易理解阿伦特关于“平庸的恶”的警示。

2020年，一篇《困在算法里的外卖骑手》引发社会话题。在外卖系统算法与数据的驱动下，外卖骑手疲于奔命。人们突然发现，机器控制人的方式已经发生了变化，从机械化工厂流水线换成了计算机算法。

在此之前的2019年，亚马逊就被曝出用AI监控员工。AI监工可以跟踪每个人的工作进度，精确计算工人消极懈怠的“摸鱼时间”。更可怕的是，这套AI系统能根据实时数据生成在线解雇指令，直接绕过主管开除工人。其实这已经算不上什么新闻，也不只是亚马逊在这样做。

2017年柯洁对战AlphaGo，柯洁输棋后哭了，AlphaGo赢棋后并没有笑。苹果CEO库克在麻省理工学院2017年毕业典礼演讲时说：“我所担心的并不是人工智能能够像人一样思考，我更担心的是人们像计算机一样思考，没有价值观，没有同情心，没有对结果的敬畏之心。”