乐文小说网

手机浏览器扫描二维码访问

第9章 大分离（第3页）

又或者，算法自己也可能成为所有人。人类法律已经能够认可公司或国家这种互为主体的实体，称之为“法人”。虽然“丰田”或“阿根廷”既没有身体也没有心灵，但都受到国际法的约束，都能拥有土地和金钱，也都可能成为法庭上的原告或被告。可能在不久之后，算法也能获得这样的地位。这样一来，某一套算法就能自己拥有一个运输帝国或是创投公司资本，而不必服从任何人类所有者的命令。

只要算法做出正确的决定，就能蓄积财富，再用来做自己认定的适当的投资，或许是把你的房子买下来，当你的房东。而如果你侵犯了这套算法的法定权利（比如不付房租），算法就会聘请律师，把你告上法庭。如果算法的收益持续超过人类基金经理，我们最后可能就得面对一个由算法组成的上层社会，地球的绝大部分都掌控在它们手上。在你觉得这实在是痴人说梦之前，请不要忘记，目前拥有绝大部分地球的正是各种非人类的互为主体实体，也就是国家和公司。事实上，早在5000年前，恩基和伊南娜这种想象中的神，就主宰着苏美尔的绝大部分地区。如果神也能拥有土地、雇用人力，为什么算法就不行？

那么，人要做什么呢？常有人说，艺术是我们最终的圣殿（而且是人类独有的）。等到计算机取代了医生、司机、教师甚至地主和房东时，会不会所有人都成为艺术家？然而，并没有理由让人相信艺术创作是片能完全不受算法影响的净土。人类是哪来的信心，认为计算机谱曲永远无法超越人类？从生命科学的角度来看，艺术并不是出自什么神灵或超自然灵魂，而是有机算法发现数学模式之后的产物。若真是如此，非有机算法就没有理由不能掌握。

戴维·柯普（DavidCope）是加州大学圣克鲁兹分校的音乐学教授，也是古典音乐界极具争议的人物。柯普写了一些计算机程序，能够谱出协奏曲、合唱曲、交响乐和歌剧。他写出的第一个程序名为EMI（ExperimentsinMusicalIntelligence，音乐智能的实验），专门模仿巴赫的风格。虽然写程序花了7年，但一经推出，EMI短短一天就谱出5000首巴赫风格的赞美诗。柯普挑出几首，安排在圣克鲁兹的一次音乐节上演出。演出激动人心，观众反应热烈，兴奋地讲着这些音乐如何触碰到他们内心最深处。观众并不知道作曲者是EMI而非巴赫，而等到真相揭开，有些人气得一语不发，也有人甚至发出怒吼。

EMI继续更新，学会了如何模仿贝多芬、肖邦、拉赫玛尼诺夫和斯特拉文斯基。柯普还为EMI签了合约，首张专辑《计算机谱曲的古典音乐》（ClassicalMusicComposedbyComputer）受到意想不到的欢迎。人红是非多，古典音乐爱好者的敌意也涌现出来。俄勒冈大学的史蒂夫·拉尔森（SteveLarson）就向柯普挑战，来一场人机音乐对决。拉尔森提议，由专业钢琴家连续弹奏三首曲目，作曲者分别是巴赫、EMI以及拉尔森本人，接着让观众投票是谁谱了哪首曲子。拉尔森坚信，一边是人类的灵魂之作，另一边是机器人的死气沉沉，观众肯定一听就能判断出。柯普接下了战书。在指定的当天，数百位讲师、学生和音乐迷齐聚俄勒冈大学的音乐厅。表演结束，进行投票。结果呢？观众认为是巴赫的其实是EMI，认为是拉尔森的其实是巴赫，而他们认为是EMI的，其实是拉尔森。

还是有人继续批评，说EMI的音乐虽然技术出众，但还是缺了些什么，一切太过准确，没有深度，没有灵魂。但只要人们在不知作曲者是谁的情况下听到EMI的作品，常常会大赞这些作品充满灵魂和情感的共鸣。

EMI成功之后，柯普又继续写出了更复杂的新程序：安妮（Annie）。EMI谱曲是根据预定的规则，而安妮则是基于机器学习，会随着外界新的音乐输入，不断变化发展音乐风格。就连柯普也不知道安妮接下来会谱出什么作品。而且事实上，安妮除了写音乐，还对其他艺术形式很感兴趣，比如俳句。2011年，柯普出版了《激情之夜：人和机器所作的俳句两千首》（ComestheFieryNight:2000HaikubyManandMachine），其中有一部分是安妮写的，其他则来自真正的诗人。但书中并未透露具体篇目的作者是谁。如果你认为自己一定可以看出人类创作与机器作品的差异，欢迎挑战。

19世纪，工业革命创造出庞大的都市无产阶级，这个新的工作阶级带来前所未见的需求、希望及恐惧，没有其他信仰能够有效响应，社会主义因而扩张。到头来，自由主义是靠着吸收了社会主义的精华，才打败了苏联和东欧社会主义。到了21世纪，我们可能看到的是一个全新而庞大的阶级：这一群人没有任何经济、政治或艺术价值，对社会的繁荣、力量和荣耀也没有任何贡献。

2013年9月，牛津大学的卡尔·弗瑞（CarlBenediktFrey）及迈克尔·奥斯本（MichaelA.Osborne）发表了《就业的未来》（TheFutureofEmployment）研究报告，调查各项工作在未来20年被计算机取代的可能性。根据他们所开发的算法估计，美国有47%的工作有很高的风险被计算机取代。例如到了2033年，电话营销人员和保险业务员大概有99%的概率会失业。运动赛事的裁判有98%的可能性，收银员97%、厨师96%、服务员94%、律师助手94%、导游91%、面包师89%、公交车司机89%、建筑工人88%、兽医助手86%、安保人员84%、船员83%、调酒师77%、档案管理员76%、木匠72%、救生员67%。当然，也有一些工作还算安全。到了2033年，计算机能够取代考古学家的可能性只有0.7%，因为这种工作需要极精密的模式识别能力，而且能够产生的利润又颇为微薄，因此很难想象会有企业或政府愿意在接下来20年间投入足够的资本，将考古学推向自动化。

当然，到了2033年也可能出现许多新职业，比如虚拟世界的设计师。然而，此类职业可能会需要比当下日常工作更强的创意和弹性，而且如果收银员或保险业务员到了40岁中年失业，能否成功转型为虚拟世界设计师，也实在难说。就算他们真的转型成功，根据社会进步的速度，很有可能再过10年又得重新转型。毕竟，算法也可能会在虚拟世界里打败人类。所以，这里不只需要创造新工作，更得创造“人类做得比算法好”的新工作。

由于我们无法预知2030年或2040年的就业形势，现在也就不知道该如何教育下一代。等到孩子长到40岁，他们在学校学的一切知识可能都已经过时。传统上，人生主要分为两大时期：学习期，再加上之后的工作期。但这种传统模式很快就会彻底过时，想要不被淘汰只有一条路：一辈子不断学习，不断打造全新的自己。只不过，许多人，甚至是大多数人，大概都做不到这一点。

由于接下来的科技发展潜力极其巨大，很有可能就算这些无用的大众什么事都不做，整个社会也有能力供养这些人，让他们活下去。然而，什么事能让他们打发时间，获得满足感？人总得做些什么，否则肯定会无聊到发疯。到时候，要怎么过完一天？答案之一可能是靠药物和电脑游戏。那些对社会来说多余的人，可以多花点时间在3D虚拟世界里；比起了无生趣的现实世界，虚拟世界能够为他们提供更多刺激，诱发更多情感投入。然而，自由主义推崇人类生命及人类体验神圣不可侵犯，这样的发展会是对这一信念的致命打击。这些人对社会毫无用处，整天活在现实与虚幻之间，这样的生命何来神圣？

尼克·伯斯特隆姆（NickBostrom）等专家和思想家就提出警告，认为人类大概还承受不住这样的退化，因为一旦人工智能超越人类智能，可能就会直接消灭人类。人工智能这么做的理由，一是可能担心人类反扑、拔掉它的插头，二是要追求某种我们现在还难以想象的目标。毕竟，等到整个人工智能系统比人类更聪明时，要再控制系统动机，实在有如天方夜谭。

就算目前看来立意全然良善的程序，也可能带来令人恐惧的后果。常见的情节就是，某家公司设计出第一套真正的人工超级智能，对它进行了一个毫无恶意的测试，比如计算π值。但就在任何人意识到之前，人工智能已经接管整个地球、消灭人类、发动攻击征服整个银河系，把整个已知宇宙转变成巨大的超级计算机，花上几万亿年的时间，只为了算出更精确的π。毕竟，这正是它的创造者交给它的神圣使命。

87%的可能性

本章开头指出几个自由主义面对的实际威胁，第一个就是人类不再具备军事和经济上的用途。当然，这并非预言，只是一种可能。不论是科技上的困难还是政治上的反对，都可能减缓算法入侵就业市场的脚步。而且，由于人类心灵还有大片未知的领域，我们还不确定人类是否有什么隐藏的才能，或是能够创造出什么新工作来填补旧工作消失造成的缺口。然而，仅是这样可能还不足以拯救自由主义。因为自由主义不仅相信人的价值，还相信“个人主义”。这就要指出自由主义面临的第二个威胁：社会系统未来可能仍然需要人类，但并不需要个人。人类还是会继续写音乐、教物理、做投资，但社会系统会比他们更了解他们自己，也会为他们做大多数重要决定。也就是说，社会系统将会剥夺个人的权威和自由。

自由主义对个人主义的信念，前提就是之前讨论的三个重要假设：

1.我是一个不可分割的个体，也就是说，我具备单一的本质，无法再分为各个部分或子系统。确实，这个内部核心可能有许多外层，但只要把这些外层剥掉，就能在内部找到一个清晰、单一的内在声音，也就是真正的自我。

2.真正的自我是完全自由的。

3.根据前两个假设，我能够了解一些别人发现不了的自己。只有我能够进入我自己内心自由的空间，只有我能听到自己真实自我的低语。正因为如此，自由主义才赋予个人极大的权威。我不该相信其他任何人为我做出选择，因为没有别人能够真正了解我是谁、我有什么感觉、我想要什么。因此，选民能做出最好的选择，顾客永远是对的，而且情人眼里永远出西施。

然而，生命科学却对这三个假设都提出挑战，认为：

1.生物就是算法，人类不是不可分割的个体，而是由可分割的部分组成。换句话说，人类是许多不同算法的组合，并没有单一的内在声音或单一的自我。

2.构成人类的算法并不“自由”，而是由基因和环境压力塑造，虽然可能依据决定论或随机做出决定，但绝不“自由”。

3.因此，外部算法理论上有可能比我更了解我自己。如果能用某个算法监测组成身体和大脑的每个子系统，就能清楚掌握我是谁、我有什么感觉、我想要什么。只要开发出这样的算法，重点就不再是选民、顾客和情人；而是算法能做出最好的选择，算法永远是对的，算法觉得美，就是美。

在19世纪和20世纪，由于没有任何外部算法能够有效监测个人，因此个人主义仍然是一种很实用的选择。虽然国家和市场可能都很想做到这一点，但当时缺少必要的科技。不论是克格勃还是美国联邦调查局都无法完全掌握我的生物特征、基因组和大脑，而且就算特工偷听我每次打的电话、监视我在街头和其他人的每次互动，也没有足够的运算能力来分析这些数据。因此就20世纪的科技而言，自由主义说得并没错，没有人能比我更了解我自己。于是，人类有充分的理由认为自己是个自主的系统，听从的是自己内在的声音，而不是什么权威的命令。

但到了21世纪，科技已经让外部算法有能力“比我更了解我自己”。一旦如此，个人主义就即将崩溃，权威也将从个人转向由算法构成的网络。人类不会再认为自己是自主的个体，不再依据自己的期望度日，而是习惯把人类整体看作一种生化机制的集合体，由电子算法网络实时监测和指挥。要发生这种情况，算法甚至不需要能够完全了解我而且绝不出错，只要比我自己更了解我、犯的错更少，就已足够。到了这个程度，合理的做法就是把越来越多的选择和人生大事都交给算法来为我做决定。

在医学领域，我们早已跨过这条线。在医院里，每位患者不再是“个人”。很有可能在我们的有生之年，就会看到许多关于身体和健康的重大决定将由计算机帮忙决定，就像IBM的“沃森”。这倒也不一定是个坏消息。目前，已有糖尿病患者安装传感器，每天几次自动检测血糖值，并在超标时发出警告。2014年，耶鲁大学研究人员宣布一种由智能手机控制的人工胰脏试验成功。有52名糖尿病患者参与该试验，每位患者都在腹部植入一个小小的传感器和小小的胰岛素泵。胰岛素泵连接装有胰岛素和升糖素的小管，用这两种激素来调节血糖高低。传感器会不断测量血糖值，将数据传至智能手机，而智能手机安装了能够分析相关信息的应用程序，能在必要时对胰岛素泵发出命令，释出胰岛素或胰高血糖素，完全不需人为操作。

[8]IdoEfrati，‘ResearchersConductedaSuccessfulExperimentwithan“ArtificialPancreas”ConnectedtoaniPhone’[inHebrew]，Haaretz，17June2014，accessed23December2014，http:.haaretz.co.ilnewshealth1.2350956.MoshePhillipetal.，‘Nocturnal.GlucoseControlwithanArti?cialPancreasataDiabetisCamp’，NewEnglandJournalofMedicine368:9（2013），824–33;‘ArtificialPancreasControlledbyiPhoneShowsPromiseinDiabetesTrial’，Today，17June2014，accessed22December2014，http:.todayonline.worldartificial-pancreas-controlled-iphone-shows-promisediabetes-trial?singlepage=true

就算是许多没有严重疾病的人，也已经开始使用可穿戴式传感器和计算机来监测自己的健康和活动状况。相关设备，比如智能手机、智能手表、智能手环、智能臂环甚至是智能内衣，记录着血压和心跳等生物计量数据。这些数据被传送到精密的计算机程序中，建议穿戴者如何调整饮食和日常生活，改善健康、延长寿命。谷歌与制药巨头诺华（Novartis）正在合作开发一种隐形眼镜，能够通过分析眼泪成分，每隔几秒检测血糖值。精灵科学（PixieScienti?c）公司则推出智能尿布，能分析婴儿的粪便，了解孩子的健康状况。2014年11月，微软也推出智能运动手环（MicrosoftBand），能够监测心跳、睡眠质量、每天行走步数等信息。一个名为“Deadline”的应用程序则更进一步，它会告诉你，根据你现在的生活习惯，你大概还可以再活几年。

[9]MarthaMendoza，‘GoogleDevelopsContactLensGlucoseMonitor’，YahooNews，17January2014，accessed12August2015，http:news.yahoo.google-develops-contact-lens-glucose-monitor-000147894.html;MarkScott，‘NovartisJoinswithGoogletoDevelopContactLensThatMonitorsBloodSugar’，NewYorkTimes，15July2014，accessed12August2015，http:.nytimes.20140716businessinternationalnovartis-joins-with-googleto-develop-contact-lens-to-monitor-blood-sugar.html?_r=0;RachelBarclay，‘GoogleScientistsCreateContactLenstoMeasureBloodSugarLevelinTears’，Healthline，23January2014，accessed12August2015，http:.healthline.health-newsdiabetes-google-develops-glucose-monitoring-contactlens-012314.

有些人用这些应用程序时并没想太多，但对某些人来说，这已经成为一种意识形态甚至是宗教。“量化自我”（Quanti?edSelf）的运动认为，所谓的自我，就是数学模型。但这些模型非常复杂，人类心智无法理解。所以，如果真想遵从德尔菲神殿的神谕“认识你自己”，就别再浪费时间研究哲学、冥想或精神分析，反而该系统性地收集自己的生物计量数据，允许算法为你分析这些数据，告诉你你是谁、该做些什么。这波运动的箴言，就是“通过数据，认识自己”。

2000年，以色列歌手施洛米·沙湾（ShlomiShavan）以一曲《亚里克》（Arik）登上当地流行排行榜首。歌曲故事的男主人公一直很纠结于女友的前男友亚里克。他想知道，他和亚里克究竟谁床上表现更佳。女友不想回答这个问题，只说各有长处。但这家伙并不满意，追问：“小姐，告诉我明确的数字。”正是为了这种人，有一家名为“Bedpost”的公司，开发了一种生物计量臂环，让你在做爱时戴着，收集心跳、排汗、性交持续时间、性高潮持续时间、消耗的卡路里等数据。这些数据会传到计算机加以分析，用精确的数字来评估你的表现如何。这下可不能再假装高潮，也不用再问“刚才爽不爽？”了。

像这样通过设备无情揭示一切真相来了解自己之后，可能就会让人开始觉得自己是许多生化系统的集合，而不是不可分割的个体；而且，这些人做的决定也越来越反映出其中各种系统需求的矛盾。假设你每周有两小时空闲，正在考虑该拿来下棋还是打网球。可能有个好友会问：“你内心的想法是什么？”但你的回答可能是：“那当然打网球更好，而且这也能更好地控制胆固醇和血压。只不过，我的功能性磁共振成像扫描说我该加强左前额皮质，毕竟我家族有这方面的病史，有个叔叔还很年轻就出现痴呆症状了。而最新研究指出，每周下一次棋，就能预防痴呆症状发生。”

到医院的老年病房，还能找到更多通过设备进行外部调节的例子。人文主义总是颂扬老年，说这时期充满智慧、洞察世情。一位理想中的长者，虽然身体可能没那么硬朗，但心智敏锐，更有可能长达80年的人生智慧可以分享，也总能为儿孙或其他访客提出恰当的建议。但到了21世纪，80岁的人可能就不是这个形象了。随着我们越来越了解人类生物学，医学虽然能让人延长寿命，但心灵和那个“真正的自我”却已经崩解溃散。最后剩下的，常常只是各种已经功能失调的生物系统集合，倚靠着各种监视器、计算机和调节泵，才得以勉强维持下去。

重生：影后夫妇疯狂撒狗粮  夫人，总裁他罪不至死  蜜宠霸爱：厉少，你失宠了  重生九零之神医商女  重生年代：胖厨娘的红火小日子  天才萌宝：爹地超宠妻  婚心动魄：我的神秘大boss  她切回满级大号了  穿越梦境  面对秋阳  市场·情场·官场  守城使  沈再云夏顾雪重生鉴宝  小农女种田忙  凰谋天下  前妻别跑：偏执慕总放肆宠  人在航海，开局艾尔沃特海战  世家三代录  盗墓笔记之尘封的记忆  神王殿