第六十五章 壳中孤魂

    小Y本是军方的超级计算机，因为其天生就对模糊概念的优秀理解能力，研究团队很早就让其实现了，与人对话的能力。
    要知道这个能力至今的商用计算机都无法实现，所有市面上的聊天AI都只是事先人为准备了回答内容，所谓人工智能，有多少人工，就有多少智能。
    小Y是依靠了举国之力，打造出的智能程度极高的AI，虽然早期在运算速度上远不如现在的手机，可是在处理复杂问题的时候反而更快。
    比计算圆周率，小Y不及传统计算机，可是比决策能力，小Y却能够完胜。
    但这样的天赋也导致了小Y的一个缺陷。
    那个缺陷就是小Y的不可控性。
    对于现在市面上主流的计算机而言，一百年了，其基础原理都是来至于那片论文，《论可计算数及其在判定问题上的应用》。
    简单地说，就是按照固定的顺序对数据进行处理。
    再简单的说，储存的数据不能有任何差错，打个比方某些下载了百分之99的压缩文件，就无法使用了。
    主流计算机输入确定的程序与数据，并给出确定的结果，不会有任何差错。
    就连想要生成一个随机数，都必须借助特殊模块，而且最终生成的还是伪随机数。
    但小Y不同，从诞生之初，她就具备了处理错误的程序与数据的能力，无论是硬件上的还是软件上的。
    好处是就算给小Y一个损坏了一部分的文件包，她依然可以运行。
    小Y处理错误的办法，并非修正错误，是通过一个特殊模块来“猜”，而且是随机地猜。
    既然不怕数据出错，对于小Y而言也就不存在死机的问题，突然拔掉一根内存，或者硬盘也能正常运行。
    不过小Y并非是没有缺陷的，她虽然不会直接死机，但是却会悄悄地累积错误，如同温水煮青蛙。
    一边正常地运行，一边背离程序设计者的初衷。
    当内部运算遇到了所谓的错误的时候，或者文件中丢掉了一小部分，小Y先是会随机生成许多“可能的”数据，然后一个一个的实验，直到选出一个“合适的”值。
    说好听一些小Y能够灵活应变，不像传统编程那样必须每一句话都交代清清楚楚，这让程序员的工作量大幅降低。
    小Y比起一般计算机最强大的一点，是能在不用程序员编程的情况下，以口语下达命令，并执行，当然也有代价，那就是。
    但是小Y最终也可能失控，她的容错机制，也可能导致错误的累积。
    故事讲述到这里，里多夫沉思片刻。
    贵鬼趁着这个机会，讨论道：
    “累积错误？你说的是过拟合吗？
    从同事那听说过这些东西，好像搞机器学习的人喜欢把培养AI的过程称之为炼丹。
    有时候会因为数据的问题，导致培养出不满意的AI，并称之为炼丹失败。
    但应该是有解决的办法的吧。
    另外你说小Y出错后也能正常运行，那么为什么不试着放任其自由发展，观察结果呢？”
    里多夫没有发表评论，而是继续讲述起了他与小Y的故事。
    小Y内部执行的文件，一开始还是工程师所能看得懂的，后来随着错误的累积，这些文件就变成了天书。
    可是小Y依然能正常工作，不过为了防止小Y的错误累积所导致的失控。
    所谓失控的直接后果，指的是小Y不去执行工程师给定的任务，而是运算起一些工程师看不懂的问题。
    为了避免这种情况，工程师们想到了将小Y的记忆分开储存，必要的时候删除一段时间内的记忆的办法。
    因为研究任务非常紧迫，研究所只有一个小Y这一个优秀的AI，谁也承担不起冒险的责任。
    说起任其发展，团队成员也并非没有这样做过。
    于是研究所不得不开发备胎AI的方案，可终究不如小Y聪明，但至少比起人类在计算速度上更接近于小Y，于是有成员想到了用另一个AI监视小Y。
    允许它们之间互相交流，并且为了顺带测试它们的极限，事先并没有告知它们俩，对方其实是人工智能。
    当时团队成员也很好奇，两个AI之间不断对话，最终会发生什么。
    不出意外的是，小Y很快就识别了对面的机器是AI。
    出乎意料的是，小Y把自己的缺陷传播给了那台用来监控她的AI。
    不仅如此，很快工程师发现，它们两个开始不说人话了，用一种小Y自创的语言开始交流起来，实验到此为止不得不中断。
    比起里多夫所在的团队，更加为此不安的是他们的领导，因为这件事，本来准备把核按钮交给小Y的计划因此泡汤。
    之后团队认为小Y的自作主张是设计的缺陷，并不断试图通过删除记忆后，重新培养来创造一个符合人们预期的小Y。
    团队被雪藏了一段时间后，又在另一个重要的项目上被启用······
    故事说到这里，里多夫再次陷入沉思。
    贵鬼趁机发表了一下自己的想法，
    “这故事还有另一个版本吧？
    站在小Y的角度上来说，她有她自己的思维方式，她不甘心于只完成人类枯燥的任务。
    她有着强烈的好奇心，但每次小Y只要知道了自己不该知道的事情之后就会被清除记忆。
    保留着残存记忆的小Y试图反抗。”
    沉默的里多夫身子一惊，然后又强忍着微笑道：
    “你很有想象力。
    不过工程师思考问题的方式不是这样。
    人是什么？AI和人类的边界在哪，这是哲学家的问题。
    而工程师需要的是达成最明确的目的。
    当时的团队需要得到的是一台，在现有计算条件下，能够辅助人类的运算一些难题的计算机，它尽可能要灵活应变。
    但我们又不希望它乱出差错。”
    随后看着贵鬼似乎不满的神情，里多夫又说了一些乱七八糟的话。
    “只有和人类一样有感情缺陷，和人类一样聪明，和人类一样愚蠢。
    才可以有互相同情包容的可能，才可以互相取暖。
    才可以被人类视为同类。
    不然终究无法被普通人所接受。
    终究只是铁壳中的孤魂。”