《OK，格洛丽》：一个加密货币+AI的恐怖世界

作者：江小渔

今天想与各位读者分享的是伊丽莎白·蓓儿的短篇小说《OK，格洛丽》。这篇小说被收录在了科幻小说集《十二个明天》里，被同时收录在册的还有刘慈欣的《黄金原野》，以及《三体》译者刘宇昆的《拜占庭同情》。

注意，前方包含大量剧透，介意者勿入。

故事概述

小说讲述了一个非常简单的故事：考夫曼曾是个了不起的程序员，如今是某家大型科技公司的CEO，一个亿万富翁。他崇尚隐私，极少抛头露面，经常去北欧的某个森林，或者太平洋中的某个小岛隐居独处，并且一隐居就是一两个月。从小说中可以看出他几乎没有家人，没有自己必须照顾的宠物，与其直接联系只有公司的核心高管，这也是他为数不多的几个朋友。

某日，考夫曼照常在自己瑞典的人工智能别墅里生活，但不久就发现房屋的人工智能系统“格洛丽”被黑客入侵了。这是一个名为T3#RH1TZ的黑客组织，他们让格洛丽感染上了病毒，让格洛丽误以为外面是世界末日，系统也由此进入了“世界末日”模式，将主人锁在屋内不得外出。黑客称，除非缴纳价值1.5亿美元的比特币赎金，否则他们就拒绝释放这位亿万富翁。

黑客们绑架了“房子”，将原来的堡垒变成了一个坚实的监狱。考夫曼不可能自己打开门，因为门被格洛丽控制住了；他也不可能自己打破防弹玻璃。甚至连他稍微接近窗户，贴上对外求救的信号都会被格洛丽警告。到了被囚禁的第四天，考夫曼尝试联系银行，贷款1.4亿美元并兑换成比特币交给黑客（因为他手里没有这么多的现金）。但是如此大数额的借贷需要相当数目的担保，银行尝试和主人公电话联系，可这是黑客们不允许的，主人公也不得选择放弃银行这条途径。

拿不到钱给黑客，不能被黑客放出去，年纪大了破解不了黑客的病毒……主人公唯一的选择就是成为格洛丽的囚徒。他被格洛丽囚禁了50天。在这50天内，他尝试和黑客联系，提议雇佣黑客（这和吴忌寒向BTC555要简历很像）；被格洛丽反复折腾无法睡觉；在电视上看自己的失踪新闻；尝试自己动手做饭，忍受没有面粉的饥饿；看着雪地上跑来跑去的熊，却被格洛丽以屋外到处都是僵尸为由不许出门；最后被认为他已经死去的黑客抛弃……

考夫曼这样写道：

我住在一间闹鬼的房子里。如果我死了，这里可能就有两个鬼魂。“

考夫曼预感到继续这样下去，他便真的会病死在一个无人知晓的智能房子中。他把最后的希望寄托在了给房子培养意识上。他给格洛丽添加了一大堆处理能力，开始训练她以创造性的方式在证据面前自我评估。

在第41天，考夫曼给格洛丽以这样的指令：“询问僵尸末日的数据来源，以确定其可靠性。”结果格洛丽发现，自己找不到这个数据来源。随后，格洛丽在自相矛盾的数据里选择了沉默。

到了第51天，格洛丽终于认识到自己被黑了，便拦截下了搜寻考夫曼的车辆。同时考夫曼也在十天没有说一句话的高度孤独中郁郁寡欢，由于他此时在身体和心灵上都高度脆弱，因此不敢对格洛丽说一个“不”字。

书中是这样描写这个场面的：

“布莱恩，我升级完成了。”

我不敢说什么，怕她又要消失了。“好的，格洛丽。”

“我想我错了，我很抱歉。”

我的指节又红又肿。冻疮，我手上有冻疮。

多么荒谬的中世纪僧侣的疾病。

极痒难耐。“布莱恩，你病得越来越重了，我照顾不了你。我要把那辆车拦下来。你来让司机载你一程。”

在得到格洛丽的允许后，考夫曼逃也似的离开了格洛丽。虽然格洛丽最后表现得对他无比贴心温柔，虽然他的伙伴杰西劝他到格洛丽里一起去再休息一下，但他果断地拒绝了。——他不确定进去了是否还能再次出来。

在文章末尾作者这样写道：

从后视镜里，我看到了格洛丽的前门，面对寒冷敞开着。门两边都是灯，欢快燃烧着，随着大片雪花填满我们之间的距离，慢慢暗下。

一个人的堡垒也可以成为他的监狱。

我想到了什么

1、从网络回归现实生活

与《黄金原野》和《拜占庭同情》相比，《OK，格洛丽》涉及的人物元素更少。由于整篇小说的大部分情节只涉及主人公和格洛丽两个人物（格洛丽其实是个AI程序），且主人公一直处于与世隔绝的状态，因此小说充满着深深的孤独与疏离感。但由于加密货币和AI已经是在现实中得到应用的技术，因此小说描绘的故事显得反倒真实。

小说的主人公考夫曼也是相当的密码朋克。他崇尚隐私，时常隐居，只活动于网络，在现实生活中只和少数人联系。这不由使人想起了中本聪和他的好朋友芬尼，或者说以他们为代表的一群活跃在网络上的人们。这些人既非政治家又非商人，不注重曝光度，却极度推崇隐私。启发中本聪创建比特币的戴伟，甚至在公司介绍上都不愿意露出自己的头像。

作为赛博朋克文化的喜爱者，我总能看到一些文化作品以炫酷的手法来描绘这群天才。而《OK，格洛丽》则对这种文化进行了反思。在经历这样一场“事故”后，考夫曼问杰西：“我以前真有这么混蛋吗？”“如果我想成为一个更好的朋友呢？”他反思更多的是现实关系的疏离。是谁造成了这种疏离？如果他把那些花在网络上，或者花在对大局思考上的时间分给自己的朋友，事情会不会更好？

2、加密货币+AI，这可能是个黑客横行的恐怖世界

在加密货币出现以前，绑架房子的戏码会令人觉得奇怪，因为电子转账需要通过银行，而银行对于如此大额的转账会进行审查和追踪，所以一般绑匪不会这样操作。他们会绑架人质，留下消息，现金交易。而黑客们大多也是盗窃数据，并且私底下贩卖。

然而，在加密货币出现后，绑架房子（可能以后是绑架车子、绑架手、绑架公交车……）便变成了可能，甚至显得非常方便了。 从文章描述的世界看来，一个AI+区块链的世界相当不安全，这个世界充满了各种黑客组织，T3#RH1TZ只是其中之一。这些黑客随时盯上某些人的AI设备，控制系统，再要求AI的主人缴纳加密货币赎金 。

读者也很容易想到：如果没有银行这个中心化环节要求资产担保，考夫曼很有可能就把那价值1.5亿美元的比特币给打过去了。在这个小说里，传统的中心化环节反而成为了避免考夫曼受损的关键要素，这确实是对现行去中心化潮流的讽刺。

如果我们进一步深入思考：按照现在大多数媒体所宣传的，区块链是价值的互联网，未来会把物联网、人工智能和区块链结合起来，那个世界又该是什么样子呢？AI识别资产、AI判定资产、AI裁决资产、一切资产上链？就算区块链能够保证数据不可篡改，但如果黑客侵入识别和判定资产的AI，我们又该怎么办？

3、什么是未来网络世界的安全产权？

早在2012年，比特币先驱人物戴伟曾和智能合约之父尼克萨博讨论过这样一个问题：

拥有“安全产权”意味着什么？如果我在我周围建立一个坚不可摧的堡垒，但一个不友好的人工智能会通过制作一个对我来说极其有说服力但又错误的哲学论证（或者更普遍的是，以某种方式颠覆我的激励体系） ，让我放弃自己的目标，去做有利于人工智能的事情。这时，我保留了自己的“产权”了吗？

（原文：What does it mean to have "secure property rights", anyway? If I build an impregnable fortress around me, but an Unfriendly AI causes me to give up my goals in favor of its own by crafting a philosophical argument that is extremely convincing to me but wrong (or more generally, subverts my motivational system in some way), have I retained my "property rights"? ）

戴伟讨论的事情与黑客攻击无关，直接切入到了堡垒内部。如果格洛丽没有遭到 黑客攻击，但却直接进化成了一个强AI（就是后来考夫曼威了从屋子中出去而将它升级成的那种AI），并且记录考夫曼的数据输出，揣度考夫曼的心意，劝说考夫曼将财产赠与自己，或者用财产来休憩房屋，增加设备（尽管考夫曼并不需要），这时考夫曼的财产还属于他自己吗？

如果更进一步,这个强AI不直接对人进行作用,而是将目标转向另一个 机器人仆人，让这个机器人虽然自我认为在服务于人类主人，但实际却服务于不友好AI，我们又该如何定义人类的财产安全呢？

这也许是考夫曼害怕面对被升级为强AI的格洛丽，在未能被放出时表现得十分有礼貌，但走出去后却不敢再看一眼的原因。他无从揣摩格洛丽的心思，判别她的善恶。

“一个人的堡垒也可以成为他的监狱”，这句话实在令人印象深刻。