2031年12月1日,周一。林浩从斯坦福硕士毕业回国后,加入永恒智能过去了近半年,由他主导开发的“萤火虫”人工智能模型1.0版已经接近完工。上周,永恒智能以“萤火虫”模型为基础成功地赢得了华瑞银行的人工智能系统项目的招标。今天,是正式签约并对外官方发布合作消息的日子。
这天,宋志明破天荒地早早地来到了“纯真卫士”中国分部的办公室。
作为纯真卫士中国分部的创始人之一,宋志明曾是硅谷一家顶尖人工智能公司的高级工程师。然而,在一次关于无人驾驶汽车决策系统的模拟测试中,当系统面临一个复杂的道德选择时,令人震惊地,它做出了最大程度上导致人员伤害的决策。进一步调查后,他发现这种问题并非孤例,人们很难预测和控制人工智能的行为结果。他相信,随着技术进一步的发展,人工智能很可能产生故意伤害人类的行为,这将对个人和社会带来灾难性影响。此后,他辞去高级工程师的工作,加入了全球性的反人工智能组织——“guardians of purity”。并在回国后,与一群志同道合的伙伴共同成立了该组织的中国分部,命名为“纯真卫士”。他们认为人工智能技术的日益发展,导致人类失去了自我、失去真实感知世界的能力,从而丧失最原始的“纯真”。而他们,则赋予了自己守护人类纯真的使命。
纯真卫士中国分部的办公室,设立在上海郊区的一栋不起眼的独栋别墅中。从外部看,它与周边其他几栋别墅没有任何区别。只有走进里面,才能看到一行中等大小的行楷字:“守护我们即将失去的纯真!”。他们的行事风格极为低调,主要活跃在暗网,通过各种手段来抹黑、攻击使用或者开发人工智能技术的产品和相关企业。而大多数公众并不知道有这样一个组织的存在。
宋志明静坐在他的工作台前,电脑屏幕上显现着华瑞银行的官方公告页面。他用鼠标点开了最新的新闻链接。
“华瑞银行今日宣布,鉴于永恒智能开发的‘萤火虫’人工智能模型表现出色,双方已正式签约,合作开发一款为华瑞银行业务定制的先进人工智能系统。该合作将标志着人工智能技术全面进入银行业。”
宋志明深吸了一口气,眉头不由自主地皱了起来。就在这一刻,办公室的门轻轻敲响了两下,王云飞缓步推门而入。
“早,志明。”王云飞打了个招呼,随后坐了下来。
宋志明看了他一眼,然后说:“云飞,你看到华瑞银行的新闻了吗?”
“看到了。”王云飞回应后继续说道:“从技术层面来看,这个‘萤火虫’模型肯定有其突破性的地方。不然,华瑞银行不会如此迅速地做出决定。另外,我了解到这个模型的主导开发者叫林浩,今年刚从斯坦福硕士毕业。这样算起来,还是我的学弟。”
“是吗?我们共事这么多年,你似乎从没提过他。”宋志明好奇地问。
“我比他大四届,他在斯坦福念了两年硕士,今年六月刚拿到学位。所以,我和他并没有交集。不过我听一些校友提到过,他的毕业设计是一个基于某种独创算法的人工智能模型,运行的硬件门槛相对较低。”
宋志明皱了皱眉,沉思片刻后说:“我们必须阻止人工智能技术渗透进银行和金融业,一旦银行业开始依赖人工智能系统,我们可能会面临无法逆转的风险。”宋志明深感担忧,他认为在现代社会复杂的金融交易和决策过程中,人工智能的一个缺陷或道德失误很可能导致大规模的经济崩溃,进一步引发社会不稳定和混乱。他接着说:“永恒智能虽然是个初创公司,但考虑到华瑞银行如此迅速地与他们签约,以及你对这个林浩的描述,显然形势十分紧迫。我们需要尽快采取行动来遏制永恒智能的影响力。”
“确实如此,你有具体计划吗?赵涛刚通知我,华瑞银行和永恒智能的合同里,项目交付日期是明年6月21日。”赵涛曾是新闻记者,因编写反人工智能报道被辞退。但他丰富的人脉和信息资源并没有因为失去工作而丢失,反而在纯真卫士中如鱼得水,成为组织的核心情报来源。王云飞来找宋志明之前,刚和赵涛联系过。
宋志明微微一笑:“明年6月21日是周一,我们就把行动日期定在6月18日——也就是前一个周五。制造一个项目交付危机,这样可以让危机在周末发酵。另一方面,因为周末的缘故,他们将缺乏足够的时间和人力做临时应变。交付如果流产,对于永恒智能这样的初创公司而言,足以造成毁灭性的打击。”