d/acc:一年后的回顾与展望

去年,我撰写了一篇关于技术乐观主义的文章,阐述了我对技术的整体热情,以及技术可能带来的巨大益处。同时,我也表达了对某些特定问题的谨慎态度,主要集中在超级智能AI及其可能引发的毁灭性风险上,如果这项技术构建不当,可能导致人类不可逆转地丧失权力。

文章的核心观点是倡导一种理念:去中心化、民主且差异化的防御性加速。我们既要加速技术发展,又要有选择性地聚焦于那些能够提升防御能力而非伤害能力的技术,并致力于推动权力分散,避免权力集中在少数精英手中。防御模式应该效仿民主的瑞士和历史上准无政府主义的佐米亚地区,而非中世纪封建主义下的领主和城堡模式。

过去一年里,这些理念和想法得到了显著发展和成熟。我在"80,000小时"平台上分享了这些想法,收获了诸多反响,大多数是积极的,当然也有一些批评声音。

这项工作本身持续推进并取得了切实成果:在可验证开源疫苗领域,我们看到了进展;人们对健康室内空气价值的认知不断深化;"社区笔记"持续发挥积极作用;预测市场作为信息工具迎来了突破之年;零知识证明(ZK-SNARKs)在政府身份识别和社交媒体领域得到应用(并通过账户抽象确保了以太坊钱包的安全);开源成像工具在医学和脑机接口(BCI)领域获得应用,等等。

去年秋季,我们迎来了首个重要的d/acc活动:"d/acc发现日"(d/aDDy),活动在Devcon举行,汇聚了来自d/acc各个支柱领域(生物、物理、网络、信息防御以及神经技术)的演讲者,持续了整整一天。长期致力于这些技术的人们愈发了解彼此的工作,而外部人士也越来越意识到这一更宏大的愿景:推动以太坊和加密货币发展的相同价值观可以拓展至更广阔的世界。

d/acc的内涵与外延

d/acc的核心思想简洁明了:去中心化、民主且差异化的防御性加速。构建能够促使攻防平衡向防御倾斜的技术,并且在实施过程中不依赖于将更多权力交予中央权威机构。这两个方面之间存在着内在的紧密联系:任何一种去中心化、民主或自由的政治结构,在防御易于实施时往往能够蓬勃发展,而在防御面临重重困难时则会遭遇严峻挑战——在那些情况下,更有可能出现的结果是一段所有人相互对抗的混乱时期,最终达成由最强者统治的平衡状态。

理解尝试同时实现去中心化、防御性和加速性的重要意义的一种方式,是将其与放弃这三个方面中的任意一个所产生的理念进行对比。

去中心化加速,但忽视"差异化防御"部分

从本质上讲,这类似于成为一名有效加速主义者(e/acc),但同时追求去中心化。有许多人采取这种方式,其中一些人自称d/acc,但他们有益地将自身重点描述为"进攻"。此外,还有许多其他人对"去中心化AI"及类似话题表现出更为温和的热情,但在我看来,他们对"防御"层面的关注明显不足。

在我看来,这种方式或许能够避免特定群体对全球人类实施独裁统治的风险,但它却未能解决潜在的结构性问题:在一个有利于进攻的环境中,始终存在着灾难降临的持续风险,或者有人会将自己定位为保护者,并永久性地占据统治地位。就AI而言,它也无法妥善解决人类整体相对于AI被削弱权力的风险。

差异化防御加速,但忽略"去中心化和民主"

为了实现安全目标而接受集中控制,这对一部分人始终具有一定的吸引力,读者无疑已经熟知众多此类事例,以及它们所带来的弊端。近期,一些人担忧极端集中控制可能是应对未来极端技术的唯一途径:例如,设想这样一个假设情景,"每个人都佩戴一个'自由标签'——这是当今更为有限的可穿戴监控设备的后续产品,类似于几个国家用作监狱替代方案的脚踝标签......加密的视频和音频被持续上传,并实时由机器进行解读"。然而,集中控制存在一个程度的问题。一种通常被忽视但仍然有害的相对温和的集中控制形式,体现在生物技术领域(例如食品、疫苗)对公众监督的抵制,以及允许这种抵制行为不受挑战的闭源规范。

这种方式的风险显而易见,那就是中心本身往往会成为风险的源头。我们在新冠疫情期间便已见证了这一点,由多个主要世界政府资助的功能获得性研究可能是疫情的根源所在,集中的认识论导致世界卫生组织多年来拒绝承认新冠病毒是通过空气传播的,而强制性的社交距离和疫苗强制令则引发了可能持续数十年的政治反弹。类似的情况极有可能在与AI或其他风险技术相关的任何风险情境中再次发生。相比之下,去中心化的方式将更有效地应对来自中心自身的风险。

去中心化防御,但排斥加速

从本质上来说,这是试图减缓技术进步或推动经济衰退。

这种策略面临着双重挑战。首先,总体而言,技术和经济增长对人类而言是极为有益的,任何对其的延迟都会带来难以估量的代价。其次,在一个非极权主义的世界中,停滞不前是不稳定的:那些"作弊"最多,能够找到看似合理的方式继续推进发展的人或群体将会占据优势。减速主义策略在某些特定情境下能够在一定程度上发挥作用:例如欧洲食物比美国食物更为健康,这便是一个例证;核不扩散到目前为止取得的成功也是如此。然而,这些策略不可能永远奏效。

通过d/acc,我们致力于实现以下目标:

• 在当今世界日益部落化的趋势下坚守原则,而不仅仅是盲目地构建各种事物——相反,我们期望构建特定的事物,从而使世界变得更加安全、美好。
• 认识到指数级的技术进步意味着世界将变得极为奇特,并且人类在宇宙中的总体"足迹"必然会不断增加。我们保护脆弱的动物、植物和人群免受伤害的能力必须持续提升,而唯一的出路便是勇往直前。
• 构建能够切实保护我们的技术,而不是基于"好人(或好的AI)掌控一切"的假设。我们通过构建在用于构建和保护时自然比用于破坏时更为有效的工具来达成这一目标。

思考d/acc的另一种视角是回归到21世纪00年代末欧洲海盗党运动的一个框架:赋权。

我们的目标是构建一个能够保留人类能动性的世界,实现消极自由,即避免他人(无论是普通公民、政府,还是超级智能机器人)对我们塑造自身命运的能力进行积极干预,同时实现积极自由,即确保我们拥有知识和资源去践行这一能力。这呼应了一个延续数世纪的古典自由主义传统,其中涵盖了斯图尔特·布兰德对"工具获取"的关注,以及约翰·斯图尔特·密尔对教育与自由并列作为人类进步关键要素的强调——或许还可以补充巴克敏斯特·富勒期望全球解决问题的过程是参与式和广泛分布的愿景。鉴于21世纪的技术格局,我们可以将d/acc视为实现这些相同目标的一种途径。

第三维度:生存与繁荣的协同发展

在我去年的文章中,d/acc特别聚焦于防御性技术:物理防御、生物防御、网络防御和信息防御。然而,单纯的去中心化防御并不足以构建一个伟大的世界:我们还需要一个具有前瞻性的积极愿景,明确人类在获得新的去中心化和安全性之后能够实现何种目标。

去年的文章在两个方面确实包含了一个积极的愿景:

1. 在关注超级智能的挑战时,我提出了一条路径(这对我来说并非原创),即我们如何在不丧失权力的情况下实现超级智能:

• 当下,构建AI作为工具,而非高度自主的智能体。
• 未来,运用虚拟现实、肌电技术和脑机接口等工具,在AI与人类之间建立更为紧密的反馈机制。
• 随着时间的推移,逐步迈向最终的结局,即超级智能是机器与人类紧密融合的产物。

2. 在谈及信息防御时,我也曾顺便提及,除了那些旨在帮助社区在面对攻击者时保持凝聚力并进行高质量讨论的防御性社会技术之外,还存在进步性社会技术,能够助力社区更轻松地做出高质量判断:Pol.is便是一个实例,预测市场亦是如此。

但当时这两点感觉与d/acc的核心论点存在脱节:"这里有一些关于在基础层面构建一个更民主、更有利于防御的世界的想法,顺便说一下,这里还有一些关于我们如何实现超级智能的不相关想法"。

然而,我认为在现实中,上述被标记为"防御性"和"进步性"的d/acc技术之间存在着一些至关重要的联系。让我们扩展去年文章中的d/acc图表,通过在图表中添加这个轴(同时将其重新标记为"生存与繁荣"),来看看会呈现出怎样的结果:

在各个领域中存在着一个一致的模式,即那些能够帮助我们在某一领域"生存"的科学、思想和工具,与能够助力我们"繁荣"的科学、思想和工具密切相关。以下是一些具体例子:

• 众多近期的抗新冠研究聚焦于病毒在体内的持续存在,这被视为长新冠问题的一个关键机制。近来,也有迹象表明病毒持续存在可能是阿尔茨海默病的致病因素——倘若这一观点成立,那么解决所有组织类型中的病毒持续存在问题,或许将成为攻克衰老难题的关键所在。
• 低成本和微型成像工具,如Openwater正在研发的那些,在治疗微血栓、病毒持续存在、癌症等方面具有强大的潜力,同时也可应用于脑机接口领域。
• 推动构建适用于高度对抗性环境的社会工具(如社区笔记)和合理合作环境的社会工具(如Pol.is)的理念极为相似
• 预测市场在高合作和高对抗环境中均具有重要价值。
• 零知识证明及类似技术在保护隐私的同时对数据进行计算,既增加了可用于科学研究等有益工作的数据量,又增强了隐私保护。
• 太阳能和电池对于推动下一波清洁经济增