The Coming Wave
DeepMind联合创始人亲手参与制造了这场海啸,然后写书警告它不可阻挡也不可放任——AI加合成生物的双重浪潮,遏制问题是21世纪最大的未解难题。
- 浪潮四特征:指数级、不对称、超进化、通用性——四者叠加意味着传统治理手段全部失效
- 民主化是双刃剑:技术普及等于风险普及,个人和小团体正在获得过去只有国家才有的能力
- 未来5-10年是关键窗口:治理跟上则长期可控,跟不上则失控——这不是50年问题,是5年问题
核心观点
浪潮四特征叠加,让传统治理手段全部失效
指数级——算力数据模型每6个月翻倍,一年后能力天差地别;不对称——个人能调用国家级能力;超进化——每代比上代强太多,立法教育文化都跟不上;通用性——不是单一应用,是操作系统级别的变革,影响所有领域。四个特征单独出现都能应付,叠加出现就是「不可遏制」。
不只是AI:合成生物是同时逼近的第二波海啸
CRISPR、mRNA、AlphaFold代表的合成生物技术也在指数级发展,而且和AI互相强化——AI帮助设计药物和蛋白质,生物计算反过来推动AI架构。双重海啸比单一海啸难对付得多,多数讨论只盯着AI,漏掉了另一半。
| 浪潮 | 代表技术 | 与另一波的关系 |
|---|---|---|
| AI | 大模型/智能体 | 帮助设计药物、蛋白质结构 |
| 合成生物 | CRISPR/mRNA/AlphaFold | 生物计算反哺AI发展 |
国家对暴力的垄断正在被打破:个人黑客约等于网络战部队
AI和生物技术让个人与小团体拥有过去只有国家才有的能力——一个熟练黑客的破坏力接近一支网络战部队,一个小实验室具备了武器级研发能力。现代国家的根基之一「垄断暴力」正在技术层面被侵蚀。
The state's monopoly on violence is ending.
— Mustafa SuleymanSuleyman的可信度来自自责:他是建造者,不是旁观的批评家
他自己是AI创始人,公开承认贡献了这场海啸;他不假装与己无关,也不停止建造(说停下不现实),而是公开与这个矛盾搏斗。这比纯学院派警告者可信得多——他有切肤之痛,说的是自己参与制造的风险。
- 把AI风险讨论全部交给没有实践经验的旁观者
- 认为建造者谈风险是虚伪的公关
- 优先听有切肤之痛的建造者的风险判断
- 接受「继续建造+同时警惕」的复杂立场
5-10年是关键窗口:这不是50年问题,是5年问题
未来5-10年是决定性窗口期——这期间治理体系没跟上,浪潮就会失控;这期间建好治理框架,长期就有希望可控。紧迫性被大多数人严重低估了,因为人们习惯把文明级问题想象成下一代人的事。
Suleyman判断的治理窗口期
10大遏制工具(技术安全/审计/国际合作/价值观共识等)必须在窗口期内建成
免费部分到这里。墙内还有:
本书与另外 4 本书的观点交锋 · 应用篇
金句摘录
「Containment is the great unsolved challenge of our age.」
「We cannot stop the wave. We can only learn to surf it—and try not to drown.」
「The state's monopoly on violence is ending.」
常见问题
这本书讲了什么?
DeepMind联合创始人亲手参与制造了这场海啸,然后写书警告它不可阻挡也不可放任——AI加合成生物的双重浪潮,遏制问题是21世纪最大的未解难题。
适合谁读?
从核心观点看,适合想搞清楚「浪潮四特征叠加,让传统治理手段全部失效」这类问题的人。
最核心的一个观点是什么?
浪潮四特征叠加,让传统治理手段全部失效