导语
在讨论人工智能未来时,一个关键的概念混淆常常被忽略:智能与权力。Dwarkesh Patel 指出,如果我们简单地将“智能”定义为“在广泛领域实现目标的能力”,那么历史上最具权势的人物(如斯大林)就该被视为最智能的人。这种定义将智能与权力直接等同,但现实世界的运行逻辑并非如此。本文旨在厘清这一区别,并探讨其对理解AI发展轨迹的重要意义。
文章探讨了“智能”定义的常见误区,指出将智能等同于“在广泛领域实现目标的能力”会使其与“权力”混淆。作者以特朗普、斯大林为例,说明现实中的权力更多源于制度赋予的权威和信任,而非个体大脑的超级计算能力。在AI语境下,当前AI的进步方向(如编程)与权力获取的相关性不强。正确的模型或许是,未来是AI集体在商业规则下竞争,而非单一超级智能体凭智识统治一切。
在讨论人工智能未来时,一个关键的概念混淆常常被忽略:智能与权力。Dwarkesh Patel 指出,如果我们简单地将“智能”定义为“在广泛领域实现目标的能力”,那么历史上最具权势的人物(如斯大林)就该被视为最智能的人。这种定义将智能与权力直接等同,但现实世界的运行逻辑并非如此。本文旨在厘清这一区别,并探讨其对理解AI发展轨迹的重要意义。
展开「深读」看每一段讨论的问题与论据。
讨论的问题:如果智力被定义为“跨领域实现目标的能力”,那么如何区分智力与权力本身?
论据 / 案例:作者举例:如果采用此定义,斯大林会是史上最具智力的人;特朗普、习近平、普京紧随其后。但世界最强大的人在抽象思维(如旋转图形)上并未达到顶尖。
讨论的问题:当前AI系统的智能化路径(如针对经济任务优化)是否会自然导向权力追求?
论据 / 案例:作者指出:当前AI通过训练在编码等特定经济任务上变得出色,这与权力追求的相关性不强。
讨论的问题:现实世界中的权力究竟是如何产生的?
论据 / 案例:作者论据:权力是授权和信任的产物,使数百万人协作;特朗普的权力来自政府合法性,而非个人大脑的优化能力。
讨论的问题:个体智力与群体智力在产生社会结果上有何不同?
论据 / 案例:引用Garett Jones的观点:个体IQ与个体收入相关性弱,但国家IQ与国家结果强相关。案例:理查德·特里维西克发明高压蒸汽机却死于贫困,但众多类似个体使英国建立了全球帝国。
讨论的问题:未来AI竞争的主要模式会是怎样的?
论据 / 案例:作者结论:自动化公司将通过常规商业竞争胜出。评论者Lucas Klein补充:单个AI可复制、共享权重,本身即是一个“集体”,且AI间通信障碍越来越小。
=== SUGGEST=== 无