MIT物理学家呼吁暂停AI竞赛，警惕文明级风险

导语

作为MIT物理学教授、未来生命研究所联合创始人，马克斯·泰格马克是AI安全领域的先知之一。在这期播客中，他再次做客，讨论了他与众多科技领袖共同发起的、呼吁暂停训练超级AI的公开信。这封信在人类文明史上投下了一颗重磅炸弹：我们是否正在亲手制造一个可能超越并取代我们的“新物种”？泰格马克以深邃的物理学视角和个人对生命意义的思考，剖析了这场竞赛的危险性，并提出了一个看似简单却至关重要的解决方案——暂停。

金句

• "We're building effectively a new species that's smarter than us." —— 我们本质上正在构建一个比我们更聪明的新物种。
• "This is a suicide race which cannot be won." —— 这是一场无法获胜的自杀式竞赛。
• "Start your day with a little meditation and things you're grateful for. You basically choose to be a happy person." —— 每天用一点冥想和对事物的感恩开启一天。你本质上是在选择成为一个快乐的人。
• "It's not just me saying... Sam Altman and Dario Amodei have both said they themselves acknowledge that there are really great risks with this and they want to slow down once they feel like it's scary." —— 不只是我一个人这么说……山姆·奥特曼和达里奥·阿莫代伊都曾表示，他们承认这里存在巨大风险，并希望在感到害怕时放慢速度。
• "The closest immortality we can get with our biology is to share your information, your ideas with many others." —— 在生物学层面上，我们能得到的最近似永生的方式，就是与他人分享你的信息、你的思想。

原文链接

查看完整访谈