马克斯·泰格马克：人工智能安全的关键在于可理解的智能

导语

在Lex Fridman的播客中，物理学家与人工智能研究员马克斯·泰格马克再次作为嘉宾，深入探讨了人工智能（AI）的发展路径、潜在风险及其与人类社会的复杂互动。泰格马克不仅是生命未来研究所的联合创始人，也是AI长期存在性风险的知名倡导者。本次对话中，他强烈批判了当前AI发展中“只追求更大规模、却不求甚解”的危险趋势，并提出了“可理解的智能”这一替代方案。他将AI对齐问题置于从基因演化到公司治理的更宏大叙事中，认为这是人类文明面临的核心挑战。同时，他也介绍了利用AI技术对抗信息操纵、打破信息茧房的创新项目，展现了技术赋能个体的乐观一面。

金句

• "The one that scares the HebGBs out of me is this attitude that we're just going to make ever bigger systems that we still don't understand until they can be as smart as humans. What could possibly go wrong?" —— 最让我感到恐惧的一种态度是，我们打算构建越来越大的系统，却仍然不理解它们，直到它们变得和人类一样聪明。这怎么可能不出问题呢？
• "We have to worry about people using machines they're short of AI AGI and power to do bad things." —— 我们需要担心的是，人们利用他们手中的AI或AGI工具去作恶。
• "It's all about putting the right incentives in place." —— 一切都在于建立正确的激励机制。
• "Machine learning meets propaganda. That's what's new, that's why this has gotten so much worse." —— 机器学习与宣传手段相遇。这是新情况，也是情况急剧恶化的原因。
• "There are really no reasons why [machine learning algorithms] only have to help the big guy to manipulate the little guy, they can just as well help the little guy to see through all the manipulation attempts from the big guys." —— 没有理由让算法只帮助强者操纵弱者，它们同样可以帮助弱者看穿强者的一切操纵企图。

原文链接

查看完整访谈