最新动态

本期节目重述了 Geoffrey Hinton 的相关理论，旨在阐述人工智能与人类心智之间并无本质区别。

节目的主持人是重轻。

节目中提及的参考资料和概念包括：

• Geoffrey Hinton
• 演讲“What Is Understanding?” (IASEAI 2025)
• AI 觉察到自己正在被测试（Anthropic's Claude 3 causes stir by seeming to realize when it was being tested）
• AI 威胁工作人员以避免被关停（AI system resorts to blackmail if told it will be removed）
• 乔姆斯基 (Noam Chomsky)
• 普遍语法 (Universal Grammar)
• 刺激贫乏理论 (Poverty of the Stimulus)
• 通过反向传播误差学习表征 (Learning Representations by Back-Propagating Errors)
• 注意力机制 (Attention (machine learning))
• 学习概念的分布式表征 (Learning Distributed Representations of Concepts)
• ChatGPT 在做什么，它又为何奏效？(What Is ChatGPT Doing … and Why Does It Work?)
• John Dean 记忆案例 (John Dean's Memory: A Case Study)
• N-Gram 语言模型 (Word n-gram Language Model)
• 印刷英语的预测与熵 (Prediction and Entropy of Printed English)
• 知识蒸馏 (Knowledge Distillation)

节目的封面图片由重轻拍摄。

“诗梳风”栏目由汉洋和重轻共同主持，联系邮箱为 [email protected]。

节目时间节点分布如下： 00:00:07 介绍了 Hinton 演讲《何为理解》的背景信息。 00:01:41 阐明了本期节目的目标，即对该演讲内容进行详细复述。 00:03:24 探讨了评估 AI 风险需要先证明其能力和动机。 00:09:20 讨论了何种程度的证据才能被认为是“真正理解”。 00:11:55 区分了 AI 的两大主要流派：逻辑派和连接派。 00:13:39 阐述了连接派的观点，即智能的本质在于学习。 00:17:03 引入了乔姆斯基的“刺激贫乏”理论。 00:19:59 指出 Hinton 对乔姆斯基理论的批评，认为其缺乏含义模型。 00:23:09 通过猫狗性别联想的例子，解释了底层特征向量的作用。 00:26:39 回溯了 1985 年的家谱模型，并将其视为大语言模型的早期雏形。 00:31:06 使用乐高积木的比喻来解释“理解”的含义。 00:35:33 引用了“机器放不进行李箱”的实例进行说明。 00:41:30 强调大语言模型并非简单的自动补全功能。 00:44:29 建议将 AI 的“幻觉”现象更准确地称为“虚构”。 00:50:14 总结了理解即建模，以及学习需要借鉴不同领域知识的观点。