别被迷惑：LLM 并不会真正推理

前 Google DeepMind 研究员指出，LLM 的思维链并非真正的推理机制，它仍由同一个 next-token 预测过程迭代生成，只是延长了作答前的计算。文章认为当前模型存在三大缺陷：没有显式、持久、可检查的认知状态，知识与推理在神经网络权重中纠缠不清，且思维链常是事后编造。作者主张借鉴 AlphaGo 的搜索架构，为机器推理引入独立的推理机制。