Anthropic 研究揭示：AI 推理的思维链解释不可全信

GoodNav 5月20日报道，Anthropic公司最新研究显示，尽管思维链提示法（CoT）被广泛应用于提升大型语言模型（LLM）的推理能力和可解释性，但其可靠性值得怀疑。

思维链提示法旨在通过逐步分解推理过程来增强LLM的表现。理论上，这种方法有助于理解模型得出结论的路径，在安全等关键领域尤其重要。

然而，Anthropic 的论文《Reasoning Models Don’t Always Say What They Think》质疑了模型思维链解释的真实性，核心问题是：模型的思维链解释是否准确地反映了其内部决策过程？