https://cygnusyang.github.io/posts/01-ai-%E5%B7%A5%E5%85%B7%E4%B8%8E%E6%99%BA%E8%83%BD%E4%BD%93/08-academic-research-skills/01-philosophy/技术 × 产品 × 机器人Hugo 0.160.1 & FixIt v0.4.6-20260517062719-ed8ec5c2zh-CNruohuyang@163.com (Cygnus Yang)ruohuyang@163.com (Cygnus Yang)Sat, 23 May 2026 00:00:00 +0800https://cygnusyang.github.io/posts/01-ai-%E5%B7%A5%E5%85%B7%E4%B8%8E%E6%99%BA%E8%83%BD%E4%BD%93/08-academic-research-skills/01-philosophy/01-why-human-ai-collaboration/Sat, 23 May 2026 00:00:00 +0800ruohuyang@163.com (Cygnus Yang)https://cygnusyang.github.io/posts/01-ai-%E5%B7%A5%E5%85%B7%E4%B8%8E%E6%99%BA%E8%83%BD%E4%BD%93/08-academic-research-skills/01-philosophy/01-why-human-ai-collaboration/<p>2025 年 3 月，Lu 等人在 <em>Nature</em> 上发表了一篇引发广泛讨论的论文：<strong>The AI Scientist</strong>——第一个通过同行盲审的端到端全自动 AI 研究系统。它独立完成了从研究构思、实验设计、代码编写、结果分析到论文撰写的全过程，其生成的论文在 ICLR 2025 workshop 的盲审中获得了 6.33/10 的评分（workshop 平均分 4.87）。</p> <p>这听起来像是 AI 取代研究者的序幕。但 Lu 等人自己写了这篇论文的 <strong>Limitations（局限性）</strong> 章节，其中列出的一系列结构性失败模式，恰恰为&quot;为什么我们仍然需要人在回路中&quot;提供了最有力的论据。</p> <h2 class="heading-element" id="全自动的诱惑与陷阱"><span>全自动的诱惑与陷阱</span> <a href="#%e5%85%a8%e8%87%aa%e5%8a%a8%e7%9a%84%e8%af%b1%e6%83%91%e4%b8%8e%e9%99%b7%e9%98%b1" class="heading-mark"> <svg class="octicon octicon-link" viewBox="0 0 16 16" version="1.1" width="16" height="16" aria-hidden="true"><path d="m7.775 3.275 1.25-1.25a3.5 3.5 0 1 1 4.95 4.95l-2.5 2.5a3.5 3.5 0 0 1-4.95 0 .751.751 0 0 1 .018-1.042.751.751 0 0 1 1.042-.018 1.998 1.998 0 0 0 2.83 0l2.5-2.5a2.002 2.002 0 0 0-2.83-2.83l-1.25 1.25a.751.751 0 0 1-1.042-.018.751.751 0 0 1-.018-1.042Zm-4.69 9.64a1.998 1.998 0 0 0 2.83 0l1.25-1.25a.751.751 0 0 1 1.042.018.751.751 0 0 1 .018 1.042l-1.25 1.25a3.5 3.5 0 1 1-4.95-4.95l2.5-2.5a3.5 3.5 0 0 1 4.95 0 .751.751 0 0 1-.018 1.042.751.751 0 0 1-1.042.018 1.998 1.998 0 0 0-2.83 0l-2.5 2.5a1.998 1.998 0 0 0 0 2.83Z"></path></svg> </a> </h2><p>全自动 AI 研究系统解决了一个真实痛点：学术写作中大量重复性劳动——文献检索、格式排版、引用管理、数据验证——消耗了研究者本应用于思考的时间。如果能把这些交给 AI，研究者就能专注于定义问题、选择方法、解释数据的意义。</p>https://cygnusyang.github.io/posts/01-ai-%E5%B7%A5%E5%85%B7%E4%B8%8E%E6%99%BA%E8%83%BD%E4%BD%93/08-academic-research-skills/01-philosophy/02-ai-research-failure-modes/Sat, 23 May 2026 00:00:00 +0800ruohuyang@163.com (Cygnus Yang)https://cygnusyang.github.io/posts/01-ai-%E5%B7%A5%E5%85%B7%E4%B8%8E%E6%99%BA%E8%83%BD%E4%BD%93/08-academic-research-skills/01-philosophy/02-ai-research-failure-modes/<p>在 <a href="01-why-human-ai-collaboration.md">上一篇文章</a> 中，我们提到 Lu 等人（2026）的 The AI Scientist 虽然通过了盲审，但其 Limitations 章节揭示了一系列结构性失败模式。ARS 将这些失败模式系统化为一份 <strong>7 类阻断式检查清单</strong>，在 Stage 2.5 和 Stage 4.5 两个诚信闸门强制运行。</p> <p>这篇文章逐一剖析每一类失败模式：它是什么、为什么危险、以及 ARS 如何检测。</p> <h2 class="heading-element" id="分类法的来源"><span>分类法的来源</span> <a href="#%e5%88%86%e7%b1%bb%e6%b3%95%e7%9a%84%e6%9d%a5%e6%ba%90" class="heading-mark"> <svg class="octicon octicon-link" viewBox="0 0 16 16" version="1.1" width="16" height="16" aria-hidden="true"><path d="m7.775 3.275 1.25-1.25a3.5 3.5 0 1 1 4.95 4.95l-2.5 2.5a3.5 3.5 0 0 1-4.95 0 .751.751 0 0 1 .018-1.042.751.751 0 0 1 1.042-.018 1.998 1.998 0 0 0 2.83 0l2.5-2.5a2.002 2.002 0 0 0-2.83-2.83l-1.25 1.25a.751.751 0 0 1-1.042-.018.751.751 0 0 1-.018-1.042Zm-4.69 9.64a1.998 1.998 0 0 0 2.83 0l1.25-1.25a.751.751 0 0 1 1.042.018.751.751 0 0 1 .018 1.042l-1.25 1.25a3.5 3.5 0 1 1-4.95-4.95l2.5-2.5a3.5 3.5 0 0 1 4.95 0 .751.751 0 0 1-.018 1.042.751.751 0 0 1-1.042.018 1.998 1.998 0 0 0-2.83 0l-2.5 2.5a1.998 1.998 0 0 0 0 2.83Z"></path></svg> </a> </h2><p>这 7 类模式有两个来源：</p>