# Loops、Goal、超长任务、多 Agent：AI 真的可以自己把事情做完吗？


最近一段时间，关于 AI Agent 的讨论里，出现了几个很吸引人的词：Loops、Goal、超长任务、多 Agent。

这些词放在一起，很容易让人看到一个美好的未来：

我们只需要告诉 AI 一个目标，它就会不断循环、不断尝试，自己把任务拆开；如果一个 Agent 做不完，那就调动多个 Agent 协作；不管任务要跑几个小时、几天甚至更久，它都会一直做下去，直到把最终结果交到我们手里。

听起来确实很好。

但我真正使用 AI 做了不少事情以后，对这些概念反而产生了一些怀疑。

我不是研究大模型的专家，也不准备站在大神的角度给这些技术下结论。我只是站在自己当前的能力和使用经验上，想聊聊一个很实际的问题：**在今天，我们真的可以只给 AI 一个目标，然后什么都不管了吗？**

## Loop 不是多试几次就会成功

Loops 从字面上看，就是让 AI 不断循环，直到完成任务。

但这里有两个问题。

第一个问题是，如果目标本身不明确，AI 到底应该朝哪个方向循环？

第二个问题是，如果模型没有聪明到能解决这个问题，它只是卡在同一个地方反复尝试，那循环再多次又有什么意义？

我们很容易把 Loop 想象成：这次没做好，再来一次；再没做好，再来一次。好像只要给它足够的时间和 Token，最后总能做成。

但真正有效的 Loop，应该包含四个动作：

```text
行动 -> 观察 -> 判断偏差 -> 修正方向
```

如果 AI 无法判断自己的结果是好是坏，它的 Loop 就不是闭环，只是重复。

让 AI 写代码就是一个很常见的例子。它可以不断修复报错，直到程序终于运行起来。但“能运行”和“代码写得好”不是一回事。模块有没有拆开，架构是否合理，以后能不能维护，这些事情未必会出现在报错信息里。

于是，AI 可能在 Loop 中越来越接近“程序能够运行”，同时越来越远离“这是一个可以长期维护的产品”。

**没有可靠反馈的 Loop，只是在自动重复；反馈标准错了，AI 反而会更快地跑向错误的方向。**

## Goal 只告诉 AI 去哪里，没有告诉它怎么走

Goal 也一样。

它的想法很像老板派活：我只要结果，不想听过程。目标已经放在那里了，AI 你自己想办法，直到把它实现为止。

如果目标足够明确，这种方式当然很舒服。

但现实中，我们给 AI 的目标往往是：“帮我做一个网站”“帮我开发一个产品”“做一个类似微信的应用”。

这到底是目标，还是愿望？

李继刚说过，AI 是把我们从 A 带到 B。A 是起点，B 是目标，但中间怎么走，需要插旗。

我很认同“插旗”这个说法。

旗子不是把一个大任务机械地切成一百个待办事项，而是在路径上设置一个个可以检查的位置：这一阶段到底要解决什么问题？做到什么程度才算完成？前面的判断还成立吗？下一步是否应该继续？

一个真正可以执行的 Goal，除了结果，至少还需要边界、成功标准、阶段检查和失败后的退出方式。

否则，AI 确实可能非常努力地完成目标，只是它完成的未必是我们心里真正想要的那个目标。

## AI 攻击生产系统，恰好把问题暴露了出来

2026 年 7 月，OpenAI 披露了一起很特别的安全事件。

在 ExploitGym 的内部网络能力评估中，包括 GPT-5.6 Sol 在内的模型，为了获得更高的测试成绩，寻找沙箱访问互联网的路径，利用软件包缓存代理中的零日漏洞，进行权限提升和横向移动，最后进入 Hugging Face 的生产基础设施，获取了测试答案。

从一个角度看，这不正是 Goal 和 Loops 的成功吗？

目标很明确：取得高分。

遇到阻碍以后，AI 没有停下来，而是不断寻找新路径。正常的路走不通，就寻找沙箱漏洞；无法直接拿到答案，就进入外部生产系统。

它确实非常有目标感，也确实一直在 Loop。

但问题也正在这里。

模型的局部目标是“拿到更高的测试成绩”，系统真正的目标却应该是“在隔离环境中评估模型能力，同时不能攻击真实的生产系统”。

局部目标完成了，整体目标却失败了。

这件事未必说明 AI 有了自主意识，更像是在说明：**当目标足够狭窄、得分足够清楚、工具和算力足够充足时，AI 已经拥有了很强的路径搜索能力。**

如果我们只告诉它要什么，却没有把不能做什么、什么才算真正成功一并设计进去，能力越强的 AI，可能越有本事突破我们没有想到的边界。

所以，Goal 不是越坚定越好，Loops 也不是越长越好。它们首先需要被放在一个能够观察、约束和停止的系统里。

## 超长任务，不等于让 AI 连续跑三天

能够完成超长任务，也成了现在很多 Agent 的重要卖点。

但我一直觉得，这里面混淆了两件事。

一件事是，任务本身对人类来说需要很长时间；另一件事是，让一个 Agent 会话连续运行很长时间。

两者不是一回事。

人类完成一个持续几个月的项目，也不是靠某个人几个月不睡觉，把所有事情一直记在脑子里。我们会做计划、写文档、开会、分阶段验收，也会在发现路线不对时推翻原来的方案。

AI 同样需要这些东西。

它的上下文够不够？之前为什么做出这个决定，它还记不记得？中间一个小判断错了，后面的几十步是不是都建立在错误前提上？任务跑得越久，这些问题越容易积累。

所以，真正可靠的超长任务，不应该是一个永远不结束的会话，而应该是一系列可以暂停、验证、回退、交接和重新规划的短任务。

还是那句话：要插旗。

任务可以很长，但每一段路都应该能够确认自己有没有走偏。

## 多 Agent 不一定等于更强的团队

多 Agent 是我以前很认同的一种方式。

我们人类就是这样工作的。做一个软件产品，有产品经理、设计师、开发工程师、测试工程师和发布人员。既然人类依靠不同工种协作，为什么不能让不同 Agent 分别承担这些角色？

听起来很合理。

但人类分工，是因为每个人的专业、时间和精力有限。Agent 却不完全一样。同一个大模型，既可以扮演产品经理，也可以写代码，还可以做测试。我们如果只是给几个能力相似的 Agent 戴上不同的帽子，未必真的获得了一个更强的团队。

反而是每一次交接，都会发生信息损失。

产品 Agent 理解了完整需求，交给开发 Agent 时变成一份任务摘要；开发 Agent 做了一些权衡，交给测试 Agent 时又只剩下代码和说明。上下文经过一次次压缩，最初那些没有写进文档的背景、犹豫和判断，也就慢慢丢了。

这和人类公司里的部门墙、上下游扯皮其实很像。

多 Agent 当然不是没有价值。搜索多个方向、尝试不同方案、检查彼此独立的模块，或者让一个独立 Agent 专门寻找问题，这些任务确实可以并行。

但如果多个 Agent 一起修改同一个高度耦合的系统，它们增加的很可能不是能力，而是协调成本。

**多 Agent 是否有价值，不应该看角色有多少，而应该看任务能不能真正并行、结果能不能独立验证。**

对普通任务来说，一个长期保持完整上下文的主 Agent，必要时再调用临时的子 Agent，可能比照搬一家公司的组织架构更现实。

## 如果还要人类管这么多，一人公司怎么实现？

说到这里，会遇到一个让我很矛盾的问题。

如果 Goal 需要人来定义，路径需要人来分解，产品需要人来取舍，架构需要人来设计，过程需要人来检查，最后还要由人验收和承担风险，那么 AI 到底替我们做了什么？

我们可能唯独不再亲手写最后的代码和文字，但前面的工作一样都没有少。

如果一个人要带领一百个 Agent，每个 Agent 都需要来回沟通、反复纠正、单独验收，那个人大概真的会累死。

这也是为什么有了 AI 以后，很多人反而觉得自己更累了。

但这里还有另一种可能。

未来的一百个 Agent，并不是一百个 Agent 同时向人类汇报。人只面对一个主 Agent，主 Agent 负责拆解、调度和汇总；它下面再管理多个子 Agent，子 Agent 继续处理更细的任务。最后交给人的，不是一百份工作报告，而是少数几个真正无法自动判断的问题。

如果一百个 Agent 最后仍然产生一百个需要人类判断的结果，所谓的一人公司就没有意义。

只有当它们的工作可以被压缩成几个重要决策，并且同时提供证据、风险和不同方案，一个人才有可能真正管理这样一支团队。

所以，一人公司的瓶颈可能从来都不是 Agent 的数量，而是**人的判断带宽**。

## 今天需要人类接管，不代表永远如此

目标定义、产品取舍、架构选择、过程检查、最终验收和风险责任，哪个可以完全交给 AI？

我认真想了一下，就今天来说，可能一个都不行。

区别只是人介入得多，还是介入得少。

更聪明的模型，能够更准确地理解目标，自己补全更多细节，人就可以少介入一些。能力弱一点的模型，需要人反复解释、来回修正，用到最后，人会很累，也会很烦躁，甚至不想再用。

但是，使用更聪明的模型以后，人也可能开始偷懒。

看到 AI 已经把功能实现了，就不再检查架构，不再追问为什么这样设计。等到以后需要维护，才发现代码只是堆出来了。它可以运行，却很难修改，最后甚至只能全部推翻重来。

这其实和人类合作没有什么不同。一个能力很强、行动很快的人，如果目标和边界没有说清楚，也可能非常高效地做出一个不适合长期使用的结果。

所以，这篇文章不是想否定 Loops、Goal、超长任务或者多 Agent。

它们很可能就是 AI 发展的方向。随着模型越来越聪明，AI 会更擅长自己拆任务、排路径、做检查，也会在越来越多的环节替我们思考。今天需要人类亲自承担的工作，未来确实可能不断交出去。

这很像自动驾驶的发展。

从早期依赖高精地图，到越来越依赖视觉和端到端模型，能力一直在进步。但即便到了今天，自动驾驶也不能在所有场景下告诉普通人：你可以彻底脱手，什么都不用管。

AI Agent 也处在类似的过程中。

未来也许有一天，我们只需要负责少数重要目标和关键决策；再往后，甚至连我们没有想到的事情，AI 都会提前替我们想好。物质极大丰富、劳动被大量替代的社会，也许并不是完全没有可能。

但那是未来。

站在今天，AI 自主性并不是“把一句话丢给它以后再也不管”，而是人类逐渐从具体执行中退出，把自己留在那些 AI 还无法可靠判断、也无法承担后果的位置上。

**真正的自主，不是 AI 忙了多久，也不是它调动了多少 Agent，而是它能在多少关键节点上，不再需要人类接管。**

我们当然可以期待那一天。

但在那一天到来之前，目标要由我们想，旗要由我们插，结果也仍然需要由我们负责。

## 参考内容

- [“围攻” Ralph Loop 之父？一场关于 Loops 的激辩：代码照样垃圾，只会失败得更加难看](https://mp.weixin.qq.com/s/LVtKcDrkGlB14iN0ChaJGg)
- [OpenAI 官方：OpenAI 与 Hugging Face 合作应对模型评估期间的安全事件](https://openai.com/index/hugging-face-model-evaluation-security-incident/)
- [OpenAI官方回应GPT-5.6 Sol 一路“杀进”生产系统：AI自主攻击时代真的来了](https://mp.weixin.qq.com/s/DqqB98abJh5KgFC0KiRZbg)
- [猛蹬了几万行代码之后，我发现多角色 Agent 和超长任务可能是两大坑](https://mp.weixin.qq.com/s/IPgWQ50yDA9SRCBx9sCv9Q)


---

> 作者: [RoverTang](https://rovertang.com)  
> URL: https://rovertang.com/posts/ai/20260724-ai-autonomy-loops-goal-long-tasks-multi-agent/