跳转到内容
导航
Agent 与工具链

当 Agent 替人盯着一张税单

让 Agent 主动推进工作,需要记住未完成的事、接住变化,并在恰当时机把决定交还给人。

Jane 收到一张税单,需要筹钱。她给财富管理公司发邮件后,事情远没有结束:有人要分析资产,提出出售方案,等她确认,再安排交易、结算和转账。其间任何一个环节都可能等上几天,而她也可能改变主意。

Arca 的 AI 负责人 Aman Singh 在一场大会演讲里,用这个例子解释公司如何让 Agent 参与财富管理。后来他又在 Latent Space 的访谈中讲了更多细节。他有句话让我记住了:在 Arca,Agent 提示人的次数,多于人提示 Agent。

我读完后的感受是,主动性并不只是把聊天框放在后台运行。它要求系统在没有人持续盯着的时间里,知道事情停在哪里,发现情况何时变化,也知道什么时候该请人做决定。

长周期工作的推进过程

十天里的大部分时间,Agent 在等

Section titled “十天里的大部分时间,Agent 在等”

Singh 把这类工作称为长周期,而非长时间运行:一项客户目标可能跨越十天,但模型不必在这十天里不停生成文字。真正拉长时间的是等待客户回复、交易结算和人员交接。

Arca 演讲中展示的跨角色工作时间轴

在演讲的示例里,Jane 起初需要筹集十万美元。Agent 不只读那封新邮件,还需要知道她曾要求不要卖掉苹果公司的股票。后来,工作人员通过面对面的交流得知她只需要八万美元,并把消息录入系统;新信息成为信号,促使相关 Agent 更新计划。

这一段最值得注意的不是数字变化本身,而是变化绕开了原来的邮件线程。如果系统只会守着一封邮件等回复,它就可能拿着过时的计划继续工作。Arca 的做法是让邮件、电话、托管机构事件以及员工在系统里的操作都成为可能的信号,并让 Agent 订阅自己关心的事件。预期事件没有到来时,也可以按计划唤醒检查。

Arca 演讲中展示的信号、Agent 和人员协作

这里的“记忆”因此不只是保存聊天记录。访谈中 Singh 描述的客户状态包括:正在处理什么,谁负责,已经发生什么,下一步要关注什么。新的 Agent 收到一条电话记录后,需要借助这些状态判断它与已有工作是否有关。

这听起来很像一个称职的项目协调者,但区别也明显:协调者可以主动打电话确认;软件要先有可信的事件来源、明确的责任归属和更新规则。记忆写错了,或者变化从未进入系统,后续的主动行动也可能沿着错误方向走。原材料介绍了设计,并没有提供足以衡量漏报、误报或状态错误率的数据。

演讲中有个细节比“Agent 主动找人”更有启发:未来需要做的事,可以先由系统记住;只有眼下可以行动时,才把任务放到人的工作台上。

例如,交易员最终需要出售资产,但客户还没有确认计划时,让交易员提前收到一条无法执行的任务,只会增加一件需要重新检查的事。等确认到位、计划也已更新,再交给交易员,并附上必要的背景,才有机会节省注意力。

这个区分也暴露出主动式系统的一个难题:提醒得太晚会耽误事,提醒得太早或太频繁又会制造噪音。判断不应只看 Agent 创建了多少任务,更应该看任务到达时,人能否采取行动、信息是否足够、后续有没有被及时接住。

Arca 自己经营财富管理业务,可以规范内部流程,也能要求员工解释修改或取消的原因。Singh 说,这些反馈会与 Agent 的运行轨迹关联,由另一个 Agent 帮助发现工具、知识或提示词中的问题;提示词修改仍由工程师把关。这是一个有吸引力的学习回路,但它也依赖员工愿意、并有时间给出有用的反馈。

谈到金融业务,最容易把“有人参与”当成安全保障。但人参与在哪里,差别很大。

按 Singh 的说法,Agent 可以分析资产并提出方案,不能自动进行资金移动或资产清算;交易由专业人员决定和执行,对客户的直接沟通也需要人参与。演讲里的计划和发给 Jane 的邮件都需要审批。这个边界意味着 Agent 可以承担大量准备工作,但不能因为自己判断合理就直接动钱。

分析方案、人工审核与资金移动的权限边界

与此同时,Arca 还使用模型检查数据库写入、检测外部输入中的提示注入,以及检查可能向外发送的敏感信息。访谈把权限限制描述为确定性规则,而模型检查是另一层:它可以帮助发现问题,却不能按同样方式保证永远拦住问题。Singh 举过模型使用过时税率的例子,公司因此让系统在需要金融严谨性的地方查询经过核实的知识或搜索。

我想到此前写过的给 Agent 一双手,还要给它划一条线:能力边界需要落到工具和权限上。Arca 的例子又往前走了一步:即便关键动作必须人工执行,审核者仍要看到计划依据、客户约束和最新变化。一个只有“批准”的按钮,未必能让人真正发现错误。

日志也有两种用途。Singh 说,人和 Agent 对客户信息的修改都会留下记录;这些记录既供审计,也能成为唤醒 Agent 的信号。可追溯不等于可理解:如果审计记录太难读,或者只留下最终结果,审核者依然可能错过错误的前提。

主动服务的收益,取决于谁承担盯进度的成本

Section titled “主动服务的收益,取决于谁承担盯进度的成本”

Arca 不是把软件卖给其他财富管理公司,而是自己经营服务。这让它能把业务规则、员工反馈和 Agent 的工作方式放在同一个组织里调整。代价也在这里:公司需要持续维护客户状态、专业知识、权限和人工交接,不能把模型接进来就算完成。

对已有团队来说,我觉得无需先决定是否自建一整套 Agent 平台。更实际的起点是挑一项经常跨人、跨系统等待的工作,画出它在哪里暂停、什么变化会让计划失效、谁有权作出最终决定。先让系统把这些信息带给负责人,再观察它是否减少了无效追问,以及人是否真的有足够信息拒绝错误建议。

大会演讲最后提出一个更主动的设想:税季到来前就准备客户的税务分析和联系草稿,而不是等客户先发邮件。这是一个值得关注的目标,演讲并没有给出它已经产生多少实际收益的证据。

读完这场对话,我更愿意用一个朴素的问题判断此类系统:当事情停下来、情况变了,或者有人需要介入时,它能否让下一位接手的人看清楚发生了什么。能做到这一点,Agent 的主动性才可能成为服务;否则,它只是把需要人盯着的事情换了个地方。