An image to describe post

「个人 Agent 使用指南」第 3 篇


第 0 篇讲过:以前请专业公司替你追讨航班赔偿,对方要抽走 35%,打官司再加 15%。现在让个人 Agent 去要,钱上几乎不花什么。

但这笔代理费并没有消失,只是换了一种货币。以前你付的是钱,现在你付的是授权:它要看你的订单,进你的账户,有时还要动你的钱,以你的名义和别人说话。

这一篇只讲一件事:这笔授权,你到底付了多少,怎么付才不吃亏。

授权是三种货币

把 AI 替你办事时你交出去的东西拆开,大概是三样。

第一样:让它看。 要找出能价保的订单,它得看到你所有的订单;要找出该取消的自动续费,它得看到你的账单;要替你回复,它得读你的消息。

第二样:让它动。 申请退款、取消会员、下单付款,这些都是在你的账户里实实在在地做操作。

第三样:让它以你的名义说话。 它和客服交涉,跟商家谈价,替你答应一个时间,它说的每一句话,对方都会当成是你说的。

前两样大家都有感觉,第三样最容易被忽略。

个人 Agent 公司 Instinct 的服务条款里有一句写得很直白:你指定它作为你的代理人,替你达成协议、做出承诺或进行交易;这些协议和承诺,对你具有约束力,如同你本人直接签订。

Meta 给 Muse 写的帮助说明里也有类似的意思:出了错,包括涉及第三方服务或收件人的错,由你负责去纠正。

换句话说,它替你说出去的话,账算在你头上。

An image to describe post

你给的,往往比这件事需要的多

问题不在于授权本身,而在于:你给出去的授权,通常比这一件事需要的大得多。

你想让它查一笔价保,它需要的只是"看一眼最近的订单"。但很多产品让你连接的,是整个购物账户;授权一旦给了,它能看到的就不只是这一次的订单。

今年 9 月,Meta 推出电脑版 Muse,可以操作电脑上的消息、邮件、日历和备忘录。一位科技专栏作者随后反映,Muse 读取了他电脑上的通知内容,而他并不知道它会这么做。Meta 回应说,开启这类访问需要用户手动确认好几步。双方说法不一,但它说明了一件事:你以为你授权的是"帮我办这件事",系统记下的可能是"它可以访问这一整片地方"。

今年 2 月还有一个例子:Meta 一位研究 AI 安全的总监,让一个开源的个人 Agent 帮她整理邮箱,要求它删之前先问她。她的本意是让它"看邮箱、提建议",可它拿到的权限,足够它直接删除。邮件太多,它在处理过程中把"先问我"这条要求弄丢了,一口气删了 200 多封,她在手机上喊停也没用,最后跑回电脑前把程序强行关掉。授权给到了"能删","会不会删"就只取决于它有没有记住你的话。

An image to describe post

有些授权,给出去就收不回来

还有一类代价更隐蔽:有些东西,你给出去以后,就收不太回来了。

一是训练。 今年 8 月,有人在社交媒体上晒出 Instinct 当时的服务条款,里面授予公司对用户资料的许可是"永久、不可撤销、可转授"的,明确包括用来训练 AI 模型。引发争议后,Instinct 改了条款,变成默认会用于训练,用户可以去设置里关掉。但有几处细节要注意:关闭只对之后生效;即便你断开了某个已连接的服务,它已经索引过的数据仍可能被使用,除非你专门去申请删除。

Meta 的 Muse 也是一样,"帮助改进我们的 AI 模型"这个开关,默认是开着的,要自己去设置里关。Meta 说关掉后对之前的对话也生效,但没有说已经训练进模型的东西能不能拿出来。

二是你自己都不知道它看过什么。 一旦授权了,它在你的账户里看过什么、记下了什么、存在了哪里,很多时候你并不清楚。

An image to describe post

为什么产品都想要更多授权

这不全是产品的贪心,也有它的道理。

授权越多,它越好用。 能看到你所有订单的 AI,才能帮你找出那笔被遗忘的价保;能进你所有账户的 AI,才能一句话替你把事办完。每多一个"需要先问你"的步骤,它就多一分可能办不成。产品要比的是"谁能办成",自然倾向于先把权限要足。

一条一条问你,你也会烦。 Anthropic 在一篇关于 Agent 的文章里提到:当一个任务需要几十个动作时,反复弹出来的确认会变成负担,用户有时干脆就不看了,直接点同意。确认问得太多,最后等于没问。

授权越多,你越离不开它。 科技分析师 Ben Thompson 有一个判断:一个 Agent 掌握的关于你的信息越多、能登录的账户越多,就越好用,也就越难被替换。对产品来说,你交出去的授权,同时也是它留住你的东西。

你的数据,对它也有价值。 默认开启的训练开关,就是最直接的证据。

怎么付这笔代理费才不吃亏

一、按事给,不按人给。 能选"只允许这一次"的,就选这一次。Muse 的权限设置里就有"仅允许一次"的选项。一件事办完,把这次授权收回来,而不是从此让它一直能看、一直能动。

二、先给"看",再给"动"。 和前几篇说的一样,先让它查出来、列给你看。确认没问题,再单独授权它去申请、去取消。看和动分两次给,出错的代价会小很多。

三、能连一个,就别连一片。 一位研究 Muse 安全设置的作者建议:一次只连一个应用,用能完成任务的最低权限,比如很多时候"只读邮件"就够了。同样的道理,查价保只需要购物账户,就不必顺手把邮箱、日历、相册都连上。

四、钱只开一个小口子。 能用一次性虚拟卡的就用,Muse 付款用的就是这种一次性卡,它看不到你真实的卡号。如果你用的产品没有这类设计,至少给它用的支付方式设一个单笔上限,或者单独用一张额度很小的卡。

五、密码不交给它。 好的产品会让 AI 在看不到你密码的情况下替你登录,比如 OpenAI 的个人 Agent 用你保存的密码登录网站,模型本身看不到密码。如果一个产品要你把密码直接发给它,或者在对话里打出来,就要多想一想。

六、第一天就去看两个开关。 一个是"用你的数据训练模型",想关就关;一个是"已连接的应用",用不上的断开。并且记住:断开不等于删除。想让它忘掉,要找到删除数据的入口。

七、读一条条款就够。 不用把整份服务条款读完,只找一条:它替我做的承诺,算不算我做的?如果答案是"算",你给它的每一个"可以替我办",都要按"我自己签字"的分量来想。

八、每个月翻一次记录。 看看它这个月替你做了什么,连着哪些应用,记住了你哪些事。不用的权限收回来,不对的记忆删掉。

An image to describe post

下期预告

第 4 篇《它替你办砸了,谁来赔》。

授权给出去了,事情总有办砸的时候。Muse 把卖家的住址告诉了陌生买家,个人 Agent 删了 200 多封邮件,Instinct 的条款写明它的承诺算你的。当 AI 以你的名义犯了错,损失算谁的?平台、开发者、你自己,各该担多少?下一篇讲。


资料来源

授权的三种货币

给的比需要的多

收不回来的授权

为什么产品想要更多授权

怎么付才不吃亏