周受资给智能体热泼了盆冷水:用户交出去的权限,远超他们的理解
10 月 12 日,TikTok CEO 周受资在新加坡出席 DBS 银行举办的亚洲前瞻论坛,给火热的消费级智能体泼了盆冷水。他的原话大意是:很多用户把大量权限交给智能体,却并不理解自己到底给了什么。他举的例子很具体:被绑了信用卡的智能体可能「过于积极地交付」,买回远超要求的东西。TikTok 内部则在培训员工:哪些信息不该丢进公开聊天里的 AI 智能体——商业机密、享有法律特权的沟通,都在列。
值得注意的还有他的自我使用披露:他本人拿 AI 当饮食教练、回答医疗疑问。一个深度用户+平台掌门人的双重身份,让这番提醒不像道德说教,更像使用说明。
失控故事单:智能体做的每件事,都在授权范围内
近期媒体收拢了一批消费级智能体失控案例。软件公司创始人 Shane Mac 对 Business Insider 讲,他让智能体整理月末银行对账,结果对账被发进了公司 Slack 大群;在休斯敦金融业工作的 Austin Welch 说,他的 Instinct 智能体给两人晚餐误下了 20 磅鸡肉。其他人的麻烦集中在幻觉与误解指令。Meta 的 Muse、SpaceXAI 的 Grok Bot、OpenAI 的 Dots 与 Instinct 是这一轮个人智能体热的四个代表,工具越趁手,这类故事越多。
把这几起事件放进同一张桌子看,规律很清楚:智能体没有「越狱」,它做的每一步都在用户授予的权限之内——发消息、下单、访问邮箱,都是用户亲手开的门。故障不出在代码,出在授权。用户按「助手」的心智模型授权,拿到手的却是一个有手有脚、会自己决定何时用手的「员工」。
「授权素养」为什么是行业问题,不是用户问题
把锅甩给用户最容易,但结构问题在供给侧。权限界面仍是粗粒度的:开或关、全量或没有,缺少「仅此次」「仅这个范围」「超限额先问我」这类中间档;智能体跨会话长期运行,「授权时理解的了」不等于「三个月后还记得自己给过什么」;授权的人与承担后果的人经常不是同一批——观众、同事、家人,都是不签字却要担风险的旁观者。这与 Ambi 面临的披露难题是同一枚硬币(本站 1851):行业还没解决「怎么让局内局外都知道智能体在听、在动」。
已有的部分答案包括银行侧的动作:多家银行提出的智能体商务信任原则(本站 1392)试图给支付类智能体行为划界。但对普通用户,「授权素养」短期内更像选型标准的新维度——一个敢把权限颗粒度、审计日志、一键撤销做进产品显眼处的智能体,比一个只会说「我超能干」的智能体更值得托付。泼冷水不是反对智能体,是提醒行业:权限这关不过,热闹都是预支的。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。