作者:凯蒂·博奎蒂 |编辑:克雷格·泰勒
“权力导致腐败,绝对权力导致绝对腐败。”阿克顿勋爵在1887年写下这句关于国王和教皇的论断,至今仍然适用。但他的警告的前提是,掌权者本身具有某种可以被腐蚀的品格。人工智能则不然。它没有贪婪的诱惑,没有需要奉承的自负,也不会在不知不觉中缓慢滑向错误的判断。以下是阿克顿勋爵针对我们这个人工智能时代的观察的更新版本:“人工智能无需被腐蚀就能造成伤害。赋予它绝对的权力,它只需要犯错即可。 ”
让人工智能出错并不需要多年的诱惑或不受约束的权力,只需要一段文字。官员可能在时间、不受制约的权力和巧妙的劝诱下变得腐败;而一个被操控的人工智能代理只需要一段精心撰写的文字。这段文字可能隐藏在人工智能被要求总结的电子邮件中,也可能藏在编码助手开始工作前会读取的README或Markdown文件中,甚至可能是网页上只有机器才能看到的白色背景不可见的文字。安全专家称之为“提示注入”,它之所以有效,是因为人工智能代理很难区分你的指令和听起来像你本人的指令。
现在,让情况变得更糟!赋予人工智能远超任务所需的权限。在内置浏览器中运行它,而这种浏览器缺乏Chrome、Edge、Firefox和Opera多年来积累的诸多安全防护。在这种情况下,哪怕一句错误的语句都足以危及你的电脑安全。
本周的安全提醒来自一个意想不到的来源:你自己安装的浏览器扩展程序。
——克雷格
浏览器扩展程序非常实用。它们可以帮你纠正语法错误、保存优惠券,还能屏蔽烦人的网站弹出广告或消息。然而,最近一些独立安全研究人员测试并报告了人工智能桌面连接和浏览器扩展程序之间存在的风险。2026年11月6日,《黑客新闻》(The Hacker News)报道了一项研究,该研究证明用户桌面上的人工智能助手可以在用户的计算机上运行任意代码。
这项研究来自Forever Security 公司,由研究员 Gal Weizman领导技术工作。先说好消息:目前还没有人发现这种漏洞被用于实际攻击,而且修复方法非常简单,只需花十五分钟检查并清理一下浏览器工具栏即可。
研究人员测试了 Anthropic 公司的 Claude Dispatch 功能,该功能允许用户将任务从手机发送到电脑上的 Claude Desktop 应用。Dispatch 信任 claude.ai 网站上任何已登录的会话。一个拥有在 claude.ai 上运行脚本权限的扩展程序能够将指令发送到桌面应用,就像用户自己输入指令一样。
以下是测试过程。
无需对浏览器进行任何破解。该扩展程序使用了用户已授予的权限。攻击者如果拥有同样的访问权限,就可以复制文件或植入后门。
要实现这一点,需要满足几个条件。您必须同时登录 claude.ai 和 Claude Desktop,启用 Dispatch 功能,并保持计算机处于唤醒状态且应用程序打开。
这项教训的意义远不止于此种人工智能功能。事实上,Anthropic 公司在 2026 年 5 月自行发现并确认了这一问题,目前 Dispatch 已停止接受新用户注册,并计划将其停用。研究人员表示,类似的设计也出现在其他远程人工智能工具中,例如 Claude Code Remote Control 和 Claude Cowork Sessions。他们尚未对这些工具进行测试,并计划发布后续报告。
现在,人工智能代理可以代表您执行操作。它们可以打开文件、安装软件并连接到其他服务。任何能够与您的人工智能代理通信的程序都会获得相同的权限。例如,一个能够访问您的人工智能助手运行所在网站的浏览器扩展程序,其访问权限远不止于单个网页。
小型团队对此感受尤为深刻。员工经常自行安装扩展程序,导致个人账户最终出现在工作笔记本电脑上。事实上,研究人员甚至发现,在他们客户办公室里,有人将个人账户连接到家用电脑和工作笔记本电脑上。
以下是一份简短的检查清单和日历提醒,帮助您确保浏览器和桌面安全。
本周抽出十五分钟时间,让团队清理一下工具栏。请团队成员打开扩展程序列表,查看并删除不使用的扩展程序,然后分享一个他们最喜欢的扩展程序。将保留的扩展程序添加到共享的已批准列表中。这样一来,你们不仅能拥有更简洁的浏览器,还能养成新的团队习惯,并庆祝一次小小的安全胜利。
CyberHoot 的积极强化平台提供简短的培训视频和非欺骗性的网络钓鱼测试,帮助您的团队养成像这样的强大习惯,一次取得一个小的成功。
欢笑、学习、呐喊!
什么是浏览器扩展程序?
浏览器扩展程序是一种小型插件,可以为浏览器提供额外的功能,例如拼写检查、密码自动填充或广告拦截。扩展程序在浏览器内部运行,可以查看您访问的页面。
我需要停止使用人工智能助手吗?
不。人工智能工具可以节省时间,帮助人们完成更多工作。对待它们应该像对待其他任何可以访问您电脑的软件一样,关闭您不使用的功能。
如何选择安全的扩展程序?
从官方浏览器应用商店安装扩展程序,选择评价多且知名度高的扩展程序,并在点击安装前检查权限。如果某个扩展程序在更新时无故要求更多访问权限,请将其移除。
有人遭遇过这种袭击吗?
研究人员表示,并未发生任何实际攻击。他们的测试是一项概念验证,旨在及早发现问题,以便供应商能够修复这些风险,用户也有时间做出响应。
如果我使用 Dispatch,我应该怎么做?
如果不需要,请关闭跨设备调度功能。如果确实需要使用,请检查已配对的设备,并移除任何不需要访问 claude.ai 的扩展程序。
Forever Security:研究 Gal Weizman 关于浏览器和人工智能风险的文章
发现并分享最新的网络安全趋势、技巧和最佳实践——以及需要注意的新威胁。