
OpenAI 宣布和安全团队 Hacktron 建立合作,一起找 OpenAI 自家系统里的漏洞。消息不长,但信号很清楚:AI 智能体越来越多地替用户去连接别的服务,这些"连接处"正在成为安全攻防的重点。
发生了什么
按 OpenAI 的说法,这次合作有三个要点:
- 双方一起挑重点区域测试。OpenAI 的工程师和 Hacktron 的安全研究员共同选择高优先级目标,重点放在 OpenAI 的系统如何与第三方服务交互。
- 给对方更多模型能力。OpenAI 会通过一个叫 Daybreak Red 的渠道,扩大 Hacktron 对前沿模型的访问权限,让对方用更强的模型来找漏洞。
- 从漏洞赏金计划里"挖"来的合作方。OpenAI 是通过自己的安全漏洞赏金计划认识 Hacktron 的,对他们提交的漏洞影响力印象深刻。
Hacktron 本身是做 AI 安全智能体的团队,产品方向包括代码审查、渗透测试和红队演练。OpenAI 提到,他们此前的研究发现过应用、云基础设施和身份系统之间交互时出现的漏洞。
这不是孤立的一步
把这条消息放回本周的上下文里看,会更有意思。OpenAI 在同一篇公告里提到了另外两件事:
- 本周早些时候,OpenAI 宣布 Cathedral 的研究员会加入它下一轮安全冲刺,和内部团队一起工作。
- OpenAI 还提高了漏洞赏金的奖励,目的是让独立研究员更有动力去找内部测试可能漏掉的问题。
也就是说,一周之内 OpenAI 连续做了三件事:引入外部团队参与安全冲刺、提高赏金、和 Hacktron 深度合作。OpenAI 自己的表述是,在用前沿 AI 加速网络防御的同时,也要用同样的紧迫感去修自己系统的漏洞。
我的理解是,这是一个"以 AI 打 AI"的思路:用最强的模型去帮安全研究员找漏洞,再用找到的问题加固系统。安全行业里,攻击者已经在用 AI 提速,防守方不跟上就会吃亏。
为什么重点是"和第三方服务的连接"
这一点是这次合作里最值得普通用户留意的。
过去 ChatGPT 主要是一个对话框,你输入、它输出,风险大多集中在账号本身。现在情况变了:ChatGPT 可以连接云盘、邮箱、日历、代码仓库等外部服务,智能体可以替你打开网页、读文件、执行任务。每多一个连接,就多一个可能被利用的接口。
OpenAI 在公告里也直说了:随着 AI 智能体以新的方式把各种服务连起来,懂 AI 又懂安全的研究能力会更加重要。Hacktron 过去恰好专门研究"应用、云和身份系统之间"的漏洞,这和 OpenAI 想测的方向高度吻合。
对国内用户意味着什么
这次合作是 OpenAI 后台的安全工作,用户这边不需要做任何操作,也不会看到界面变化。但它提醒了几件自己能做、而且值得做的事。
1. 连接外部应用时,只给必要的权限。 给 ChatGPT 接云盘或邮箱时,留意授权页面上写了哪些权限。只需要读的,就不要给写入或删除权限;只需要某个文件夹的,就不要授权整个账号。
2. 定期清理不用的连接。 试用过就不再用的连接,记得在设置里断开。长期挂着、自己都忘了的授权,往往是最容易出问题的地方。
3. 让智能体执行操作前,先看清它要做什么。 智能体帮你发邮件、改文件、提交表单之前,养成先确认内容的习惯。这不只是防漏洞,也是防模型自己理解错了你的意思。
4. 敏感资料不要随手丢进对话。 公司内部数据、客户信息、证件号码,即使平台安全做得再好,也尽量先脱敏再交给 AI。
5. 账号本身的安全要做足。 开启两步验证,不在来路不明的网站登录,不使用来源不清的共享账号。共享账号意味着你的对话记录和连接的外部服务,别人也可能看到。
如果你想在国内用自己的独立账号、放心地接入这些功能,可以通过下面的入口开通:
对开发者和安全从业者
如果你本身做安全研究,OpenAI 的漏洞赏金计划是一个明确的机会:赏金刚刚上调,而 Hacktron 的例子说明,在赏金计划里表现突出的团队,有机会被邀请做更深入的合作。哪些系统在测试范围内,可以去 OpenAI 的安全漏洞赏金页面查看。
如果你在做自己的 AI 应用,也可以借鉴这个思路:智能体和外部服务的连接点,是最需要重点测试的地方。权限最小化、调用记录可追溯、高风险操作需要人工确认,这几条应该从一开始就设计进去,而不是出了事再补。
我的判断
这条消息本身不大,但方向值得重视。AI 产品正在从"会聊天"走向"会办事",办事就要连接账号、调用接口、读写数据,安全的重心自然从模型本身转向这些连接。OpenAI 把外部安全团队请进来、给他们更强的模型去攻自己的系统,是一种比较务实的做法。
对用户来说,平台在加固是好事,但自己这一侧的习惯同样重要:权限给少一点,连接清理勤一点,敏感数据谨慎一点。
信息来源
- OpenAI News:Partnering with Hacktron to find vulnerabilities in OpenAI’s systems
- best2ai 条目:Partnering with Hacktron to find vulnerabilities in OpenAI’s systems
OKAI66 为独立第三方服务平台,非 OpenAI/xAI 官方网站。
更多每日 AI 热点见 best2ai.com