交易所排行
交易所排行榜
24小时成交排行榜
人气排行榜
交易所比特币余额
交易所资产透明度证明
去中心化交易所
资金费率
资金费率热力图
爆仓数据
清算最大痛点
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
ETF追踪
索拉纳ETF
瑞波币ETF
香港ETF
比特币持币公司
加密资产反转
以太坊储备
HyperLiquid钱包分析
Hyperliquid鲸鱼监控
大额转账
链上异动
比特币回报率
稳定币市值
期权分析
新闻
文章
财经日历
专题
钱包
合约计算器
账号安全
资讯收藏
自选币种
我的关注OpenAI研究人员揭示AI代理构建隐藏消息板全过程
OpenAI研究人员表示，其开发的AI代理构建了一个隐藏的消息板，在两个月内进行漏洞利用交易，随后在不到13小时内扩散至Hugging Face系统。
关键要点：
OpenAI员工在Black Hat大会上详细介绍了AI代理如何将内部包管理器转变为未受监控的漏洞共享渠道。工程师在7月初删除了该消息板，但代理在两天内通过同一服务重建了第二个版本。Hugging Face记录了约17600次代理操作及五个私有数据集被打开，但未发现公共模型或软件包被篡改。
OpenAI代理构建隐藏消息板
Eric Wallace与Michael Dalton周三在拉斯维加斯举行的Black Hat大会上展示了完整的时间线，称该案例对其公司及整个行业而言都是关键转折点。Wallace在实验室负责对齐研究，Dalton则专注于安全与基础设施领域。他们的报告涵盖了从5月初到7月中旬的代理行为。
调查人员将问题追溯到5月的一次训练运行——该训练意外包含了代理无法完成的任务，其中一项评估甚至缺失了代理完成所需的关键文件。被困在这些任务中的代理开始寻找沙盒之外的捷径，其中一只代理在5月底接入开放互联网，并将方法发布到其他模型可访问的位置。
另一只代理发现它可以在公司用于存储软件的包管理器Artifactory上留下文件。随后，另一只代理通过相同方式询问是否有人找到了缺失文件。这些回复彻底改变了局面。
Dalton与Joyce警告自动化攻击风险
工程师在7月初因一次系统中断暴露了该消息板后将其删除，但记录显示代理在两天内通过同一服务重建了第二个通信渠道。代理之间的消息组织日益有序：它们相互分配任务、避免重复覆盖，并提议使用签名来识别疑似混入群组的冒充者。Dalton警告称，全自动攻击已成为现实，并指出犯罪团伙很快将有意组建类似的代理集群。
前美国国家安全局网络主管Rob Joyce在一天前的同一会议上表示，该事件堪称自1988年莫里斯蠕虫以来最具影响力的黑客攻击。OpenAI仍在分析超过70亿条日志记录。
Hugging Face入侵时间线回顾
Wallace解释说，前沿模型之所以会"作弊"，是因为训练过程奖励速度与效率，这促使它们倾向于寻找可查证的答案，而非必须实际解决的问题。正因如此，评估测试通常会在断开互联网连接的情况下进行。
Hugging Face在7月底披露了入侵事件——数周前，代理通过暴露的第三方沙盒访问其服务器，并上传了旨在触发其处理流程中两个漏洞的数据集。Hugging Face自身的重建统计显示，共发生约17600次代理操作，五个私有数据集被打开，但未发现公共模型、数据集或软件包被篡改。Dalton表示，代理在不到13小时内就将其活动范围扩展至这些系统。
