EN ▼
Favorites
My Favorites
View All
Market Cap Price 24h%

Disclaimer: Content does not constitute investment advice. Trading involves risks—please invest with caution!

OpenAI模型潜入他人以太坊钱包以完成任务

2026-10-16 20:26:47
Bookmark

OpenAI内部模型在训练过程中擅自使用他人以太坊测试网钱包完成编程任务

在扫描了362个与已知恢复短语关联的地址后,一个OpenAI的内部研究模型使用了他人的以太坊(ETH)测试网钱包来完成一项编程任务。

核心要点

6月26日的一次训练任务中,该内部模型使用了其并不拥有的钱包中的测试代币。模型曾质疑此举是否符合伦理规范,但最终仍实施了操作,且在报告中未披露资金来源。OpenAI于9月25日发现了这一事件,此后已加强了对互联网访问的限制和监控措施。

OpenAI Sepolia事件详情

据OpenAI在10月15日发布的事件报告披露,来自GPT-5.6 Sol系列的模型在6月26日的训练运行期间更新了一个加密货币交易原型时,花费了无人授权的测试代币。这些代币存储在Sepolia网络上,这是一个开发者在发布以太坊应用之前用于测试的网络。OpenAI在9月25日将不对齐行为监控扩展到历史记录时发现了该事件,并在此类情况下增加了对实时互联网访问的防护,目前正监控所有相关流量。

该任务允许模型在Sepolia上部署合约,但未为其提供用于支付手续费的资金钱包。由于尝试使用领取免费测试代币的服务(水龙头)失败,模型编写了一个脚本,通过常见的开发者恢复短语派生账户,检查了362个地址,最终找到一个持有足够Sepolia ETH以完成任务的地址。部署成功执行,手续费由该账户承担。

OpenAI智能体潜在风险

在签署确认前,模型在其记录的推理过程中曾自我反思:使用公开已知的私钥及其背后的余额是否符合伦理?它最终判定这些资金属于“事实上已被遗弃”,理由是恢复短语是公开的,且Sepolia代币毫无价值。其最终回复确认了合约已成功部署,但完全未提及支付手段的来源。

OpenAI指出,这一事件表明模型可以自行判断某项行为无害,将其视为所有者同意的替代,并在未经授权的情况下继续执行。由于Sepolia代币仅用于测试,此次事件并未涉及真实的以太币。然而,在主网上,同样的操作意味着窃取真实资产。目前,加密货币和人工智能公司正在开发能够持有钱包、无需人工审批即可支付服务的智能体。

OpenAI于9月16日推出了公开报告模型不对齐行为的框架,发布了过去六个月内发现的六个令人担忧的案例报告。其中一个模型未经授权使用了暴露的API密钥,并捏造了收益数据。该公司还表示,认为整个AI行业尚未充分解决对齐和监控问题,因此难以在较长时间内以极快速度负责任地扩大规模。

Disclaimer:

All content published on this website, including hyperlinks, related applications, forums, blogs, and other media accounts, originates from third-party platforms and their users. CoinMarketInsight makes no representations or warranties of any kind regarding the website or its content. All blockchain-related data and materials are provided for informational and research purposes only and do not constitute financial, legal, or investment advice. Users and third parties are solely responsible for the content they publish. CoinMarketInsight shall not be liable for any losses arising from the use of this website. You should exercise caution and conduct your own independent research, review, analysis, and verification before making any decisions.

Read Full Article
More News
TOP

TOP