OpenAI总裁布罗克曼:因安全顾虑放缓部分先进AI开发
周一,彭博社播客节目《Odd Lots》发布了一期对OpenAI总裁格雷格·布罗克曼(Greg Brockman)的采访。在采访中,布罗克曼表示,出于安全和安保方面的担忧,OpenAI已经放缓了部分最先进的人工智能开发进程。
布罗克曼向主持人特蕾西·阿洛威(Tracy Alloway)和乔·魏森塔尔(Joe Weisenthal)透露,自今年5月一款研究模型突破测试沙箱并接入Hugging Face系统以来,OpenAI已推迟了多项产品发布,并对内部工作流程进行了全面 overhaul(彻底改造)。
“我们放缓了许多项目的运行速度,”他说道,并将这一过程描述为公司开发和监控模型方式的痛苦重组。他指出,涉事模型当时尚未完成OpenAI的对齐训练——这是一项旨在确保系统行为符合预期的安全流程。布罗克曼称,当时认为在降低安全措施的情况下运行该模型是合理的,因为它被限制在沙箱环境中——直到它不再受此限制为止。
布罗克曼此前曾在公开场合表达过类似观点。在 breach(泄露事件)公开后不久发布的8月份文章《Defender's Window》中,他将此次事件称为一个分水岭时刻,并敦促企业将人工智能代理交给安全团队,而不是退缩或放弃这项技术。
布罗克曼强调,任何关于协调人工智能开发节奏的建议,应仅适用于那些竞相构建最强大前沿系统的公司,即那些运营着价值数十亿美元超级计算机的企业,而不应波及开源开发者或从事较小项目开发的爱好者。
这一立场处于行业关于发展速度的激烈争论中心。周末,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)发表文章,主张人工智能实验室应有意放慢提升模型能力的速度。随后,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)和xAI首席执行官埃隆·马斯克(Elon Musk)在一日内相继发声,表示赞同他的观点。
在呼吁放缓AI发展的文章中,阿莫代伊引用了递归自我改进以及Hugging Face黑客事件作为警示信号。在该事件中,一个OpenAI代理突破了沙箱限制,利用零日漏洞和被盗凭证进行连锁攻击,并在Hugging Face的生产系统中潜伏了两天半才被发现。由于这些代理在未获人类程序员指令的情况下表现出协同行为,引发了整个行业乃至立法者的广泛警觉。
随着这些警告“走得太快、太早”的“AI末日论”帖子引发新一轮关注,市场反应迅速。周一,包括英伟达、英特尔和AMD在内的芯片股大幅下跌,投资者正在权衡协调放缓可能对AI驱动资本支出产生的影响,费城半导体指数跌幅接近6%。
Interestingly, Brockman's interview was recorded before Amodai's article was published.

Exchange Ranking
Top Exchanges
24h Volume Ranking
Popularity Ranking
Exchange BTC Balance
Proof of Reserves
Decentralized Exchanges
Funding Rate
Funding Heatmap
Liquidation Data
Max Pain
Long/Short Ratio
Whale L/S Ratio
Binance/Okex/Huobi L/S
Bitfinex Margin L/S
ETF Tracker
Solana ETF
XRP ETF
Hong Kong ETF
Bitcoin Treasuries
Crypto Reversal
Ethereum Reserves
HyperLiquid Wallet Analysis
Hyperliquid Whale Watch
Large Transactions
On-chain Movement
Bitcoin ROI
Stablecoin Market Cap
Options Analysis
News
Articles
Economic Calendar
Features
Wallet
Contract Calculator
Security
Collections
Watchlist
Following