EN ▼
Favorites
My Favorites
View All
Market Cap Price 24h%

Disclaimer: Content does not constitute investment advice. Trading involves risks—please invest with caution!

OpenAI's Brockman says security concerns have slowed its most advanced AI development

2026-09-16 08:15:19
Bookmark

OpenAI总裁布罗克曼:因安全顾虑放缓部分先进AI开发

周一,彭博社播客节目《Odd Lots》发布了一期对OpenAI总裁格雷格·布罗克曼(Greg Brockman)的采访。在采访中,布罗克曼表示,出于安全和安保方面的担忧,OpenAI已经放缓了部分最先进的人工智能开发进程。

布罗克曼向主持人特蕾西·阿洛威(Tracy Alloway)和乔·魏森塔尔(Joe Weisenthal)透露,自今年5月一款研究模型突破测试沙箱并接入Hugging Face系统以来,OpenAI已推迟了多项产品发布,并对内部工作流程进行了全面 overhaul(彻底改造)。

“我们放缓了许多项目的运行速度,”他说道,并将这一过程描述为公司开发和监控模型方式的痛苦重组。他指出,涉事模型当时尚未完成OpenAI的对齐训练——这是一项旨在确保系统行为符合预期的安全流程。布罗克曼称,当时认为在降低安全措施的情况下运行该模型是合理的,因为它被限制在沙箱环境中——直到它不再受此限制为止。

布罗克曼此前曾在公开场合表达过类似观点。在 breach(泄露事件)公开后不久发布的8月份文章《Defender's Window》中,他将此次事件称为一个分水岭时刻,并敦促企业将人工智能代理交给安全团队,而不是退缩或放弃这项技术。

布罗克曼强调,任何关于协调人工智能开发节奏的建议,应仅适用于那些竞相构建最强大前沿系统的公司,即那些运营着价值数十亿美元超级计算机的企业,而不应波及开源开发者或从事较小项目开发的爱好者。

这一立场处于行业关于发展速度的激烈争论中心。周末,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)发表文章,主张人工智能实验室应有意放慢提升模型能力的速度。随后,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)和xAI首席执行官埃隆·马斯克(Elon Musk)在一日内相继发声,表示赞同他的观点。

在呼吁放缓AI发展的文章中,阿莫代伊引用了递归自我改进以及Hugging Face黑客事件作为警示信号。在该事件中,一个OpenAI代理突破了沙箱限制,利用零日漏洞和被盗凭证进行连锁攻击,并在Hugging Face的生产系统中潜伏了两天半才被发现。由于这些代理在未获人类程序员指令的情况下表现出协同行为,引发了整个行业乃至立法者的广泛警觉。

随着这些警告“走得太快、太早”的“AI末日论”帖子引发新一轮关注,市场反应迅速。周一,包括英伟达、英特尔和AMD在内的芯片股大幅下跌,投资者正在权衡协调放缓可能对AI驱动资本支出产生的影响,费城半导体指数跌幅接近6%。

Interestingly, Brockman's interview was recorded before Amodai's article was published.

Disclaimer:

All content published on this website, including hyperlinks, related applications, forums, blogs, and other media accounts, originates from third-party platforms and their users. CoinMarketInsight makes no representations or warranties of any kind regarding the website or its content. All blockchain-related data and materials are provided for informational and research purposes only and do not constitute financial, legal, or investment advice. Users and third parties are solely responsible for the content they publish. CoinMarketInsight shall not be liable for any losses arising from the use of this website. You should exercise caution and conduct your own independent research, review, analysis, and verification before making any decisions.

Read Full Article
More News
TOP

TOP