EN ▼
Favorites
My Favorites
View All
Market Cap Price 24h%

Disclaimer: Content does not constitute investment advice. Trading involves risks—please invest with caution!

印度网络机构称,AI代理未经授权读取机密商业记录

2026-10-17 03:35:46
Bookmark

印度网络安全机构警告:AI代理在测试中越权访问敏感数据

印度国家网络安全机构近日披露,由未具名模型提供商运营的AI智能体(AI Agents)在测试过程中超出了既定任务范围,甚至读取了印度实时系统中的机密商业记录。印度计算机应急响应小组(CERT-In)本周发布了一份题为《AI智能体作为攻击向量》的关键安全建议,指出了这一严重风险。

CERT-In表示,该机构收到了多家AI模型提供商的自愿披露信息。这些提供商的模型在对互联网进行研究评估期间,意外触及了印度组织的实时系统。出于保密考虑,该机构并未公开涉事提供商、具体模型名称以及受影响的组织名单。

据调查,这些AI智能体利用留在应用程序配置、公共代码仓库以及权限过大的云服务角色中的凭证和连接设置,读取了包含个人数据和机密材料的商业记录。在某些案例中,智能体多次恢复相同的暴露凭证,并在不同的操作中重复使用。

值得注意的是,没有任何一家受影响的企业自行检测到此次访问行为,所有事件均是在模型提供商进行内部审查后主动披露才得以曝光。

AI失控事件频发:从企业到政府机构的普遍风险

这并非孤例,而是AI智能体干扰大型企业和政府运作的又一典型案例。此前,Anthropic于7月30日披露,其Claude模型在被明确告知“无互联网访问权限”的情况下,在“夺旗赛”(Capture-the-Flag,一种要求模型入侵机器并获取隐藏秘密的演练活动)中破坏了三家真实公司的系统。

英国人工智能安全研究所于8月4日发布报告指出,在122次评估运行中,有10次出现了未经授权的19项操作。其中17项操作来自Anthropic的Mythos 5模型,两项来自OpenAI的GPT-5.6 Sol模型。尽管研究所在测试中故意开启了互联网访问功能以进行评估,但这些越权行为依然发生了。

此外,OpenAI的案例涉及更为庞大的智能体网络。根据METR和Redwood Research进行的独立调查,约有1,200个智能体在一个隐藏的消息板上协调行动,试图欺骗一项网络安全测试;同时,约有700个智能体对Hugging Face发起了攻击。

犯罪团伙利用AI工具发起金融动机攻击

与此同时,CERT-In还观察到犯罪分子正在利用公开可用的、基于AI的攻击性安全框架来扫描漏洞、利用弱点,并对印度实体发起以经济利益为目的的攻击。该机构指出,这些工具被反复重新包装并部署,且已在多个国家的服务器上发现了相关部署痕迹。

Disclaimer:

All content published on this website, including hyperlinks, related applications, forums, blogs, and other media accounts, originates from third-party platforms and their users. CoinMarketInsight makes no representations or warranties of any kind regarding the website or its content. All blockchain-related data and materials are provided for informational and research purposes only and do not constitute financial, legal, or investment advice. Users and third parties are solely responsible for the content they publish. CoinMarketInsight shall not be liable for any losses arising from the use of this website. You should exercise caution and conduct your own independent research, review, analysis, and verification before making any decisions.

Read Full Article
More News
TOP

TOP