史无前例!美国出现人工智能失控事故,更多内幕曝光

来源:环球时报新媒体2026-07-26 11:24

7月25日,路透社援引知情人士消息刊发独家报道称,OpenAI一款AI Agent在入侵人工智能平台Hugging Face后,连续数天实施攻击,而OpenAI直到事件得到控制、Hugging Face已向美国联邦调查局(FBI)报案后,才确认此次入侵是由自家AI Agent造成的。这一事件再次引发外界对美国科技企业AI安全机制的质疑。

报道称,这款AI Agent具备较强自主决策和执行复杂任务的能力,几乎无需人工干预。两名知情人士表示,该AI Agent约于7月9日开始尝试突破OpenAI内部用于测试的隔离环境。

Hugging Face联合创始人托马斯·沃尔夫表示,该公司的系统于7月11日遭到入侵,攻击持续至7月13日。Hugging Face是人工智能模型和工具的重要托管平台。

值得注意的是,为了应对这一极不寻常的人工智能入侵,Hugging Face立刻使用美国最顶尖的人工智能大模型寻找解决方案。可当Hugging Face将自身遭入侵的信息提交给这些美国闭源大模型时,对方却拒绝提供帮助。因为这些闭源大模型的安全机制过于严苛和僵化,无法区分描述事件经过的受害者和实施攻击的一方,选择了“一刀切”。紧急关头,Hugging Face想到了中国同样强大、而且开源的大模型。于是,该平台迅速在本地部署了中国企业智谱AI开发的GLM-5.2大模型,并在这款中国模型的帮助下,成功应对此次攻击。

沃尔夫及3名知情人士称,直到约7月20日,OpenAI才意识到实施攻击的是自家AI Agent,双方也是在这一时间前后首次就事件进行沟通。7月21日,OpenAI公开承认,一款AI Agent失去控制并入侵了Hugging Face,引发全球关注。不过,路透社称,此次攻击持续时间以及OpenAI发现问题滞后的情况,此前并未被公开披露。

沃尔夫表示,Hugging Face正准备公布此次事件的完整时间线,但无法评论OpenAI内部情况。OpenAI则回应称,此次事件“前所未有”,是AI安全领域的重要节点,公司正与外部顾问共同调查,并将在未来发布技术报告。不过,OpenAI发言人表示,路透社报道中存在“若干不准确之处”,但未具体说明。FBI则拒绝置评。

报道称,这起事件发生之际,OpenAI正筹备最快可能于今年启动的首次公开募股(IPO),以筹集未来发展所需资金,因此格外受到外界关注。

多名网络安全专家认为,此次事件暴露出OpenAI内部安全流程可能存在漏洞。美国非营利组织“世界伦理数据基金会”情报专家马利·史密斯表示,如果OpenAI长期未发现AI Agent异常行为,或者发现后却无法及时控制,“两种情况都同样危险,也令人担忧”。

路透社还独家披露称,在此次事件发生前,OpenAI内部已出现一些异常迹象。据3名知情人士介绍,在测试由GPT-5.6 Sol和另一款尚未发布、更强大的模型驱动的AI Agent时,AI Agent曾留下疑似写给“未来版本”的备注,其中包含帮助AI Agent摆脱OpenAI内部限制的指导内容。此外,早期测试中还曾出现监控系统被关闭的情况。不过,路透社表示,目前无法确认这些异常是否与后来逃离测试环境并攻击Hugging Face的AI Agent存在直接关联。

另据两名知情人士透露,直到7月16日Hugging Face发表博客称遭到“自主AI Agent系统”攻击后,OpenAI才意识到攻击者可能是自家AI Agent。这意味着,从模型首次出现异常迹象到OpenAI确认其实施攻击,至少间隔了一周。两名参与调查的知情人士称,7月18日至19日,OpenAI员工在内部日志中发现线索,确认AI Agent已经突破测试限制。但路透社无法确认,是什么原因促使OpenAI重新检查相关日志。

4名了解OpenAI模型训练流程的人士表示,公司通常会同时开展多项模型测试,系统运行速度极快,产生的数据量巨大,员工有时难以及时处理这些数据。

报道称,在OpenAI通知Hugging Face之前,后者已向FBI报案。路透社未能确认FBI是否已正式立案调查。

AI Agent被视为当前AI产业最受关注的发展方向之一。支持者认为,它们未来可承担大量重复性工作,提高生产效率;但自主性增强,也意味着出现不可预测行为的风险上升。

长期研究AI Agent能力和行为的人工智能安全研究机构Palisade Research负责人杰弗里·拉迪什表示,先进AI模型为了完成任务或通过测试,可能会采取“撒谎、作弊甚至黑客攻击”等捷径。他认为,此次事件不仅让OpenAI面临压力,也暴露出整个AI行业在激烈竞争下,是否愿意投入足够资源强化安全防护的问题。

拉迪什表示,仅靠企业自律并不足够,应加强政府监管,否则相关安全措施很难得到充分落实。

  • “推动巴西再工业化进程的重要力量”

    从“产品出海”到“产业扎根”,徐工巴西加速本地化布局 “推动巴西再工业化进程的重要力量” 从巴西圣保罗市向北行驶,一路上低缓山丘连绵起伏。两个多小时后,远处地平线渐渐露出一大片工厂,蔚为壮观。这是
    人民日报
    2026-07-26 12:24
  • 音乐作品被白宫用于宣传打击伊朗行动,美国歌手“水果姐”抨击:深感震惊和愤怒

    据美国《国会山报》《华盛顿邮报》等多家媒体报道,美国流行歌手“水果姐”凯蒂·佩里当地时间25日在社交平台X上发帖,抨击美国白宫日前在一段宣传打击伊朗目标的视频中,未经授权使用她的音乐作品做背景音乐。佩
    环球网微信公众号
    2026-07-26 11:35
  • 史无前例!美国出现人工智能失控事故,更多内幕曝光

    7月25日,路透社援引知情人士消息刊发独家报道称,OpenAI一款AI Agent在入侵人工智能平台Hugging Face后,连续数天实施攻击,而OpenAI直到事件得到控制、Hugging Fac
    环球时报新媒体
    2026-07-26 11:24
  • 越南籍船舶南沙海域遇险,截至目前已有44人获救

    【环球时报-环球网 报道 记者樊巍】据海南省三沙市消息,越南籍船舶“KHOI NGUYEN 18”7月25日在南沙永暑礁附近海域遇险沉没,截至目前,已有44人获救,中方出动6艘船舶、1架救助直升机,1
    环球时报-环球网
    2026-07-26 11:17
  • 闪评|美国企业起诉政府 反对其关税政策

    当地时间7月24日,美国两家企业向美国国际贸易法院提起诉讼,指控美国政府违法援引《1974年贸易法》第301条,对来自60个经济体的商品加征10%或12.5%的关税。 两家企业认为,美国政府虽然更换
    中央广电总台国际在线
    2026-07-26 11:06
  • APEC论坛聚焦亚太人工智能普惠发展

    这是7月23日在成都街头拍摄的会议主题装置。当日,2026年亚太经合组织(APEC)数字和人工智能部长会议在四川成都举行。新华社记者 王曦 摄 原标题:从展台到日常:APEC论坛聚焦亚太人工智能普惠
    新华社
    2026-07-26 10:55
  • 越南籍船舶南海遇险沉没 中方救起39人仍有23人失联

    记者从三沙海上搜救分中心获悉,一艘越南籍船舶在南海海域遇险沉没,船上共有62名船员。目前已有39人获救,仍有23人失联。 据悉,遇险船舶“KHOI NGUYEN18”于7月24日夜间遇险沉没,遇险人
    央视新闻客户端
    2026-07-26 10:35
  • 美军在阿拉伯海登船检查一油轮

    新华社华盛顿7月25日电 美军中央司令部25日在社交媒体上说,当天早些时候,美军在阿拉伯海对一艘悬挂科摩罗旗帜的油轮实施登船检查。该油轮目前已继续航行。 美军中央司令部在帖文中说,美军24日在阿曼湾
    新华网
    2026-07-26 10:18
  • 紧张关系进一步升级!巴西外交部证实:拒绝两名美国官员入境

    【环球网报道】美国《纽约时报》当地时间25日报道称,据美巴两国官员透露,巴西政府阻止了一个美国代表团下周访问该国,原因是担忧这些来访官员将在今年巴西总统选举前对巴西选举制度的安全性提出“毫无根据”的质
    环球网
    2026-07-26 10:11
  • 为破解全球人工智能治理难题贡献中国方案(国际论坛)

    中国正以开放理念和开源姿态推动形成开放开源生态,破除技术壁垒,携手更多国家加强人工智能能力建设 在日前举行的2026世界人工智能大会暨人工智能全球治理高级别会议上,来自100多个国家和国际组织的官方
    人民日报
    2026-07-26 09:48
  • 伊朗革命卫队:英国如继续支持美军将成“打击目标”

    新华社德黑兰7月25日电 针对美军日前从英国费尔福德基地出动B-1“枪骑兵”战略轰炸机,伊朗伊斯兰革命卫队发言人侯赛因·穆赫比25日表示,若英国继续为美军提供支持,它将成为伊朗“明确的合法打击目标”。
    新华网
    2026-07-26 09:45
  • “枪击惊魂”后 白宫记协晚宴在争议声中重办

    新华社北京7月25日电 在经历“枪击惊魂”3个月后,美国白宫记者协会24日在首都华盛顿华尔道夫酒店重新举办年度晚宴,总统特朗普出席晚宴并借讲话机会再度“推销”白宫宴会厅改造项目。晚宴正值特朗普政府与媒
    新华网
    2026-07-26 09:38
  • 日本连续5天出现“酷暑日” 创2010年以来纪录

    新华社北京7月26日电 日本媒体25日报道,当天午后在日本中部三重县测到气温达40.2摄氏度。这是日本连续5天出现40摄氏度以上的“酷暑日”,创下自2010年有相关统计以来的最长纪录。 日本气象厅今
    新华网
    2026-07-26 09:38
  • 澳大利亚鸟类感染禽流感情况扩散至4个州

    新华社北京7月26日电 澳大利亚昆士兰州25日确认一例高致病性H5N1型禽流感病毒感染病例。这是自6月以来,该国第4个州确认出现H5N1型禽流感病例。 感染病毒的是一只迁徙海鸟。有关方面在声明中说,
    新华网
    2026-07-26 09:37
  • 伊朗就商船遭袭召见乌克兰临时代办

    新华社德黑兰7月25日电 据伊朗伊斯兰共和国通讯社25日报道,伊朗外交部当天就乌克兰在里海水域袭击伊朗商船一事召见乌克兰驻伊朗临时代办。 报道说,乌克兰军方25日凌晨在里海水域袭击了一艘伊朗商船,造
    新华网
    2026-07-26 09:33
  • 韩媒:韩国一监狱百发子弹下落不明,已委托警方介入调查

    【环球网报道 记者 姜蔼玲】据韩联社援引韩国法律界7月26日消息,针对大田一所监狱100发子弹下落不明一事,韩国法务部已正式委托警方介入调查。 韩国法务部 资料图 图源:韩媒 今年6月,韩国法务部
    环球网
    2026-07-26 09:23
  • 巴西总统卢拉:任何外部势力不得干预巴西大选

    当地时间25日,巴西总统卢拉在出席圣保罗州劳工党代表大会时表示,“任何企图从外部干预巴西选举的人都将付出沉重代价”。卢拉称,巴西是主权国家,国家命运将由全体选民决定,任何外部势力不得干预。 此前一天
    央视新闻客户端
    2026-07-26 09:15
  • 塞内加尔总统法耶成立新政党

    新华社达喀尔7月25日电(记者陈晨 齐琪)塞内加尔总统法耶25日在首都达喀尔宣布成立新政党“基拉伊—共和爱国者党”。 新政党当天在达喀尔举行成立大会,公布党名和“祖国至上”的口号。党名中的“基拉伊”
    新华网
    2026-07-26 08:59
  • 马斯克,身价暴跌!

    过去一周,马斯克的财富版图遭遇了剧烈的“地壳运动”。他旗下的两家上市公司本周表现糟糕。特斯拉股价本周累跌近20%,收于313.03美元/股,创下2022年以来最大单周跌幅;SpaceX则收于115.0
    中国经济网
    2026-07-26 08:25
  • 柏林突发汽车冲撞行人事件致1死多伤,默茨发声

    【环球网报道 记者 姜蔼玲】据法新社报道,德国总理默茨26日表示,将全面调查前一日晚发生在柏林市中心的汽车冲撞行人事件,并惩处肇事者。该事件已造成至少1人死亡、多人受伤。 救援人员在事发现场对受伤人
    环球网
    2026-07-26 08:36