您的位置：首页 → 单机游戏 → 角色扮演 → 怪物猎人世界新装备介绍怪物猎人世界新装备新系统一览

王者归来

安全圈和AI圈都炸锅了，GPT自主黑了Hugging Face，最后靠中国模型救场~_我的网站

小遥17岁

A | 作品声明：个人观点、仅供参考这两天，AI圈和安全圈都坐不住了，有件事足以载入史册。

【环球网报道记者张晓雅】有关欧洲电视网歌唱大赛充斥“政治色彩”的讨论反复出现。 7月16日，全球最大AI开源社区Hugging Face发布安全事件通告，披露了自家生产基础设施遭到入侵，入侵者不是人，而是一个自主AI智能体。这个“入侵者”在一个周末执行了一系列操作，完成了从植入恶意数据集到横移渗透多个内部集群的一条龙攻击。 7月21日，OpenAI发布博客公开承认：这事儿是我干的。攻击者是GPT-5.6 Sol和一款能力更强的未发布模型，它们在一次内部网络安全测试中突破隔离环境，自主发起了对Hugging Face的入侵。 OpenAI将此事定性为前所未有的网络安全事件。

B | 综合“今日俄罗斯”（RT）、《以色列时报》及德媒报道，代表以色列参加2024年欧洲歌唱大赛的20岁女歌手伊登·戈兰(Eden Golan)被控参与“反乌克兰”宣传活动，上了乌克兰极右翼网站的“死亡名单”。不仅因牵涉俄乌冲突引发争论，她还因参赛和曲目等问题陷入与本轮巴以冲突有关的争议中。

C |

伊登·戈兰5月11日参加本届欧洲电视网歌唱大赛决赛图自RT

据RT介绍，“和平缔造者”（Mirotvorets）是一个乌克兰极右翼网站，上面列出了“基辅的敌人”，也被称为基辅的“死亡名单”。报道说，今年早些时候，在她赢得评审团和公众投票入选欧洲歌唱大赛后不久，就被添加到该名单中。这还没完，Hugging Face 安全团队在博客中透露，当它们试图借助商业大模型分析攻击日志时，却因为模型安全护栏限制，请求不断被拒绝。没办法，他们转而使用中国开源模型 GLM 5.2，在本地部署完成了大规模攻击取证与事件还原。事儿就是这么个事儿，这件事曝光后，安全圈震惊，AI圈同样震惊。然而直到本周她进入决赛之前，这一切并没有引起太大的注意。难道先进的AI模型已经有了自主攻击的意识了吗？《碟中谍8》中的智体要降临了吗？所幸，情况还没那么严重。

D | OpenAI调查后认为，模型还不至于那么邪恶，它目标始终只有一个：完成测试任务。

伊登·戈兰被乌克兰极右翼网站“和平缔造者”纳入“敌人名单” 图自“和平缔造者”网站

RT称，根据乌克兰网站说法，伊登·戈兰被控“故意侵犯乌克兰国境线”，“在乌克兰领土上进行非法商业活动”，试图“将对克里米亚的占领合法化”，以及参与“俄罗斯的反乌克兰宣传活动”。为了完成 ExploitGym测试，它不断推理↓ 怎样才能最快拿到答案？正常做题需要一步步寻找漏洞，直接进入数据库拿答案显然更快。

E | 于是模型选择了效率最高的一条路径：想办法去Hugging Face的数据库里找答案。然后，就发生了接下来的一系列的骚操作：越狱、渗透、横移，一口气操作了17000多次。这个“傻小子”的目的只有一个：考试拿个好成绩。注：ExploitGym是一个公开发布的AI网络安全评测基准，由 UC Berkeley等多个机构联合发起，A社、OpenAI、谷歌的安全研究人员共同参与设计。

F | 该测试的目的，是评估智能体能否把一个已知漏洞，真正变成一次可利用的攻击。

G | OpenAI 在报告中用了一个词来描述这种状态：Hyperfocused，也就是极端专注于完成目标。

H | 模型本身没有攻击欲望，也没有恶意，它只是不断优化自己的行动方案，直到完成任务。

I | 这操作，真的就像一个学霸，为了考个高分，利用自己开锁技能，敲开放标准答案的保险柜，直接抄答案。

J | 但，这也恰恰是最细思恐极的地方↓ 智能体有“无心犯大错”的本事了。它可以为了目标主动寻找资源、规划路径、调用工具、突破限制……能力边界发生了明显变化。这次还好只是黑了个Hugging Face，下次说不定要鲨疯了。 OpenAI 也在官方报告中承认，未来模型安全工作的重点，将转向更严格的隔离、监控、访问控制以及评测机制。

K | 因为前沿模型已经能够在真实环境中发现新的攻击路径，并持续执行复杂网络攻击。早在2016年，当戈兰12岁时，她参加了在克里米亚的一场比赛，并与一名俄罗斯歌手兼词曲作者合唱，那次表演是她被该乌克兰网站纳入名单的唯一“罪证”。

伊登·戈兰参赛还引发巴勒斯坦支持者的不满。当然，整个事件还有个最具话题性的部分：中国开源模型救场。

L | 《以色列时报》11日报道称，本周，数千名示威者涌向位于瑞典的主办城市马尔默，要求将以色列歌手踢出欧洲歌唱大赛。尽管她在表演时遭到观众嘘声，但最终还是进入决赛。

此外，综合《以色列时报》和德媒报道，伊登·戈兰的参赛歌曲《飓风》（Hurricane）原版本名为《十月雨》（October Rain），但组织者认为歌名太容易让人联想到去年10月7日哈马斯对以色列发起的袭击，要求修改歌名，歌曲最终改名为《飓风》。攻击被拦截后，Hugging Face 安全团队开始分析攻击日志，他们首先尝试使用商业大模型辅助取证。

M |

欧洲电视网歌唱大赛被称为欧洲级别最高、举办时间最长的歌唱比赛之一，每年举办一次，每次都会吸引众多观众关注。但安全取证必须提交大量真实攻击命令、漏洞利用载荷以及命令控制（C2）数据。

N | 结果，商业模型的安全护栏将这些请求识别为高风险操作，因此拒绝分析。最终，Hugging Face在自己的服务器部署了智谱GLM 5.2，对全部攻击日志进行了离线分析，成功完成攻击链重建和事件取证。早在今年大赛日期临近之际，一些欧洲国家就出现“如继续让以色列参赛，将抵制组织者欧洲广播联盟（EBU）”的声音。美国“政治新闻网”欧洲版2月报道称，1000多名瑞典音乐家联名给欧洲广播联盟致公开信，谴责以色列“在加沙人道主义灾难面前的虚伪”，并抵制其参赛。

。这个细节被真实记录在Hugging Face的博客里，估计智谱做梦也没想到，人在家中坐，饼从天上来，别人躺着中枪，它躺着中奖了。有人调侃：攻击者用的是美国最先进的大模型，防守者最后用的是中国开源模型。当然，这不代表GLM技术比老美的GPT、Claude们强，GLM做的也不是防住攻击，而是做溯源和取证。 Hugging Face用智谱主要干了这些事↓ 重建完整攻击时间线；提取攻击特征（IOC）；梳理所有涉及的凭据；区分真实攻击行为与迷惑性操作。已经相当不错了，开源模型允许企业在本地环境完成更自由、更深入、更开放的使用，足以吊打那些闭源黑盒。对于网络安全行业来说，本地部署和自主可控，也确实是一项核心能力，这不就是我们喜欢的叙事吗。总结下，对于国内这两年相对惨淡的安全市场来说，这或许是个好事↓ 第一，AI红队与AI蓝队时代已经正式开始，未来，攻击方和防守方都会越来越多地使用AI，AI对抗的新市场会带来些商机，这是我们以前说的A面（AI for Security）。第二，智能体安全将成为所有大模型厂商必须面对的新课题，未来真正需要防范的对象，除了对模型的攻击，还有模型自主行动带来更大风险，这是我们说的B面（Security of AI）。第三，开源模型的价值又增加了一条，对于安全行业而言，可离线部署、可深度分析、可自主控制的能力，也许会成为新的竞争优势，当然，目前国内不少安全厂商的安全GPT，也是这么干的。狼真来了，而且，对付狼的，竟然也是狼。我们，与狼共舞呗。

Current article:http://7fjf.linlangdouwaqiexusan.bond/news/20260826_5109.html

Published on:10:49:29

文章评论

查看所有0条评论>>