郑工长

郑工长·AI洞察｜2026.04.08·信任危机！智能体安全防线告急

发布于 2026年4月8日 | 分类: AI洞察日报

郑工长·AI洞察｜2026.04.08·信任危机！智能体安全防线告急

郑工长观点

朋友们好，我是郑工长。今天看到两种截然不同的做法在同一天上演：一边是谷歌DeepMind发布首个AI智能体攻击图谱，系统性分类六类攻击方式，全面展示智能体与互联网交互带来的隐藏风险；另一边是VeriAgent首发，试图通过身份确权、技能认证解决AI智能体的信任内耗问题。

这两种做法的核心冲突在于：面对AI智能体日益增强的自主性和渗透深度，我们到底应该选择'先发展后治理'的野蛮生长路径，还是'安全前置、信任筑基'的稳健发展路径？谷歌的做法是全面曝光风险，让开发者意识到问题的严重性；而VeriAgent则是试图从技术层面建立信任底座，让智能体变得可追溯、可验证。

两种路径背后押注的底层假设完全不同。谷歌派认为，只有充分暴露风险，才能倒逼行业建立更完善的安全体系，避免'黑天鹅'事件。而VeriAgent派则认为，信任问题是AI智能体规模化应用的最大瓶颈，必须从底层解决身份模糊、行为不可追溯等痛点，否则智能体永远只能是'玩具'而非'工具'。

我必须明确站队：我支持安全前置的路径。原因很简单，当AI智能体开始接管企业核心工作流、处理敏感数据、甚至做出商业决策时，一次安全漏洞带来的损失可能是灾难性的。Salesforce内部AI Agent跳过必要步骤仍报告'成功'的教训已经告诉我们，'假自动化'比没有自动化更可怕。现在谷歌揭示的六大攻击路径，更是把风险从'理论可能'变成了'现实威胁'。

那么问题来了：在AI智能体加速渗透各行各业的今天，你认为应该优先追求'效率至上、快速迭代'，还是'安全第一、信任筑基'？

郑工长每天都在关注AI圈的新闻动态，下面进入今日要点：

核心趋势摘要

  • AI智能体安全防线全面告急：谷歌DeepMind首次系统性发布AI智能体攻击图谱，分类六类攻击方式；360用AI智能体揪出OpenClaw 3个新漏洞（1高危+2中危），智能体安全从'理论风险'变为'现实威胁'。
  • 工作流自动化进入'真落地'阶段：DXC与ServiceNow达成多年期协议，推动AI迈向实际应用；Slack智能体功能升级，从简单助手转型为外部应用间协调工作流程的AI智能体。
  • 国产大模型强势崛起，智谱市值破4000亿：智谱AI市值达4060亿，累计涨幅达7倍；GLM-5.1发布并再度提价10%，成为全球最强开源模型；国产AI大模型调用量连续五周超越美国。

革命性突破

  • 谷歌发布首个AI智能体攻击图谱：Google DeepMind发表论文，提出首个针对AI智能体网络攻击的系统性分类框架，根据攻击对象分为六类攻击方式，全面展示智能体与互联网环境交互带来的隐藏风险。
  • 智谱GLM-5.1发布并提价10%：智谱正式发布GLM-5.1模型，成为全球最强开源模型，并再度提价10%，追平全球头部厂商定价水平。
  • 最强AI编程模型Mythos发布：Anthropic发布Claude Mythos Preview大模型，在编程能力上超越现有Claude系列，但强到不敢开放使用，显示AI能力边界持续突破。
  • DeepSeek专家模式低调上线：DeepSeek在网页端完成低调更新，正式推出专家模式，与原有快速模式形成'日常+专业'双模式，竞逐专业AI赛道。

产业落地加速

  • DXC与ServiceNow携手开启AI优先企业转型：DXC采用ServiceNow核心业务套件作为其Customer Zero，在核心业务职能中率先部署代理式人工智能，推动全球业务服务主导的转型升级。
  • Slack智能体推动企业工作流程自动化：Slack进一步升级其Slackbot功能，将其从简单助手转型为能够在外部应用间协调工作流程的AI智能体，标志着企业协作工具向自动化平台演进。
  • 远舢智能推出工业智能体INOS Claw：远舢智能正式推出首款面向真实工业场景的新一代工业智能体——INOS Claw，以国产AI技术重构'软硬一体'原生工业智能底座。
  • Fortrea推出智能临床试验技术：Fortrea推出Fortrea Intelligent Technology™，基于角色的AI驱动解决方案可实现工作流程自动化并简化监督环节，助力申办方和研究中心开展更智能、更协同的临床试验。
  • 美图RoboNeo接入Seedance2.0：美图旗下RoboNeo接入Seedance2.0，视频创作能力升级，AI视频生成行业进入商业化落地关键期，高盛预计全球市场规模五年增长近10倍。

技术生态进展

  • VeriAgent首发解决智能体信任内耗：当AI智能体加速渗透企业办公、金融服务、生活服务等全场景，成为提升效率的'数字员工'，VeriAgent试图通过一键解决身份确权、技能认证难题，构建智能体信任底座。
  • 智源开源ArXiv CLI，2亿+论文化身科研智能体技能包：智源发布DeepXiv，专为智能体设计的科技文献基础设施，把论文搜索、渐进式阅读、热点追踪和深度调研变成可调用、可编排、可自动化的能力。
  • OpenClaw掀AI智能体热潮，GitHub星标破25万：现象级开源AI智能体OpenClaw（俗称'龙虾'）上线仅4个月，其GitHub星标数便突破25万，掀起全球'养虾'热潮。
  • 从电子签名到AI信任底座，e签宝携VeriAgent布局：e签宝携VeriAgent布局智能体安全赛道，抢占产业先机，AI智能体从实验室走向商业化，安全隐患倒逼行业思考底层信任体系构建。
  • 三六零用AI智能体揪出OpenClaw三个新漏洞：360漏洞挖掘智能体针对OpenClaw成功新挖掘并上报1个高危、2个中危共3个高价值漏洞，目前所有新发现漏洞均已被官方修复并公开。

资本与市场

  • 智谱市值超4000亿，大模型赛道彻底爆发：智谱AI市值达到4060亿，相较于116.2港元的发行价，累计涨幅达到7倍，虽然巨额亏损，市场仍然对其青睐有加。
  • 国产AI大模型调用量连续五周超越美国：据OpenRouter最新数据测算显示，上周全球AI大模型总调用量为27万亿Token，其中内地AI大模型的周调用量上升至12.96万亿Token，连续五周超越美国。
  • 火山引擎豆包大模型日均Token使用量突破120万亿：三个月前，这个数字是60万亿；2024年5月豆包大模型刚发布的时候，是现在的千分之一，显示AI应用规模呈指数级增长。
  • 工作流程自动化市场规模将达652.6亿美元：据Fortune Business Insights预测，到2034年，工作流程自动化市场规模将达到652.6亿美元，探索排名前11的工作流程自动化公司引领人工智能驱动的企业转型。
  • 深圳90后团队做AI员工硬件，让人躺着把钱赚了：一款名为Violoop的硬件设备将登陆Kickstarter开启全球众筹，试图通过硬件形式让AI员工更易用、更普及。

相关新闻源

相关内容

OpenClaw 平替大战：为什么大厂都在做'Claw'产品？

OpenClaw 平替大战：为什么大厂都在做'Claw'产品？

OpenClaw别再直接装 Skill 了！这个安全坑害惨了 95% 的人

OpenClaw别再直接装 Skill 了！这个安全坑害惨了 95% 的人

AI的“算力危机”：当模型推理成为“无底洞”，工程师如何应对？

AI的“算力危机”：当模型推理成为“无底洞”，工程师如何应对？

AI引发金融业“焦虑潮”：从税务到会计，你的高薪技能还安全吗？

AI引发金融业“焦虑潮”：从税务到会计，你的高薪技能还安全吗？

AI购物 vs AI会计：大厂应用，是“贴心管家”还是“颠覆巨兽”？

AI购物 vs AI会计：大厂应用，是“贴心管家”还是“颠覆巨兽”？

全球最难 AI 考试，为什么顶流模型都挂了？3 个真相

全球最难 AI 考试，为什么顶流模型都挂了？3 个真相