
郑工长观点
朋友们好,我是郑工长。今天AI圈有几件大事值得关注:首先,一项令人震惊的研究揭示,仅需250个恶意样本就能让大模型"中毒",这颠覆了"模型越大越安全"的基本假设;其次,Claude Code集成Slack,让AI编程助手直接融入工作流,开启了新的自动化范式;同时,智谱开源可操控手机的智能体模型,华为成立基础大模型部,AI在精神医疗领域的深度应用,都显示出行业正在向更深入、更基础、更实用的方向发展。
这让我想到了一个"AI的信任天平"的比喻。过去几年,我们一直在天平的一端不断加码——更大的模型、更强的能力、更广的应用。但今天的研究像一记警钟,提醒我们天平的另一端——安全与信任——的重量可能被严重低估了。当仅需250个恶意文档就能给大模型植入后门时,这意味着攻击成本极低,而防御难度极高。更可怕的是,这种"投毒攻击"可能发生在模型训练的任何环节,从数据收集到微调,防不胜防。
这不仅仅是技术问题,更是信任危机。想象一下,当AI全面进驻三甲医院精神科,2分钟就能生成一份抑郁状态报告时,我们如何确保这些诊断建议没有被"投毒"?当Claude Code这样的AI编程助手直接融入企业工作流,自动编写关键业务代码时,我们如何确保代码的安全性?
与此同时,行业的发展并未因安全挑战而放缓。智谱开源AutoGLM,试图让AI真正学会"使用手机",这背后是AI手机生态主导权的争夺。华为成立基础大模型部,则是中国科技巨头在AI底层技术上的又一次重要布局。这些动作显示,行业正在从应用层竞争向基础层、生态层竞争深化。
那么,在AI能力飞速提升的同时,我们该如何构建与之匹配的安全防御体系?当AI深入医疗、金融等敏感领域时,"信任"这个看似抽象的概念,是否会成为制约AI发展的最大瓶颈?
看看今天AI圈都有哪些新动态:
核心趋势摘要
- AI安全警报拉响,大模型"投毒攻击"成本极低威胁巨大 最新研究显示仅需250个恶意样本即可让大模型中毒,颠覆安全认知,AI信任危机凸显。
- AI编程工作流革新,智能体深度融入开发环境 Claude Code集成Slack让开发者直接在聊天中委托编码任务,标志AI助手从工具向工作流核心转变。
- AI手机生态竞争白热化,开源与闭源路径并行 智谱开源手机操控智能体模型,华为加强基础大模型研发,显示生态主导权争夺进入新阶段。
革命性突破
- 最大规模AI投毒实验结果惊人:仅250个样本攻陷大模型 最新研究揭示仅需250份恶意文档就能让AI模型"中毒"成功植入后门,颠覆"模型越大越安全"假设,攻击成本极低威胁巨大。
- AI全面进驻三甲医院精神科,未来2分钟生成抑郁报告 随着脑机接口、AI大模型等技术发展,人工智能正在全面进驻三甲医院精神科,如何规范利用AI开展精神心理领域研究成为新课题。
- 全国首个省级哲学社会科学AI大模型在武汉发布 "湖北社会科学AI模型及其应用服务项目"正式上线,标志AI大模型在哲学社会科学领域的深度融合与应用探索。
- 智谱开源可操控手机的智能体模型AutoGLM 智谱AI宣布开源核心AI Agent模型AutoGLM,希望通过这款模型让AI真正学会"使用手机",参与AI手机生态竞争。
产业落地加速
- Claude Code集成Slack:AI编程助手迎来工作流革新 Anthropic推出Claude Code的Slack集成功能,让开发者能直接在聊天线程中委托编程任务,基于现有Slack集成增加了完整工作流支持。
- 病理实验室自动化技术的现状与展望 面对病理实验室人力短缺、成本上升及流程标准化不足的挑战,研究探讨数字化订单录入、全自动显微切片及协作机器人等技术的整合路径。
- ServiceNow投资1.1亿加元提升加拿大公共部门AI能力 ServiceNow宣布将投资1.1亿加元以增强加拿大公共部门的人工智能能力,显示企业软件巨头在公共领域AI布局。
- 联想宣布上线天禧AI足球智能体 联想上线天禧AI足球智能体,全面激活2026年FIFA世界杯官方技术合作伙伴身份,为球迷带来智能观赛新体验。
技术生态进展
- 华为2012实验室新成立基础大模型部 华为2012实验室正式成立"基础大模型部",专注于基座模型开发,此前华为发布全球AI人才招募启事面向青年科研人才开放岗位。
- 微软在Windows 11中推出模型上下文协议支持 微软已开始向最新的Windows 11 Insider版本推出模型上下文协议(MCP)原生支持的公开预览版,标志其"智能体操作系统"愿景逐步成为现实。
- 开源和编排将在2026年定义企业AI领导力 红帽CEO认为真正的开源AI需要开放训练数据和模型,仅开放模型权重还不够,企业需要的是可检查、可控制的AI系统。
- 亚马逊AI战略布局解析:智能体技术引领企业变革 AWS re:Invent大会展示亚马逊在智能代理AI和定制模型方面的重大进展,包括AgentCore平台更新和Nova Forge服务发布。
资本与市场
- 2年涨100倍 Clay ARR突破1亿美金,16岁创始人用AI做预测 Clay早期苦苦寻找PMF到快关闭公司,花了7年时间终于找到用AI寻找销售线索这个PMF,找到PMF后快速起飞估值达10亿美金。
- 头部AI大模型迎"上新潮" 多重利好带动港股算力概念走强 近两日港股大市连续调整,但受益诸多利好刺激算力股逆市走强,显示资本市场对AI算力板块持续看好。
- 金融壹账通智能客服项目获2025人工智能大模型金融领域创新应用大赛优秀奖 在"第七届上海金融科技国际论坛"上,金融壹账通智能客服项目获得创新应用大赛优秀奖。
- 卓世科技荣膺甲子光年"2025中国AI Agent领域最具商业潜力榜" 在甲子引力年终盛典上,卓世科技凭借在智能体领域的创新与实践,入选最具商业潜力榜单。
相关新闻源
-
Claude Code集成Slack:AI编程助手迎来工作流革新
Anthropic推出Claude Code的Slack集成功能,让开发者能直接在聊天线程中委托编程任务。这项测试功能于周一以研究预览版形式发布,基于现有Slack集成增加了完整工作流...
来源:至顶网 -
病理实验室自动化技术的现状与展望:提升标准化与安全性的创新路径
编辑推荐:. 面对病理实验室人力短缺、成本上升及流程标准化不足的挑战,本研究系统探讨了数字化订单录入(OE)、全自动显微切片(AS-410M)及协作机器人(cobot)等技术的整合...
来源:生物通 -
最佳企业管理应用清单
使用企业管理应用可以提高工作效率。本文分享了几款功能强大的应用,涵盖工资和工时管理、团队协作和营销内容管理等。
来源:Shopify -
2 年涨 100 倍 Clay ARR 突破 1 亿美金,16 岁创始人用 AI 做预测 1 年多估值 10 亿美金
Clay 可能代表了大部分创业公司的经历,早期苦苦寻找PMF 到快关闭公司,花了7 年时间终于找到用AI 寻找销售线索这个PMF,找到PMF 后快速起飞。
来源:Memo -
开源和编排将在2026年定义企业AI领导力
开源理念曾重塑互联网和云计算,如今AI正面临类似转折点。仅开放模型权重还不够,企业需要的是可检查、可控制的AI系统。红帽CEO认为真正的开源AI需要开放训练数据和模型...
来源:至顶网 -
ServiceNow将投资1.1亿加元提升加拿大公共部门AI能力 提供者 Investing.com
多伦多- ServiceNow (NYSE:NOW)周一宣布将投资1.1亿加元,以增强加拿大公共部门的人工智能能力,据公司新闻稿报道。这项投资仅占这家软件巨头过去十二个月126.7亿美元...
来源:英为财情 Investing.com -
《访问》:马士基计划在2040年或以前实现净零温室气体排放
汇港通讯> 航运、货柜和码头营运商马士基(Maersk)高级知识产权顾问Krishna Singhania 较早前参与亚洲知识产权营商论坛,他接受本通讯社访问时表示,马士基计划在2040年或...
来源:AASTOCKS.com -
Anthropic 宣布在 Slack 推出 Claude Code:让开发者直接在聊天中完成完整编码流程
Anthropic 周一宣布,其新功能Claude Code 将在Slack 中以研究预览版形式上线,让开发者能够在对话线程里直接委派完整的编码任务。这一版本基于Anthropic 现有的Slack...
来源:www.letsclouds.com -
40万字译著“孵化”多维成果 温大外国语学院师生协同打造AI翻译产教融合新范式
中国教育在线浙江站讯(记者陈显婷通讯员叶苗文/摄)近日,温州大学外国语学院在科研反哺教学、服务地方产业发展方面取得重要突破。由该院翻译系主任王红玫博士与崔彦飞...
来源:中国教育在线 -
Fortinet预测2026全球资安威胁 台湾关键设施、OT产业面临「瘫痪营运」攻击
近年来,台湾面临到更多骇客针对关键基础设施、OT、供应链所发动的复杂、大规模的攻击。根据Fortinet最新发布《2026全球资安威胁预测(Cybersecurity Predictions for...
来源:CTIMES -
最大规模AI投毒实验结果惊人:仅250个样本,就让大模型中毒
最新研究揭开了一个令人不安的真相:仅需250份恶意文档,就能让研究中的AI模型“中毒”,成功植入后门!这颠覆了“模型越大越安全”的基本假设。更可怕的是,这意味着攻击成本与...
来源:ThePaper.cn -
AI全面进驻三甲医院精神科,未来2分钟就能生成一份抑郁状态报告
随着脑机接口、AI大模型等技术的发展,人工智能正在全面进驻三甲医院精神科。与此同时,如何规范利用人工智能开展精神心理领域研究,促进新型技术合规临床转化应用,助力...
来源:第一财经 -
全国首个省级哲学社会科学AI大模型在武汉发布湖北社科迈向AI时代_社会综合
湖北省社科AI发展大会上,“湖北社会科学AI模型及其应用服务项目”正式上线发布. 与会领导为湖北首批“数智社科专家”颁发聘书. 华中科技大学党委常委、副校长,省社科联副...
来源:中国甘肃网 -
方心为AI×金融 | 智算满格输出, 软通华方护航金融数智化
北京2025年12月9日 /美通社/ -- 当前,金融数字化正从"技术迭代"向"价值重构" 全面升级。合规明确转型方向、效率激活增长潜能、安全夯实发展根基,三者协同发力,不仅成为...
来源:美通社官网 -
智谱开源可操控手机的智能体模型:AI手机只在一家做是不够的
12月9日,界面新闻获悉,“大模型六小虎”之一的智谱AI宣布开源核心AI Agent模型AutoGLM,称希望通过这款模型,让AI真正学会“使用手机”。 谈及在当下这个时间节点选择开源的...
来源:界面新闻 -
大模型双雄之争:AI教父押谷歌会赢得最终胜利
谷歌凭借Gemini 3和TPU正在带动市占与用户活跃度快速提升。而在谷歌与OpenAI的双雄之争中,「AI教父」辛顿(Geoffrey Hinton)押谷歌会赢,“谷歌已经开始超越OpenAI了”。
来源:新浪网 -
100 万亿 Token 揭秘全球用户怎么用 AI:一半算力用在「不可描述」的地方
AI 领域迄今最大规模的用户行为实录,刚刚发布了。 这是全球模型聚合平台OpenRouter 联合硅谷顶级风投a16z 发布的一份报告,基于全球100 万亿次真实API 调用、覆盖300+...
来源:爱范儿 -
华为 2012 实验室新成立基础大模型部 - OSCHINA - 开源 × AI · 开发者生态社区
华为2012实验室正式成立“基础大模型部”,专注于基座模型开发。此前,华为发布全球AI人才招募启事,面向具备卓越学术背景与创新能力的青年科研人才开放岗位,并明确表示拥有...
来源:OSCHINA -
金融壹账通智能客服项目获2025人工智能大模型金融领域创新应用大赛优秀奖
近日,在“第七届上海金融科技国际论坛”上,2025年人工智能大模型金融领域创新应用大赛正式揭晓获奖名单。本次大赛由中国银联国家人工智能应用中试基地、上海金融领域大...
来源:上观新闻 -
头部AI大模型迎“上新潮” 多重利好带动港股算力概念走强 提供者 财联社
财联社12月9日讯(编辑冯轶)近两日港股大市连续调整,但受益诸多利好刺激算力股逆市走强。 截至发稿,今日FIT HON TENG(06088.HK)即鸿腾精密大涨超11%,万国数据-SW(09698.
来源:英为财情 Investing.com -
AI智能体与App的博弈:未来数字生态主导权之争
周城雄(中国科学院科技战略咨询研究院研究员、数智创新与治理研究中心副主任). 近日豆包手机助手被多款主流App禁用,引发市场广泛关注。这场看似简单的登录纠纷实则揭开...
来源:证券时报 -
硅谷人工智能研究院院长皮埃罗·斯加鲁菲:2025年AI智能体将重塑数字劳动力
12月9日,由中关村科金和甲子光年联合主办的“超级连接·智见未来” EVOLVE 2025 大模型与智能体产业创新峰会在北京盛大召开。现场,中关村科金首次公开企业级智能体落地...
来源:FX168 -
关于AI智能体的“路由策略”
解析AI智能体路由策略的核心差异,对比传统网络路由与智能动态决策逻辑。智能体开发平台如何依托大模型技术优化路径选择?人工智能大模型技术助力智能体应对复杂环境,...
来源:53AI -
全国首个“石榴籽”AI智能体在常州发布
12月3日,“铸牢中华民族共同体意识教育联合体启动仪式暨铸牢中华民族共同体意识'大思政课'第一讲”在常州成功举办。本次活动由江苏理工学院与常州市民族宗教事务局共同...
来源:新华报业网 -
亚马逊AI战略布局解析:智能体技术引领企业变革
AWS re:Invent大会展示了亚马逊在智能代理AI和定制模型方面的重大进展,包括AgentCore平台更新和Nova Forge服务发布。英伟达CEO黄仁勋在独家访谈中预测AI工厂将在边缘...
来源:至顶网 -
智谱开源可操控手机的智能体模型:AI手机只在一家做是不够的
12月9日,界面新闻获悉,“大模型六小虎”之一的智谱AI宣布开源核心AI Agent模型AutoGLM,称希望通过这款模型,让AI真正学会“使用手机”。 谈及在当下这个时间节点选择开源的...
来源:界面新闻 -
联想宣布上线天禧AI足球智能体
12月9日消息,联想近日宣布上线联想天禧AI足球智能体,全面激活2026年FIFA世界杯官方技术合作伙伴及联想moto官方智能手机合作伙伴身份。联想集团副总裁王传东称,...
来源:新浪财经 -
卓世科技荣膺甲子光年“2025中国AI Agent领域最具商业潜力榜”
近日,“轰然成势,万象归一”2025甲子引力年终盛典在北京万达文华酒店成功举办。大会现场,甲子光年正式发布「2025中国AI Agent领域最具商业潜力榜」。卓世科技凭借在智能...
来源:中华网 -
世界杯主队签运预测!联想天禧AI足球智能体正式上线
12月9日消息,近日联想正式上线联想天禧AI足球智能体,为全球球迷带来智能观赛新体验。这标志着联想作为2026年世界杯官方技术合作伙伴、联想moto作为官方智能手机合作...
来源:新浪财经 -
微软在Windows 11中推出模型上下文协议支持,智能体操作系统愿景加速实现
微软已开始向最新的Windows 11 Insider版本推出模型上下文协议(MCP)原生支持的公开预览版,这标志着其备受瞩目的"智能体操作系统"愿景正在逐步成为现实。
来源:至顶网



