主页 / 腾讯云TVP AI与安全高峰论坛 / 安全大模型发展路径洞察与实践
-
作者潘剑锋
-
简介
《安全大模型发展路径洞察与实践》由360集团CTO潘剑锋主讲，提出“快思考-深度思考-慢思考”三级跃迁模型：先用统计性快思考解决告警降噪、钓鱼识别等高频任务，再借CoE多专家架构与Agentic Workflow实现复杂威胁狩猎的“慢思考”。依托360百亿级终端与网络攻防语料，CCoE模型在52个恶意家族检测中全面超越GPT-4；并通过“思想钢印”记忆机制与蒙特卡洛树搜索，持续沉淀专家经验，驱动终端、流量、云、浏览器全线产品升级。报告最终呼吁以安全大模型重塑攻防思维模式，迈向“AI即安全服务”新时代。
潘剑锋先是讨论大模型的理解能力，引入“快慢思考”概念来评估当前大模型的能力。他表示目前大模型的价值是很好地模拟人脑的“快思考”，即大模型通过海量数据训练，做文字符号层面的统计处理，从数据中找出统计性规律，在概括的意义上掌握学习样本所反映的隐含知识，并以此为基础生成内容。而“慢思考”需要对事物具有本质性理解，需借助事实性知识，通过多步推理、反思，是“深思熟虑”的结晶。针对慢思考任务的场景中，当前可编排专家经验，整合安全大模型、知识库、工具库的能力，实现半自主的推理 Agent。
当前，国内大模型赋能安全产品主要采用两种不同层次的方式：一是直接使用通用大模型的能力实现安全应用；二是应用安全垂直大模型。这两种方式之间的区别就像“一个博学的人拿着医科全书”与“主任医师”，前者虽然能够查到专业知识，但是不能够贯通运用；后者是具有丰富的临床实践经验。安全垂直大模型能够将专业的安全数据真正训练进入模型中。
潘剑锋分享如何基于以上理论进行落地实践，包括安全语料生产、模型分区训练和慢思考实现方式。高质量的安全语料被视为行业的护城河，360 首创的 CoE 技术架构允许不同的安全专家分区训练各自的模型，有效减少多任务冲突、过拟合等问题，保证训练效果同时降低资源消耗。
潘剑锋目前基于推理时计算扩展的方法，在外延方面进行创新，还尝试做本质性理解的相关工作。通过团队的持续探索，有望进一步提升大模型在安全领域的效能与适用范围，寻找新的发展范式。
-
提示本站仅做资料的整理和索引,转载引用请注明出处
相关推荐
-
2025-10-29 14:04:36.734310 -
2025-09-04 13:17:38.796006 -
2025-08-19 13:52:14.691007 -
2025-08-15 02:45:44.623486
附件下载
-
安全大模型发展路径洞察与实践-潘剑锋.pdf