主页 / QCon全球软件开发大会【上海站】2024 / 百度基于大模型安全运营的质效提升实践
-
作者包沉浮
-
简介
百度作为一家业务复杂的大型互联网企业，同时又是关键基础设施，随着网络安全威胁的日益加剧，传统的安全运营手段在效率和效果上都面临巨大挑战。本次分享将介绍百度如何基于大模型构建深度安全推理智能体框架，实现运营效率和效果的双重提升，并展示包括告警自动研判和漏洞事件分析在内的实践经验，希望能给听众带来一些大模型安全领域应用最佳实践的启示。
演讲提纲
- 背景和挑战
大模型开始逐步应用于安全运营场景 百度安全运营面临的双效（效率+效果）提升需求 2. 架构设计
设计目标：基于深度安全推理智能体框架，实现双效提升 设计考虑：人机协同的工作流设计（运营流程梳理、质量标准定义、人机交互模式）、模型能力边界与拓展（模型结果可信度和可解释性、知识和工具依赖）、实施成本 整体架构（自底向上）： 底座模型的知识补充 RAG、CoT、Function calling 流程编排 智能体 Review 机制 3. 实践案例
告警自动/辅助研判 + 事件处置 漏洞事件自动分析 + 处置 4. 未来展望
大模型原生的安全运营中心 实践痛点
明确目标，围绕安全运营场景的风险偏好，制定更贴合实际的落地目标，避免直接盲目追求大而全的零职守无人干预 以数据驱动能力迭代，缺少可用数据时应当从实际场景中提升标准化和自动化水平，引入业务的数据活水，避免直接使用脱离业务的合成数据 演讲亮点
从架构设计层面剖析安全运营场景双效提升应遵循的必要准则，提供构建深度安全推理智能体框架的完整视角 细粒度展现告警研判、漏洞分析处置等实际场景的双效提升最佳实践 听众收益
了解互联网大厂的安全运营需求痛点与大模型实践经验 了解规模化且对效果要求较高的安全运营场景下，大模型智能体设计考虑与整体架构
-
援引https://qcon.infoq.cn/2024/shanghai/presentation/6111
-
提示本站仅做资料的整理和索引,转载引用请注明出处
相关推荐
-
2023-04-29 14:16:16.433142 -
2019-01-22 05:13:22 -
2020-12-02 13:50:14.430750 -
2020-06-24 04:40:18
附件下载
-
包沉浮.百度基于大模型安全运营的质效提升实践.pdf