中央网信办、国家发展改革委印发《政务领域人工智能大模型部署应用指引》

本帖最后由飞机飞行于 2025-10-12 14:57 编辑
近日，中央网信办、国家发展改革委联合印发《政务领域人工智能大模型部署应用指引》（以下简称《指引》），紧密衔接《关于深入实施“人工智能+”行动的意见》要求，为各级政务部门提供了人工智能大模型部署应用的清晰工作导向与基本参照。

《指引》核心内容解读：构建政务大模型“从选到用”的完整管理体系
《指引》以“全生命周期管理”为核心逻辑，从场景选取、规范部署、运行管理到保障措施，形成闭环式指导框架，确保政务大模型应用“建得好、用得顺、管得严”。

其核心价值在于通过“全流程规范、全场景覆盖、全周期安全”的顶层设计，推动政务大模型从“探索应用”向“规范落地”转变，助力提升政务数字化智能化治理水平与公共服务效能，且将根据技术发展与实践进展动态优化，确保政策的前瞻性与实用性。
《指引》安全性要求解读：以“全链条管控”筑牢政务大模型安全底线
在政务大模型全生命周期建设中，安全性是不可逾越的底线。《指引》将安全要求深度融入“部署前-运行中-全周期”各环节，形成“事前防范、事中管控、事后响应”的全链条安全体系，凸显“安全是政务大模型应用前提”的核心逻辑。
部署前：安全前置审核，从源头规避风险
合规选型关：要求选用合法来源的基础模型与数据，通过网信部门备案的模型产品优先纳入，确保“起点安全”；
数据安全关：训练数据需经内容审核，建立数据台账追溯来源，同时防范敏感数据汇聚关联引发的泄密风险；
安全评估关：对模型算法、生成内容、应用功能、配置环境、挂接数据、漏洞风险等进行充分测试验证，对发现的问题隐患进行整改加固。
运行中：安全动态管控，实时防范隐患
内容安全管控：面向公众的应用场景（如智能问答）需采用“人工审核+实时风控+多模型校验”，建立代答、拒答机制，拦截违法与不良信息，确保输出内容不超业务范围；
技术安全防护：针对性防范“提示词注入、资源消耗攻击”等常见风险，通过语义识别、规则库等技术管控多模态输入输出，同时做好运行日志审计，追溯异常操作；
风险提示透明：应用界面显著标注“模型局限性”，清晰标识机器生成内容，避免公众混淆 “机器输出”与“官方结论”，维护政务公信力。
全周期：安全制度保障，确保长效可控
责任体系化：建立安全责任制度，明确数据处理、模型训练、场景应用各环节主体职责，避免“责任真空”；
应急常态化：针对安全风险制定应急处置预案，推动跨部门安全风险信息共享，确保安全事件“早发现、快处置”；
治理分级化：根据应用场景（如公众服务/内部办公、涉密/非涉密）实施分类分级安全管理，差异化制定安全策略，平衡安全与效率。
360护航政务领域大模型安全应用
作为国内唯一兼具数字安全和人工智能双重能力的企业，360充分发挥“懂AI更懂安全”的跨领域优势，基于“以模制模”理念打造360大模型安全卫士，在技术架构、数据积累与实战验证方面具备领先优势，目前已广泛应用于多地政务系统中。
技术架构领先，构建全周期防护体系
以“以模制模”理念构建多智能体系统，覆盖大模型全生命周期，实现从事前防控、事中处置、事后复盘的全流程安全闭环。
数据支撑扎实，精准评测迅速响应
依托动态更新的海量敏感词库和百万级测评数据积累，实现对潜在风险的精准识别和快速响应，持续提示安全评测的准确性与权威性。
实战经验丰富，跨行业检验高可靠性
广泛服务政务、监管等关键领域，历经日常运维与重大活动保障的全面检验，能够迅速响应各类政企场景下的个性化安全需求。
在某省级政务服务平台建设中，360大模型安全卫士通过部署内容安全智能体，实现单台服务器百万级并发请求处理，内容识别准确率超99%，日均精准拦截千余条不良信息，业务回复安全率始终稳定在99%以上，筑牢政务大模型安全防线。
此前，在IDC《中国大模型安全保护市场概览，2025：全方位安全检测与防护构建可信AI》报告中，360在大模型可用性检测、保护大模型接口、大模型访问控制、大模型输入内容控制、大模型输出内容控制等细分领域均获得首位推荐。