护航大模型应用安全，360助力能源行业新质生产力发展

近日，以“数智赋能石油石化新质生产力发展”为主题的2025中国石油石化企业信息技术交流大会暨油气产业新质生产力发展高峰论坛在北京开幕，360数字安全集团受邀出席。

近年来，以大模型为代表的生成式人工智能技术飞速发展，广泛应用于千行百业，成为新质生产力的代表。在能源领域，大模型凭借其强大的数据分析和研判能力，深度优化能源生产与分配，助力企业实现智能调度、故障预测，有力推动能源行业向智能化、绿色化加速迈进。



然而，人工智能的全新特性也带来了前所未有的安全挑战，大模型在各行各业的落地应用过程中面临着模型环境漏洞、生成恶意内容、生成错误信息、流程失控等多方面安全挑战。同时也面临着来自国家、地方、行业监管部门对大模型备案评估、监测、检查、通报处置等监管要求。



“解决大模型安全问题，首先要构建大模型‘安全、向善、可信、可控’四大原则。”360数字安全集团解决方案中心副总、首席网信专家魏晓雷在演讲中表示，“作为兼具数字安全和AI双重能力的科技企业，360很早就开始关注大模型安全风险，并打造了国内首个安全大模型——360安全大模型，通过‘以模制模’理念，利用安全大模型来检测和防范大模型可能出现的安全风险，既解决传统网络安全问题，又为攻克AI安全新挑战提供可行性方案。”

针对大模型监管部门和运营者面临的安全挑战，360推出大模型安全解决方案，用安全大模型应对大模型安全问题，实现数网智安一体化。锚定系统安全、内容安全、幻觉问题、流程失控等挑战，通过大模型系统安全检测平台“360智鉴”、大模型内容安全护栏“360智盾”、大模型可信增强工具“360智搜”等多款产品，对症下药，守护大模型训练、推理和运营全流程，持续为大模型安全及行业发展注入新动能，为全球人工智能技术治理提供“中国方案”。




360智盾



目前，360智盾已全面部署于360内部各大模型业务中，为C端用户提供可靠的内容安全保障。同时也积极拓展外部服务，为政企客户提供大模型生态链漏洞安全检测、内容安全防护与评估、备案合规咨询、可信增强搜索等多项AI安全产品能力与服务，助力其在AI大模型应用落地过程中实现“安全可控”。



360智盾已在政务、金融、交通、能源等重点行业完成落地，持续为行业客户打造更稳固的大模型安全底座。

在某省级智慧政务场景中，360智盾通过实时检测识别各业务场景的有害输入输出内容，根据风险等级进行分级处理，日均检测违规不良内容1000余条，识别准确率99%以上，有效兼顾业务安全性和实用性。


在某大模型厂商备案过程中，360智盾从模型生成内容的合规性、敏感性检测和潜在风险等维度对其进行全面的安全审查，确保大模型在投入使用前能够符合法规要求，从而降低使用过程中的安全隐患，为模型的正式备案提供充分的数据支持和风险管控方案。



除智盾外，360还推出智鉴、智搜等大模型安全产品。


360智鉴



360智鉴为大模型系统安全检测平台(AISE)，覆盖了从模型训练到推理的全链路安全检测，支持对模型服务的相关组件识别、生态链漏洞扫描和多语言代码审计，确保大模型系统安全。

360智搜



360智搜则是一款大模型可信增强(AISO)工具，融合多模态检索与语义理解技术，能够提供精准的搜索结果，并支持基于企业私域数据的知识提炼与总结。



其独特之处在于整合多领域精品知识库，实现全网与私域知识的无缝对接，提升信息获取效率，并可帮助大模型缓解幻觉问题，减少虚假或不准确信息，提升大模型的可信度与可靠性，从而为企业提供更安全、更高效的业务支持。



未来，360将持续推动大模型技术在能源行业的规模化应用，助力AI成为实体经济加速发展的新动能，护航大模型应用，助力油气产业新质生产力发展。



来源：360数字安全