聚焦大模型安全，共绘产业未来 | ISC.AI 2025上海大模型安全论坛圆满召开

9月8日，ISC.AI 2025 上海大模型安全论坛暨大模型安全卫士产品发布会在上海外滩FTC成功举办。本次论坛由中国互联网协会、中国人工智能学会、中国软件行业协会、中国通信企业协会、东方企业创新发展中心、360 互联网安全中心、ISC.AI大会组委会共同主办，中国计算机学会计算机安全专业委员会、中国人工智能学会人工智能与安全专业委员会、北京信息化和工业化融合服务联盟、中关村数智人工智能产业联盟、中关村朝阳园“数链先锋”产业党建联盟、大模型产业联盟承办，ISC平台、纳米智能体、360AI办公提供支持。

论坛现场，京、沪两地政府代表、学术专家、企业领袖及行业同仁齐聚，聚焦大模型安全发展的关键议题展开深入交流，共同探讨AI安全治理体系的构建策略与产业实践路径。会议期间，360大模型安全卫士正式发布，为推动大模型技术的安全发展与创新应用注入强劲动能。
AI是一把“双刃剑”，在带来机遇的同时，也衍生出了众多新挑战。360集团创始人、ISC大会主席周鸿祎在致辞中表示，AI发展面临着恶意利用、内容安全、幻觉问题、提示注入攻击等四大风险。大模型既是生产力工具，也可能成为新的攻击载体和攻击入口，保障AI安全是一项长期而艰巨的任务，360愿与各方携手共进，在AI浪潮中筑牢安全防线。

我国人工智能安全市场规模正处于高速增长阶段，大模型安全是人工智能安全应用的基石，北京邮电大学网络空间安全学院执行院长李小勇在演讲中指出，要构建“评测-防护-靶场”三位一体大模型安全能力，即：夯实大模型安全监管的基础性工作，强化大模型自身的安全防护能力，培育发掘攻防兼备的大模型安全实战型人才，从而实现大模型全生命周期安全可控，为人工智能产业发展提供坚实保障。

面对人工智能带来的新型安全威胁，传统安全工具可能难以有效应对，AI对抗AI已成未来。中国信通院云计算与大数据研究所开源和软件安全部主任郭雪在演讲中指出，AI加剧网络攻防失衡，产业亟需破解智能化安全技术难题。当前，安全产业正以人工智能为引擎，驱动技术与产品双向升级，推动安全体系需向内生防御、主动智能和韧性自治转型。

AI安全预防的核心并非完全消除所有风险，而是通过体系化设计将风险控制在可接受范围，在创新与安全的动态平衡中，持续推动技术的稳健落地与应用。360数字安全集团副总裁余凯在演讲中表示，360充分发挥“懂AI更懂安全”的跨领域优势，基于“以模制模”理念，打造大模型安全卫士，包含内容安全智能体、AI Agent安全智能体、软件安全智能体、幻觉纠正智能体等，帮助客户实现AI系统可靠、可信、可控、向善的目标，构建AI安全新基建。

随后，在与会嘉宾的共同见证下，360大模型安全卫士正式发布，这一重要产品的亮相，不仅体现了360在AI安全领域的前瞻布局与技术沉淀，也标志着我国人工智能安全建设迈入体系化、实战化的全新阶段。未来，360大模型安全卫士将为金融、政务、医疗、文旅等重点行业的智能化升级提供坚实安全基座，助力打造具有全球竞争力的人工智能发展高地。

当前，大模型安全治理仍处于探索发展阶段，亟需凝聚政府、企业、科研机构等各方力量协同合作。ISC.AI始终秉持开放、协作、前瞻的理念，致力于搭建国际化人工智能交流平台，持续推动中国人工智能产业高质量、可持续发展。未来，ISC.AI将继续携手全球伙伴，坚守人工智能创新发展的安全基线，拥抱智能化新时代的到来。

来源  ISC平台