“以模制模”应对AI规模化安全隐患中国学经济卷综合册政策篇

“以模制模”应对AI规模化安全隐患中国学经济卷综合册政策篇

安  文

人工智能是一场工业革命，将赋能所有行业，为企业降本增效。未来AI将朝着“人人智能”的方向发展，会进入千家万户，成为人们生活和工作上的得力助手；更重要的是会进入百行千业，当AI跟产业结合之后，可以针对某个场景结合专业知识库、智能体解决原来效率低、成本高、体验差等问题，从而实现降本增效。

DeepSeek-R1等先进模型带来了前所未有的机遇，也同样面临无法通过传统网络安全手段解决的安全挑战。要正确认识AI安全，既不可夸大也不应忽视。面对AI规模化应用伴生的安全隐患，不能用传统思维来解决智能问题，要通过打造安全大模型，通过“以模制模”的策略来解决一系列问题。

当前DeepSeek等大模型“AI幻觉”现象，是一把双刃剑。幻觉是想象力和创造力的基础，是大模型与生俱来的特点。不要试图消除‘AI幻觉，对其产生要有容错能力。可以通过构建专业的知识库，实施合理的矫正机制，来避免幻觉造成负面影响。对此，360AI团队正专门研发安全大模型，用大模型去管理知识库的使用、智能体的调用以及基座模型的“胡说八道”等。可以通过多个大模型交叉验证、搜索矫正、知识库比对等方式，对“幻觉”进行合理纠正。