安全也是硬道理

当前 ，人工智能大模型应用迎来大爆发
，从直接部署的基本应用 、特定场景的增强应用
、垂直领域的专业应用，再到特定领域的深度应用 ，政企机构正在大模型的驱动下，焕发出更澎湃的生产力、创造力 。

然而
，新技术犹如一把双刃剑，在带来机遇的同时 ，也面临着诸多挑战。

在齐向东眼中
，大模型应用的安全挑战有三重
。第一重挑战是，“小数据”一失万无 ，“小数据安全 ”成为数字经济时代的核心关切。第二重挑战是
，大模型融通百业，“裸奔
”上线极有可能引发业务停摆的链式危机 。第三重挑战是 ，对AI过度依赖
，善恶真伪难辨别，一旦大模型决策失准会引发“蝴蝶效应”
。

在数字经济时代 ，数据如同驱动发展的“石油 ”
，人工智能则是“发动机”。如今，借助人工智能大模型 ，企业通过对设计 、生产等数据进行加工处理，形成精华“小数据
”
，这些“小数据”成为企业核心竞争力所在 。齐向东指出，一旦“小数据 ”被窃取
、泄露或篡改 ，企业多年积累的优势将瞬间崩塌
。

筑牢AI安全底线

面对这些挑战
，齐向东认为，要筑牢AI安全的“五个关键
”。首先是接入放心用 ，构建大模型安全“红域”形成多维度边界隔离 。奇安信创新提出了安全“红域 ”概念
，将大模型应用涉及的数据、算力 、平台
、应用以及域内管理的终端及人员划归到专属安全空间中进行防护，并在每个与大模型交互的接入点设置安全空间控制单元 ，通过多维度的边界隔离
，为大模型应用落地“强基础、控权限 、审数据、拦攻击
、清风险
”
。

其次是权限强管控，以用户身份为新边界开展网络和数据安全防护。通过堡垒机、“零信任”等技术措施 ，对开发 、训练等相关特殊人员和终端进行增强式安全管控 。

三是严把内容关
，构建贯穿大模型全生命周期的内容安全治理机制
。齐向东表示，通过强化监测审计 ，实现对大模型的核心数据管控。

四是杜绝新隐患，以实战为导向加强大模型应用安全评估 。通过实战化评估方法
，对大模型安全
、大模型内容安全、智能体安全 、大模型组件安全以及大模型运行环境安全等方向进行全面检测评估，验证安全策略有效性；构建纵深防御与监测技术能力 ，降低大模型应用的数据泄露风险与业务中断风险。

五是运营可闭环
，做到对安全威胁的实时监测和应急处置
。齐向东表示，奇安信推出AISOC ，把AI的能力嵌入到研判
、调查等安全运营工作
，实现了大运营与AI的有机结合。面对人工智能落地应用带来的多重安全挑战，要用AI对抗AI ，增补面向大模型攻击及异常行为的检测手段
，实时监测针对大模型的攻击行为，并实现高效拦截 ，形成安全运营的闭环 。