数字经济的安全基石

申请试用

首页 > 关于我们 > 安恒动态 > 2025 > 正文

安恒信息CTO刘博数博会分享:“技术+场景+生态”战略护航AI时代数据安全

阅读量:文章来源:安恒信息


8月28日,由国家数据局主办,中国互联网协会承办的2025数博会“数据安全治理与发展”交流活动上,安恒信息CTO刘博受邀出席,并就“AI时代数据安全风险与应对”进行分享,与现场众多行业专家、企业代表共同探讨人工智能技术迅猛发展背景下所衍生的新型数据安全挑战与应对策略。



刘博指出,AI深度渗透企业数字化转型,数据安全与AI技术的“防护-赋能”双向循环是动态平衡安全生态体系的核心。随着大模型普及、数据流通激增和垂域智能化加深,安全防护边界已延伸至AI全生命周期,数据安全的内涵也拓展为“安全和增值”,这对企业安全能力提出了新要求。


 

面对这些新挑战,作为行业的先行者,安恒信息率先布局,形成了以“技术+场景+生态”三位一体的综合应对体系。

 



刘博强调,安恒信息已从技术服务商升级为客户数字化转型过程中值得信赖的安全战略伙伴,赋能客户数字化转型稳健发展。

 

在提问环节,刘博具体分析了AI全生命周期中面临的安全挑战:在训练过程中,敏感信息可能被无意中训练进模型;在问答环节,模型可能被套话而泄露敏感信息;垂直领域应用中,将领域知识注入通用大模型的过程也存在数据泄露风险。特别是新一代MCP技术让大模型能够调用大量工具,进一步增加了网络安全和数据安全风险。

 

此外,大模型虚假信息风险也不容忽视,特别是在教育、医疗、法律等垂直领域,需要保证数据的可靠性和逻辑真实性。刘博补充道。



安恒信息从四个层面构建AI时代的数据安全防护体系:
第一,在训练过程中通过智能化数据安全分类分级和脱敏技术,尽量减少大模型接触敏感信息,在保证逻辑能力的同时避免记忆具体敏感数据。
第二,为确保AI应用系统的整体安全性,对AI应用的运行环境进行主动扫描或实时检测,及时发现环境缺陷导致的安全风险。同时智能体应用进行安全加固,防止智能体出现错误决策、敏感操作、数据泄漏等风险。
第三,采用MAF大模型防火墙防止模型被恶意利用,避免模型生成不良信息或执行不当行为。 
第四,实施全生命周期安全管理,包括模型上线前的漏洞扫描和修复,以及运行过程中的实时安全监控。

未来,安恒信息将继续与各方携手,共同构建更智能、更可靠、更开放的数据安全体系,为数字中国的稳健发展保驾护航。

 

图片


关闭

客服在线咨询入口,期待与您交流

线上咨询
联系我们

咨询电话:400-6059-110

产品试用

即刻预约免费试用,我们将在24小时内联系您

微信咨询
安恒信息联系方式