4月10日,由国家数据局联合中央网信办、工业和信息化部、人力资源和社会保障部等多个部委及机构共同发起的2025年“数据要素X”大赛在雄安新区启动。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东出席活动并表示,大数据时代要解决好小数据安全问题,小数据安全是稳妥有序推进政务大模型应用的关键。
“过去提到数据通常指大数据,规模很大,但碎片化且质量参差不齐,很难最大程度挖掘数据价值;而在打造政务大模型等人工智能垂直应用场景时,原来分散在各处的大数据经过标注、清洗和学习后,变成了高价值、集中化的小数据。这些高价值的小数据集中用于投喂政企机构的人工智能大模型,数据重要性显著提高,小数据拥有者需要对数据安全高度重视。可以说,安全成为稳妥有序推进政务大模型应用的关键。”齐向东分析说。
齐向东建议,在模型训练阶段,对数据的访问,标注和清洗等过程,要严格做好访问控制、人员权限管控和行为审计,尤其要关注外包人员,并利用终端可信数据空间能力,确保数据不落地,防范内鬼盗取数据。
比如,在大模型应用运行阶段,可采用奇安信大模型应用安全盾解决方案,从整体上保障大模型应用系统安全。一方面要关注大模型带来的新的安全风险,比如提示词注入,模型输出内容,以及向量数据库的安全防护。另一方面要重视终端、网络、数据和应用的安全,构建起内生的纵深防御体系。
会上,由河北省数政局与奇安信集团联合打造的“河北省公共数据要素流通全生命周期动态安全防护体系”正式发布。
为应对数据安全风险,河北省数政局与奇安信集团共同规划设计了“监管+制度+技术”的安全防护体系。
在制度建设方面,构建公共数据分类分级、授权运营合规审查等机制;在技术建设上,利用访问控制、脱敏加密等技术保障数据安全。该体系全方位保障数据全生命周期安全,既能守护河北省公共数据安全,也将为全国提供参考范例,助力数字经济安全发展。