5月23日至5月27日,第七届数字中国建设峰会系列活动在福州举行。本届峰会以“释放价值,发展新质生产力”为主题,由国家发展改革委、国家数据局、国家网信办、科技部、国务院国资委、福建省人民政府共同主办,福州市人民政府和相关单位承办。
本届峰会重要议题,由中国人工智能学会主办、福建省大数据集团有限公司承办的“与产业生态大会”同期举行。
奇安信集团董事长齐向东在论坛上表示,“”与“”就像是发动机与燃料,是引领数字经济发展的黄金组合,但也不可避免带来新的挑战,亟需打造多层次的合规保障体系,促进数据合规、高效的流通使用,安全地释放数据要素的乘数效应。
“当‘数据要素x’遇上‘人工智能+’,数据要素的乘数效应会被加速放大,这也意味着数据要素在流通过程中速度更快、规模更大、节点更多、价值更高,一旦遭到数据遭到攻击,后果也更严重。”齐向东表示,并总结出了三大安全挑战:
一是人工智能打破攻防平衡,数据要素既是黑客眼中的重要目标,也能被用于发动网络攻击。以前,高水平黑客只是小部分,攻防力量基本平衡;现在,人工智能大幅降低了网络攻击门槛,不懂代码、不懂技术的普通人也能成为黑客,将扩大网络攻击数量。
二是人工智能加剧数据泄露,数据安全防线不攻自破。人工智能的迅猛发展加大了数据非法获取、数据泄露以及恶意滥用等问题:员工投喂ChatGPT等生成式人工智能,导致数据被动泄露;生成式人工智能还带来了数据非法获取、数据泄露及恶意滥用等问题。
三是人工智能扩大攻击暴露面,数据要素流通风险激增。随着大量业务走向数字化、智能化,企业的数据在终端、应用、云上、数据中心侧之间流转,链路复杂,增加了数据泄露的机会和攻击面,不法分子可以利用所掌握的信息和数据,通过“深度伪造”进行网络欺诈,“眼见未必为实”“耳听未必为真”将成为常态。
“面对数据要素面临的三大安全新挑战,我们亟需打造多层次的合规保障体系,促进数据合规、高效的流通使用,安全地释放数据要素的乘数效应。”针对数据要素生态的底层、中间层和最上层情况,齐向东进一步给出了安全建议及解决方案。
一是以纵深防御的内生安全体系,从底层筑牢数据要素流通基础设施。在数据要素生态的底层主要是数据流通基础设施,需要从端、网、云、数等层面构筑纵深防御的内生安全系统。纵深,是保证多道网络安全防线联动,一道防线被突破还有其它若干防线拦截攻击;内生,是将安全能力内置到数字化、智能化系统的全链条中实现安全能力无死角,筑牢数据要素流通基础。
二是以AI安全整体解决方案,从中层加强数据要素流通平台安全保障。在数据要素生态的中间层主要是数据要素流通平台,需要进行数据集保护等安全保障。
今年3月,奇安信正式对外发布了一套AI安全整体应对方案,其中包括AI安全框架,以及基于安全框架下的AI安全解决方案、AI评估服务和安全检测工具等。方案通过提前洞察风险并采取应对措施,保障数据要素流通平台安全合规。
三是以纵深防御的内生安全体系,从底层筑牢数据要素流通基础设施。数据要素生态的最上层是数据要素流通活动,围绕数据供给、流通、使用等环节,需要匹配去标识化、可信计算、数据沙箱等安全技术,确保流通中的全过程安全与合规。
针对这一需求,奇安信创新推出的数据交易沙箱,构建了一个安全的数据使用和计算环境,实现了“数据不动程序动,数据可用不可见”,并确保只有经过审查的计算结果才能对外输出。通过打造安全可信的流通环境,增强数据利用可信、可控、可计量能力,促进数据合规高效流通使用。
齐向东表示,“我相信,通过打造多层次的数据流通合规保障体系,一定可以助力数据要素加速发挥乘数效应,点燃经济社会高质量发展新引擎。”