AI开启无人时代 仍需数据安全护航

AI开启无人时代，仍需数据安全护航

近年来，科技企业在推广新一代信息技术产品时，数据安全、数据隐私等问题受到广泛诟病。作为驱动人工智能快速发展的重要基础，数据的安全性也决定了人工智能的安全性。人工智能的加速发展给数据安全治理带来了新的机遇和挑战。

随着新一代信息技术的发展，互联网和人工智能技术的应用蓬勃发展，数据也被视为无形资产。然而，技术是一把双刃剑，给我们的生产生活带来效率提升的同时，伴随而来的安全问题也不容忽视。

近年来，科技企业在推广新一代信息技术产品时，数据安全、数据隐私等问题受到广泛诟病。数据安全已成为当今数字化转型时代的一个关键而紧迫的问题。

在7月8日至10日举行的2021世界人工智能大会上，数据安全、数据治理、网络安全等问题备受关注。业内认为，在以人工智能深化城市数字化转型的过程中，企业应积极接受监管，促进行业健康可持续发展。

数据安全治理面临新的机遇和挑战

近日，因严重违规收集使用个人信息，国家互联网信息办公室根据《中华人民共和国网络安全法》相关规定，通知橙色录像机等25款应用移除应用商店。

此前，在上海车展特斯拉车主维权事件中，特斯拉在事发半小时前公布了车主维权的行车数据。这一行为引发了诸多争议：车企是否应该披露行车数据？人们如何确定数据的可靠性？

没有大数据的收集和基础，人工智能是无根的。作为驱动人工智能快速发展的重要基础，数据的安全性也决定了人工智能的安全性。人工智能的加速发展给数据安全治理带来了新的机遇和挑战。

“大数据驱动业务的发展，让数据安全对城市运营比以往任何时候都更加重要。一旦数据受到攻击，就意味着业务将停止，这将造成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周表示，近年来，360公司接到大量医院报警，称医院网站被勒索软件攻击后，无法进行手术，患者无法挂号就医。

近年来，城市也成为网络勒索的重要目标，网络攻击的目标不仅限于电脑、手机、设备和系统，还逐渐延伸到数据。人工智能数据的获取、处理和应用具有很强的隐私性和领域扩展性，关系到个人信息安全乃至国家信息安全。勒索政府和城市公共机构的数据将导致城市运行和服务停止。今年5月，美国最大的燃油输送管道因网络攻击被迫关闭，影响了美国东海岸45%的汽油、柴油等燃油供应。

业内人士认为，针对上述情况，应该在人工智能技术的顶端挂上一把达摩克利斯之剑。

数据输入和分析过程中存在相应的风险

非法跨境流通数据可能危及国家主权和国家安全；过度收集和非法使用数字信息可能侵犯公民的权利和隐私；算法偏好可能加剧社会偏见或歧视，威胁公平正义；无人驾驶汽车紧急避险等智能决策可能会威胁特定人群的生命.

全国政协社会法律委员会副主任陈志民在人工智能大会高端安全对话上指出，人工智能的大规模应用进一步加剧了过度数据采集的安全问题。另一方面，也带来了新的数据安全问题。人工智能的算法对数据依赖性强，可能带来数据中毒等新的数据安全挑战。

算法、模型和数据构成了机器学习的三大基石。腾讯朱雀实验室首席AI安全专家朱继峰在人工智能大会主题论坛上表示，从算法构建过程中的上下游产业链来看，在数据输入、数据分析、模型训练、模型决策、模型部署应用、模型转化等过程中都存在相应的风险。

比如在数据输入过程中，如果攻击者控制了数据源，或者攻击者可以攻击数据采集设备本身的安全性，算法模型最终会通过这个链条受到影响。如果陀螺仪受到超声波的影响，无人机最终会坠落。或者，在模型决策阶段，物理攻击会在自主车辆的最终视觉识别系统中造成问题，可能会影响车辆的自动驾驶或行人的判断。

随着人工智能的应用，技术的滥用带来了失控的风险。验证码验证机制首当其冲。据朱继峰介绍，早在2017年，地下黑产品就开始用机器学习的方法做二维码识别训练。数据显示，经过验证的准确率有80%以上可以通过机器学习算法在线自动注册，由此引发了一系列安全问题。

三大系统共同构建数据安全防火墙

人脸识别技术依赖于对海量视图数据的分析，因此数据安全直接影响到人脸识别技术的实际应用。人工智能技术在安防领域的应用是技术进步最快、应用最早的训练场。

鲁大公司创始人、董事长兼CEO黄小青表示，从数据采集到数据处理再到数据传输，解决数据网络安全问题的手段很多。从网络和数据的角度来看，应该完成三项重要任务：物理隔离、网络隔离和应用端到端保护。

除了技术，中国还利用法律武器探索数据立法。

今年6月，我国颁布了《数据安全法》，将于9月1日正式实施。《数据安全法》提出构建以数据分类为核心的数据安全监管体系，要求强化各级落实数据处理活动数据安全保护的义务和责任

数据处理活动，保障数据安全提供法律依据。另外，《个人信息保护法（草案）》也即将进入三审阶段，两项法案相辅相成，推动我国个人信息保护和数据安全治理进入全新阶段。

在人工智能大会“大爱无疆·共生”论坛上，清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管，促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施落实监管规则，同时触及到需要进一步研究的问题。”薛澜说。

目前，上海正研究立项公共场所人脸识别分级分类应用规范的地方标准，将成为全国首个立项的人脸识别的地方性标准；开展全市人工智能数据立法调研，规范数据确权，数据共享等重要内容，推动可信人工智能的研究。上海市人大也正在起草《上海市数据条例》。

此外，上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室，该实验室将基于数字信任技术的产学研生态合作，开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用，支撑城市数字化转型、数据要素市场构建和网络安全体系建设。

记者获悉，上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索；临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管，加强个人数据的全生命周期安全监控和防护。