让世界更安全，更美好!

ISC 2020无时区漫游：智能安全时代，直面AI安全风险与隐私保护

2020-08-26

数字经济时代，人工智能（AI）技术成为企业技术升级的重要“抓手”。

AI所展现出来的能力已不仅表现在图像识别、人脸识别、生物识别以及视频识别等熟知的应用，还展现在发现和阻止黑客入侵、预防恶意执行、提高安全运营效率、量化风险、加密流量的威胁识别和高级持续性威胁识别及检测恶意移动应用等诸多方面。

8月26日，第八届互联网安全大会（ISC 2020）的第三期无时区漫游环节直面AI时代的安全风险和隐私保护，来自北京理工大学教授、电子政务研究院执行院长王树良，IBM副总裁、云计算与认知软件安全技术负责人Bob Kalka，Pragma联合创始人Manish Chawda，伊利诺伊大学香槟分校法学博士Katt Gu，OMV公司通信专家Ben Abdallah AbdelKarim出席本场论坛，他们围绕AI时代会有哪些新的安全风险和隐私挑战展开精彩演讲，并在探讨与思维碰撞中总结出了最具实用价值的前沿安全防护建议指南。

“人工智能、大数据等新技术被应用到安全领域之后，给安全带来了新的思路，比如主动安全、零信任安全等等。” 北京理工大学教授、电子政务研究院执行院长王树良在论坛开场时谈到AI技术在安全领域的价值延展，也同时指出这些新技术也可能被黑客利用，因此安全领域未来的发展方向以及大家对智能安全的看法至关重要。

IBM副总裁、云计算与认知软件安全技术负责人Bob Kalka表示，智能安全的概念引申了关于AI在安全领域的讨论，要理解这一概念有三个关键点：

第一，与AI同步发展的是责任，AI的目的是增强而不是取代人类的智慧，数据属于其创造者，客户拥有隐私权。

第二，AI应该被应用在合理的地方，如网络安全领域，包括威胁情报的获取、分析和应用等。

第三，我们必须专注于保护AI模型本身，因为攻击群体也可能用到AI技术。

Pragma联合创始人Manish Chawda认为，未来量子计算将能够为AI助力，以帮助其实现更高级的防护手段。

随着AI、大数据等新技术的应用，Manish Chawda本人感到兴奋，但同时也发现这些新手段可能也会让黑客有机可乘，他们对企业或机构进行攻击。量子计算成为现实之后会加速更多技术的使用，内置AI 和量子计算，能够帮助我们自动发现来自黑客的攻击。

在未来智能安全环境下，如何应对新的攻击方法，伊利诺伊大学香槟分校法学博士Katt Gu提出两点：

首先，在智能时代数据及隐私泄漏事件的规模变大了，后果也变得更加严重，甚至会威胁到整个社会的稳定。鉴于此，Katt Gu建议推动实施更严格的数据隐私法，同时鼓励使用新的技术，如更强的加密算法或其他一些防护措施。

其次，从学术的角度来看，网络安全另一个非常重要的问题是被用于机器学习的数据的多样性和完整性。

OMV公司通信专家Ben Abdallah AbdelKarim也谈及了自己对于IT、 云等技术所带来的威胁和机遇的看法，他表示人工智能涉及机器学习、物联网等很多新的技术，它们可以改善人们的生活方式，譬如在新冠疫情期间AI帮助我们诊断了很多感染者。

AI成为我们日常生活的一部分，就自然会有人将其用于非法用途。Ben Abdallah AbdelKarim表示，隐私是他非常关心的问题，隐私是指人我们的数据不被他人看到，但同时你的数据、年龄、健康状况又是大数据中的一部分，因此需要在隐私与安全之间找到一种平衡。

目前，我们已经处于应用为王的时代，应用程序的核心就在于有效使用数据，而隐私与数据泄露等安全事件也变得越来越普遍。企业及用户对隐私及数据的保护意识正在逐渐加强，未来隐私与数据的保护和和相关应用之间必须要存在一种合理的共生。

从全球安全的角度来看，安全产业的发展始终存在着很多差异性，甚至存在各自为战的一种状态，王树良表示这对于整体安全产业的健康持续发展是非常不利的。

因此，将来安全行业的发展必须建立更合理、更健康的生态系统，从而进一步加速安全企业创新发展，形式更加健康的合作关系。在网络安全领域，企业始终需要主动观察，化远见为力量，网络安全协作才能带来行业共赢。