周鸿祎谈360安全大模型:相当于已具备L4级“自动驾驶”
9月4日,第二届网络空间安全(天津)论坛在天津市滨海新区开幕。本届论坛以“共建网络安全,共治网络空间”为主题,由天津市政府主办,国家计算机病毒应急处理中心、天津市公安局、天津市滨海新区政府承办,国家网络与信息安全信息通报中心协办。360集团创始人周鸿祎出席本次论坛并获得主办方颁发的网络空间安全(天津)论坛“突出贡献奖”。
周鸿祎在论坛上发表了《打造安全大模型,用AI重塑安全》主题演讲,从网络安全行业一线的角度分享了在人工智能大模型时代下,自己对网络安全形势的理解,并介绍了360集团的具体实践和体会。
周鸿祎介绍,360集团近10年在网络安全行业累计投入近300亿元人民币,超过行业第二名到第十名的投入总和;算力方面,在全国建设了210个数据中心、20万台服务器,建立了包括2000位核心专家、数万位签约专家的亚洲最大高级专家团队,数据积累总规模达2.2EB、每天新增1.5PB,每年维护费用超过5亿元人民币,“尽管投入巨大,但360义无反顾,后续还将加大投入,为国家网络安全贡献力量。”
周鸿祎表示,当前AI浪潮势不可挡,大模型正在重塑所有行业和产品,360也试图探索利用AI让安全实现突破,帮助安全降本增效,成为安全的新质生产力、新质战斗力。“行业上一直有个共识,2023是模型之年,2024是场景之年,大模型应当在场景中发挥价值,其中安全就是最重要的场景。”他认为,海量数据分析难、快速处置难、追踪溯源难、安全专家人力不足等安全行业痛点在有了大模型赋能后都能得到快速解决。而与此同时,随着AI行业的快速发展,也带来了很多新的挑战。
“在大模型重塑所有行业和产品的时代,AI一定会成为‘坏人的工具’,包括自动发现漏洞、编写攻击程序、编写钓鱼邮件等,安全行业将从‘人与人的对抗’升级为‘人与机器的对抗’”,周鸿祎说。此外,大模型的自身特性也会引发包括AI攻防安全、AI自身安全、AI伦理安全等问题。传统安全可以解决部分网络安全和数据安全问题,但对于新出现的内容安全、幻觉、可控等问题无法应对,必须用大模型的能力来应对。因此,必须用AI应对AI攻击,“以模制模”,用“模法”打败魔法,既要解决安全的老问题,也就是解决安全痛点,也要解决安全的新问题、新挑战。
周鸿祎提出,用AI重塑安全,在于能否让安全做到“自动驾驶”,形成完整的安全运营闭环。360基于人工智能技术研发了攻击检测专家模型,用深度学习取代规则编写,实现从“规则驱动”向“学习驱动”转变。从多年积累的海量原始语料中生产出高知识密度的训练数据,对模型进行“端到端”训练,具备了发现“已知的未知”的能力。对于“未知的未知威胁”,360公司基于独有的顶尖探针生成的本质行为语料,通过“端到端”训练,由此构建的安全大模型也可以实现异常痕迹的发现。周鸿祎表示,借用自动驾驶L1到L5的5个分级看,360相当于已具备L4级“自动驾驶”能力。他认为,安全大模型是安全迈向“自动驾驶”的必由之路,也一定是成功之路。
对于打造安全大模型的难点,周鸿祎指出,要有做大模型的丰富经验、丰富的训练数据,并与安全业务深度融合,归根结底是需要有一套行之有效的专业化大模型方法论。这套方法论主要包括五步,分别是找到明星场景、知识管理、专家协同、构建智能体,最后是业务融合。周鸿祎介绍,在这套方法论的指导下,360打造了安全大模型,其中包括攻击检测、运营处置、追踪溯源、知识管理、数据保护、代码安全、内容安全等多个专家模型。经过对比和测试,360安全大模型在安全能力上已超过GPT-4。
“我一直说要把大模型拉下神坛,让每个企业都用得起、用得好”。周鸿祎介绍,目前360全线安全产品已集成安全大模型能力,对所有购买360标准产品的用户免费提供大模型标准能力。他表示,未来360集团将开展安全大模型赋能升级工作,在已有安全建设成果的基础上提供安全大模型能力,打造安全的新质生产力和战斗力。
据了解,本次论坛聚焦时下网络安全领域最前沿的议题,近800位来自网络安全领域国际组织、部分国家执法机构、国际研究机构负责人,中央机关、国家部委相关负责同志,两院院士、知名专家学者和科研院所、金融机构、国内外知名企业、高校代表齐聚一堂,共话网络空间安全形势、共享网络安全理念、共商网络安全对策。
论坛期间,由国家计算机病毒应急处理中心与360集团等安全企业共同建设的国家计算机病毒协同分析平台正式发布上线,360集团参与编制的《网络空间安全态势分析报告》也正式发布。