记者从在北京召开的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会产业峰会（以下简称“BCS产业峰会”）上获悉，人工智能极大提升了工作学习效率，但也带来风险和监管问题。人工智能和机器学习越来越多地应用于威胁检测、自动化响应、预测分析等网络安全防护工作。要更加重视人工智能安全防御技术创新，筑牢智能时代网络安全基石。
联合国副秘书长李军华
联合国副秘书长李军华在开幕致辞中说，“不断发展的数字世界是一个矛盾体。”阿尔塔夫·乌尔·拉赫曼等多位专家现场分享了智能时代网络安全威胁的种类以及典型的网络攻击方式，介绍了当前利用人工智能助力网络安全跃升的前沿研究和实践，为构建更加安全稳固的数字安全体系建言献策。
开幕式上，全国工商联网络与数据安全委员会召集奇安信集团、联想集团、中科曙光、中兴通讯、中国软件、长城科技、神州信息、东软集团、东华软件、澜起科技、软通动力、中国电子云等60家数字经济产业链领军企业，共同发起《打造“人工智能+安全”新质生产力》倡议，呼吁社会各界携手合作，凝聚各方智慧和力量，推动人工智能与安全的深度融合，为中国数字经济保驾护航。
AI助力实现四大跃升
2024年政府工作报告明确，开展“人工智能+”行动。在BCS产业峰会上，演讲嘉宾们认为，人工智能有利于筑牢可信可控的数字安全屏障，至少能够助力网络安全实现四大能力跃升。
第一，网络威胁发现能力跃升。通过应用人工智能，可以提升威胁判定的准确度，从海量噪声中快速、准确地洞察和判定真正的风险。据吴云坤透露，1个安全大模型处理安全告警的能力相当于50～60个网络安全工程人员。
利用大模型进行威胁研判已投入多个应用场景。据苗守野透露，中国联通基于元景大模型体系，实现检测+分析+运营的端到端网络安全能力智能化升级，大模型智能研判平均时间达到秒级，研判准确性达到95%以上，有效助力基础网络安全底座的智能化变革。
中国联通集团网络与信息安全部总经理苗守野
第二，病毒检测效率和精度跃升。人工智能可以增强识别准确度和研判效率，帮助快速准确地从海量样本中识别出真正的恶意样本和病毒。吴云坤说，奇安信利用人工智能病毒引擎QDE对132万多个样本的检测结果显示，QDE的检出率为97.9%，比传统病毒引擎高出4.13%，误报率仅0.009%，远低于传统引擎误报率0.04%。
奇安信集团总裁吴云坤
第三，安全运营能力提质跃升。人工智能可以替代人工，解放安全专家，突破网络安全的人力资源边界，大幅度提升运营能力。吴云坤讲到，安全专家每天能够研判约480条信息，安全机器人每天能够智能研判30240条信息，“从这个角度看，一台机器人相当于60位安全专家”。
第四，攻防实战水平跃升。网络安全领域的创新核心是使用新技术实现网络空间安全检测、分析、研判、指挥、响应、处置形成闭环，并不断提升攻击方和防守方的实战水平和工作效率。在吴云坤看来，人工智能能有效的缩短闭环时间，AI加持攻守双方完成闭环后，可以实现知识经验再积累，持续提升作战水平。
AI成为安全领域创新热点
“AI驱动安全已经成为网络安全领域的重要创新热点。” 吴云坤举例说，上个月在美国举行的全球最大网络安全年度大会（RSAC 2024）发布的新产品中，60%与AI相关，其中创新沙盒十强中有7家是AI方向；我国2024安全创客汇40强的10个创新赛道中，AI安全排在第二位。
与此同时，传统网络安全行业也正在快速转型，加快拥抱AI。一些综合性大型安全企业通过收购、自我研发或生态建设补齐短板，用AI不断发展完善产品和服务体系，加速建立对抗威胁的闭环，提升安全事件处置的能力和效率。例如，Crowdstrike在推出Charlotte AI之后，把过去分布在不同终端的所有数据整合进AI网络安全分析工具Charlotte AI，将安全事件响应时间从过去的8小时缩短为几分钟。
国内头部科技企业已在同步推进AI在网络安全领域落地生根。作为网络安全原创技术策源地总体单位，奇安信以科技创新推动产业创新，于今年3月对外正式发售了“AI驱动安全”的代表性产品：QAX-GPT安全机器人。QAX-GPT安全机器人对真实网络风险事件研判准确率达到100%，可以消除80%以上无效告警，助力企业网络安全运营效率提升逾60倍。
BCS产业峰会嘉宾一致认为，国家相关政策正在进一步推动AI在网络安全产业加速布局。
“数据是人工智能三要素之一，人工智能模型的训练需要大量且高质量的数据。”蒋楠说，发展人工智能，需要更加注重数据的收集、清洗、标注和存储，以确保模型训练的有效性和科学性。当前，国家发力促进数据要素流通，通过流通实现数据价值，将支撑包括网络安全在内的人工智能新应用快速发展。
中石化集团信息和数字化管理部副总经理蒋楠
AI时代呼唤体系安全
在BCS产业峰会上，与会嘉宾们提醒，目前的网络攻击者不仅利用人工智能技术编写程序、制造病毒、发起饱和式攻击，也在针对人工智能防护模型本身的弱点进行“投毒”或“渗透”。与会专家建议，AI时代的网络安全防护同样需要突破单点思维，推进体系建设。
一方面，网络攻击开始面向AI“对症下药”。蒋楠举例说，攻击者可能进行药饵攻击，即针对AI收集日常运营数据自我学习训练以检测出新的攻击这一特性，攻击者注入精心设计的数据样本（即药饵），使训练数据被污染，给AI“洗脑”，最终危及整个系统的正常功能。
要更加重视人工智能安全防御技术创新。具体而言，在AI系统收集数据、训练模型阶段，可以采用网络蒸馏、对抗训练、对抗样本检测、输入重构、模型剪枝等多种防御性技术，以防止针对AI的数据投毒式攻击。
当前国内网络安全防护还没有真正普及体系化建设。例如，国内安全设备和产品的互操作性标准和规范一度长期缺位，不同网络安全厂商各自为战，无法形成协同效应，无法真正落实“AI驱动安全”带来的威胁检测能力和安全运营能力提升
“AI是知识工程，需要多维数据、多维场景，综合性厂商比单点技术厂商更具优势。”吴云坤认为，综合性厂商基于内生安全建立体系，使单点技术通过体系协同在对抗威胁时发挥最大效能。
与会专家们呼吁，网络安全行业应建立体系化思维，不仅是在企业内部推广建立协同高效的安全体系，全行业也需要建立更多通用、互认、开源的标准规范和操作体系，实现产品互操作、数据共分享、安全同治理，提升全行业体系安全能力，真正助力数字经济发展。
