AI驱动安全——2024北京网络安全大会(BCS)开幕

科技没那么安全 2024-06-06 21:10:50

2024年6月5日,以“AI驱动安全”为主题的2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会(以下简称“BCS大会”)在北京国家会议中心开幕。

在BCS大会开幕式上,全国工商联副主席、中国民间商会副会长汪鸿雁,中国友谊促进会理事长、国家网信办原副主任陈智敏,中国职业技术教育学会会长、教育部原副部长鲁昕,北京市政府副秘书长许心超,中央网信办网络安全协调局副局长王营康,中国电子信息产业集团有限公司总经理李立功致开幕辞。中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文,中国工程院院士、同济大学讲席教授蒋昌俊,巴基斯坦NCERT主席、国际工程技术学会会士、英国计算机学会会士海德尔·阿巴斯,先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克,Forrester 副总裁兼高级研究总监弗雷德里克·吉隆,国家电网有限公司副总信息师、中国电机工程学会会士王继业,全国政协委员、全国工商联副主席、奇安信集团董事长齐向东出席论坛并发表主旨演讲。

2024全球数字经济大会数字安全高层论坛暨北京网络安全大会战略峰会开幕式

“当前,新一轮科技革命和产业变革向纵深推进,既带来了前所未有的机遇,也带来了风险挑战和竞争压力。”在致辞中,汪鸿雁等多位嘉宾均表示,安全是发展的前提,发展是安全的保障,本次大会以“AI驱动安全”为主题,具有很强的前瞻性和现实意义。

全国工商联副主席、中国民间商会副会长汪鸿雁

中国电子信息产业集团有限公司党组副书记、总经理、董事李立功

本次大会历时两天,共举办2场峰会、20多场分论坛,2场大赛,邀请了来自10多个国家和地区的上百位专家学者、10多个行业领域的200多家企业的代表,分享人工智能发展的研究、实践或建议,并就AI驱动安全在数据、能源、金融、交通、制造等领域的情况展开广泛讨论,预计吸引6000余人参会。

AI重塑网络安全发展态势

“各行各业网络化、数字化、智能化转型加速,以数据为关键要素的新产业,以人工智能为关键技术的新场景,面临的安全挑战更加复杂,各类攻击威胁与日俱增。”许心超在致辞中说。

北京市政府副秘书长许心超

在大会上,王营康也表达了对人工智能带来的安全挑战和攻击威胁的高度关注。“随着人工智能技术的发展,攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等,网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。”

中央网信办网络安全协调局副局长王营康

根据奇安信发布的《2024人工智能安全报告》,AI既放大现有网络安全威胁,又引入了新型威胁,引发网络安全事件指数级增长。其中,2023年基于AI的深度伪造欺诈暴增3000%,基于AI的钓鱼邮件数量增长了1000%。一项对IT行业领导者进行的关于ChatGPT等大模型的调查显示,安全性是受访者最关心的问题,71%的受访者认为生成式人工智能会给企业数据安全带来新的风险。

面对人工智能时代新的网络安全态势,2024年政府工作报告提到,“加强重点领域安全能力建设”“提高网络、数据等安全保障能力”。在本次BCS大会上,与会嘉宾们呼吁进一步提高对网络安全态势的重视,强化体系化安全能力建设。

“数据安全是人工智能安全的前提和基础。” 陈智敏认为,要从网络安全保卫向数据安全保卫的工作模式拓展,为构建与数字生产力相适应的新型生产关系奠定基础。

中国友谊促进会理事长、十三届全国政协社会和法制委员会副主任、公安部原副部长、国家网信办原副主任陈智敏

鲁昕指出,建设网络安全强国、数字中国,培养符合网络安全发展战略需求的高素质技术技能人才,是保障国家安全和赢得产业发展主动权的基础和关键。

中国职业技术教育学会会长,原教育部党组成员、副部长鲁昕

对此,王营康建议,要统筹网络安全各方力量,构建大网络安全工作格局,推动形成体系化防御能力;要统筹高质量发展与高水平安全,推动形成人工智能综合治理体系;要坚持网络安全教育、技术、产业融合发展,推动形成人才培养、技术创新、产业发展的良性生态。

AI激发网安行业新质生产力

“AI驱动安全是大势所趋,未来网络攻防就是得AI者得天下。谁能提前抓住AI变革的机遇,谁就能掌握网络空间安全的主动权。”在主旨演讲中,齐向东判断,当前网络安全格局正在被颠覆重构,但这种颠覆重构不仅带来新的安全挑战,也为网络安全行业带来前所未有的战略机遇。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东

对此,海德尔·阿巴斯深表认同。他在题为《人工智能悖论:加强网络安全还是加剧威胁》的主旨演讲中说,大型语言模型(LLM)正彻底改变网络安全形势,AI在网络安全领域带来的既有挑战,也有机遇。例如,网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件,但企业也可以用AI增强威胁检测和事件响应、处置。

巴基斯坦NCERT主席、国际工程技术学会会士、英国计算机学会会士海德尔·阿巴斯

那么,如何尽快发挥AI赋能网络安全的积极作用,实现“用魔法打败魔法”?与会专家给出了丰富的解决方案。

“人工智能是新质生产力,智能化大势不可阻挡。不发展是最大的不安全,要发展AI促安全。” 作为人工智能治理领域的知名专家,龚克呼吁推进AI与网络安全融合创新。

在龚克看来,一方面,人工智能的发展推动了网络安全技术的创新。例如,基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现,提高了网络安全的防护能力。另一方面,人工智能的自动化和智能化特性又可以大大提高网络安全管理的效率。通过自动化检测、响应和风险评估等流程,可以更快地应对网络威胁,减少潜在损失。

先进计算与关键软件 (信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长 龚克

“既然AI这么好,是不是赶紧装上一个AI大模型就可以了?”齐向东提醒,AI大模型不是万能钥匙。尤其是在当前“百模大战”的状态下,只有高质量发展的大模型,才能真正带来指数级能力跃升,激发网络安全行业的新质生产力。

在齐向东看来,做好“AI驱动安全”至少需要具备三大条件:其一,高质量的训练数据;其二,纵深防御的内生安全体系;其三,设备、体系具有统一的输入输出标准。

AI驱动安全成效初显

“依托大数据平台,加强人工智能与网络安全的融合,研究基于人工智能的风险异常检测方法,开展网络安全关联分析、事件处置和调查溯源,强化网络安全威胁监测和应急处置,实现网络安全事件的智能响应、联动防御。”王继业介绍了国家电网探索人工智能在“守护网络安全,助力能源转型”中的最新实践情况。

国家电网有限公司副总信息师 王继业

实际上,不仅局限于电力能源领域,很多机构正快速推进AI在网络安全领域落地生根,“AI驱动安全”已呈现出百花齐放之势。例如,作为网络安全领域原创技术策源地总体单位,奇安信以科技创新推动产业创新,于今年3月对外正式发售了“AI驱动安全”的代表性产品:QAX-GPT安全机器人。

据介绍,目前QAX-GPT安全机器人已经被应用于金融、能源、交通等多个领域的头部企业,带来了威胁发现和研判、安全运营、智能攻防等能力的提升与飞跃。其中,QAX-GPT安全机器人对真实网络风险事件研判准确率接近100%,可以消除80%以上无效告警,助力企业网络安全运营效率提升逾60倍。

随着网络安全领域智能化产品落地,相关市场的规模快速增长。有关统计显示,网络安全领域的人工智能产品市场将从2017年的39.2亿美元增长到2025年的348.1亿美元,预测期内的复合年增长率为31.38%。

据许心超介绍,北京市已将数字安全产业作为全市重点发展的高精尖产业,目前已经汇聚数字安全企业1025家;2023年北京市数字安全企业收入达到996亿元,产业带动作用凸显。

“人工智能是引领未来的战略性技术,是新一轮科技革命和产业变革的重要驱动力量。本次大会以‘AI驱动安全’为主题,旨在将AI作为网络安全的驱动力,帮助专家快速的识别、追溯和处置安全威胁,提升网络安全防御的智能化水平。”展望未来,李立功对AI驱动安全的进一步落地应用充满了期待。

中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文主题演讲:鹏程云脑与脑海系列大模型

中国工程院院士、同济大学讲席教授蒋昌俊主题演讲:智能算网系统

Forrester 副总裁兼高级研究总监弗雷德里克·吉隆:适应与采用:平衡AI的严峻风险与丰厚回报

10场分论坛1场大赛同日召开 场场爆满

本届大会有三个特点:一是开放。本次会议一共有来自10多个国家和地区的专家学者,有来自金融、能源、交通、政务等10多个行业的代表。通过广泛的交流研讨,互补优势,互通有无,在开放中前进,在开放中发展。

二是创新。本次大会的主题是“AI驱动安全”,将AI作为网络安全的驱动力,这是安全理念的创新。本次大会除了丰富的论坛研讨外,还将举办电子数据的取证大赛,安全的创客汇大赛,既有思想碰撞,又有同台竞技,是会议形式的创新。本次大会还设置了AI造假、勒索攻击,智能驾驶等沉浸式互动,真实感受网络空间无处不在的风险,这是一种现场体验的创新。

第二届盘古石杯全国电子数据取证大赛现场

信创安全论坛现场

灯塔工厂数字安全论坛论坛

三是共享。本次大会将举办两场峰会,20多场分论坛,包括第四届中国数据要素50人论坛、网络安全人才发展与合作论坛、第五届金融业网络安全论坛、第六届智慧能源网络安全论坛、互联网创新发展论坛等,围绕数据要素与新质生产力、人才培养、关基行业网络安全建设等议题进行深度研讨,同时在云原生、威胁情报、融合安全、电子取证等领域发布新技术、新产品、新方案,开展网络安全的发展成果共享。

BCS2024主题展区

作为具有全球影响力的网络安全大会,BCS大会已成功举办五届,先后有来自中、美、俄、法、日、以等30多个国家和地区,超2000位政要、行业领袖、网络安全专家出席并分享精彩观点。

0 阅读:0