潮新闻客户端记者张云山柳蓬

在2024年世界互联网大会乌镇峰会上，“人工智能”成为万众瞩目的焦点。网络安全技术发展与国际合作论坛上，来自全球网络安全技术领域的政、产、学、研嘉宾齐聚一堂，围绕“智能向善，人工智能安全风险与治理”的主题展开热烈讨论。

全国政协委员、全国工商联副主席、奇安信集团董事长齐向东在会上发表主题演讲，针对AI面临的黑箱化、黑产化、武器化“三重危机”，提出了三大安全策略，为AI的健康发展保驾护航。

奇安信集团董事长齐向东发表主题演讲。

齐向东表示，人工智能的“三化”危机正日益加剧。AI黑箱化导致内容生成良莠不齐，攻击者可以轻易利用漏洞篡改大模型输出内容，甚至直接瘫痪模型。在今年的实网攻防演练中，奇安信攻击队就成功攻破了某AI大模型，展示了这一风险的严峻性。

AI黑产化更是让深度伪造泛滥成灾。不法分子利用AI技术伪造图像、音视频等内容，实施诈骗，公众和企业深受其害。齐向东指出，深度伪造技术已经成为网络诈骗的新手段，必须引起高度重视。

至于AI武器化，更是让黑客攻击愈演愈烈。人工智能可以生成恶意软件、钓鱼邮件，快速发现目标系统中的漏洞，大幅降低网络攻击门槛。不懂代码、不懂技术的普通人也能借助AI成为黑客，网络空间的安全形势愈发严峻。

面对这些挑战，齐向东提出了三大安全策略。首先，要通过多维度体系化防护，确保AI大模型在基础运行环境、训练环境、API接口以及数据安全等方面的合规性。奇安信打造的大模型卫士和AI安全整体应对方案，正是为了解决这一问题而生。

其次，要用“鉴伪”“防伪”技术有效遏制深度伪造。奇安信自研的深度鉴伪模型能够准确识别多种前沿AI伪造技术生成的虚假图片视频，为政府执法等部门提供了有力支持。

最后，要用安全大模型反哺安全能力大提升。奇安信在内生安全体系之上，部署了自研的QAX-GPT安全大模型，不仅让大模型更懂客户业务，也让安全体系效率更高、能力更强。AI安全大模型的研判效率已经提到了人工的60多倍，实现了安全运营模式的智慧化转型。

齐向东强调，有了高效的安全治理，AI才有未来。奇安信将运用好技术优势，为AI安全治理贡献更多力量，努力为全社会营造更加和谐、更加繁荣的未来。