范渊乌镇峰会谈AI:以工具视之、以工具用之、以工具治理之

新京报 2024-11-22 11:34:35

新京报贝壳财经讯(记者罗亦丹)11月20日至22日,2024年世界互联网大会乌镇峰会在浙江乌镇举行。大会期间,安恒信息董事长范渊发表《人工智能技术与应用的安全可靠和健康发展》主题演讲。在范渊看来,新一代人工智能技术,不仅仅是人机交互体验、协作的革命,更是专家经验传承的一次变革。在网络安全、数据安全领域,AI正在重构安全工作协同关系,助力安全产业发展和行业应用价值化呈现,引发行业质变。我们应该以工具视之、以工具用之、以工具治理之。

范渊表示,安恒信息依托多年来积累的技术和实践经验,做了诸多有益探索。一方面,“智能体+安全运营”,可以实现运营工作提质增效。2023年8月,恒脑安全垂域大模型首次发布后,在杭州亚运会期间投入实战应用,其自动化研判机制提升告警分析效率,进一步降低了人力投入。

另一方面,“智能体+数据安全”,可以实现安全与业务的完美融合。例如,数据分类分级借助AI对行业和业务特性的理解,将数据分类分级效率提升30倍,并在政府、运营商、教育、医疗、企业、金融、交通、公安、烟草等行业实现全面覆盖,彰显出AI在数据安全领域的强大力量。

范渊还强调,人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的“头雁”效应。当前,鼓励人工智能创新发展仍是第一要务。但随着AI技术深入场景,安全事件频发,例如大模型敏感数据泄露、歧视内容输出、虚假内容生成等风险问题等。如何能够让人工智能的发展始终沿着我们希望的轨道前进,轨道的微调、轨道的预判、轨道的规则变得非常关键。因此,在加速技术应用“虚实共进”,变“Chat”为“Product”的同时,要确保人工智能安全、可靠、可控。

0 阅读:4