中国国家安全部(MSS)周二提醒公众,人工智能(AI)技术对国家安全构成的潜在风险,因为它正在以前所未有的速度融入我们日常生活的各个方面。
在MSS发表的一篇文章中,人工智能工具可以泄露敏感数据,因为用于生成对话、文本和其他任务的人工智能工具可以收集和存储个人信息,导致私人数据泄露。
人工智能工具甚至有可能从与涉及机密事项的个人相关的数据中推断出敏感信息,如果外国情报机构收集或窃取此类数据,这可能会带来风险并造成潜在的国家安全危险。
MSS还提醒,人工智能技术可以生成和传播虚假信息。由于人工智能技术可以快速生成大量文本、图片以及音频和视频内容,一些犯罪分子可以利用这项技术来欺骗、捏造和传播在线谣言或虚假和有害信息,这可能会误导公众,损害国家安全和中国的形象。
与此同时,MSS还提醒说,一些网络攻击与智能设备有关。如果智能家居设备和智能互联车辆被黑客入侵,其系统被控制,黑客可以通过窃听和监控来收集和分析对话、旅行路线和周围地理信息等数据,从而对个人隐私、财产安全甚至国家安全构成现实威胁。
此外,MSS警告说,使用人工智能技术实施的网络钓鱼攻击越来越秘密和复杂。关键行业很容易成为人工智能技术欺骗性网络钓鱼的受害者。外国情报机构一直在使用人工智能技术,以更多样化和更复杂的方法对中国核心秘密相关企业和机构进行网络钓鱼攻击。
此外,MSS警告说,人工智能技术提出的个性化建议可能会隐藏信息陷阱,并解释说,通过分析用户的习惯,人工智能建议系统可以创建个性化建议,形成“过滤气泡”和“回声室”,影响个人的想法和信仰,将用户困在信息茧中。外国敌对势力可能会利用人工智能推荐系统来误导舆论,并对中国互联网用户进行意识形态渗透。
作为技术发展的新阶段,人工智能技术涉及某些公众未知的领域。它可能会被利用,因此中国必须保持高度戒备状态。
说得没错👍