红星资本局12月10日消息,近日有网友称,陌生人在字节跳动旗下AI产品豆包中输入她的名字和学校后,豆包显示了她的微信账号,加上微信后验证为真。
该网友李雨(化名)告诉红星资本局,她曾经为了招募人员在一条微信推文中留下过自己的微信账号,但该推文在发布一周后就删除,但是豆包抓取、保留并向其他人透露了她的微信账号。
红星资本局以“学校+名字”的方式在豆包中随机搜索到多条结果,其中部分结果显示了被搜索人物的联系电话和邮箱。对此,豆包方面回复:网友反馈的情况,是豆包基于互联网上公开信息进行搜索和智能整合,此类联系方式通过搜索引擎也能够搜到。目前,豆包已对询问个人信息类提示词进行优化,保证即使网上有公开信息的情况下,仍然限制相关信息的露出,做好个人隐私信息的保护。后续,豆包还会继续优化产品策略,避免对用户造成类似的误解和困扰。
李雨说,有关她的两条信息中,其中一条信息是她为学院的教师比赛做摄影师,另一条信息是她在2023年为一个学生剧组招募现场演员(并留下了微信账号)。李雨表示,那条带有她微信账号的推文是用团队成员的个人公众号发布的,并且该文章当时在团队成立后就删除了,只发布了一周左右。加上上述陌生网友的当晚,李雨就删除了该网友的微信。
“就这样把我的微信号广而告之真的合理合法吗?”李雨说,她已经向豆包举报了那条带有她微信账号的信息。
目前,李雨在豆包输入她的学校和名字,豆包会要求提供更多信息,搜索上述附有她联系方式的演员招募推文,已找不到该推文和她的联系方式。李雨说,目前豆包方面还没有就她的微信账号被泄露一事向她进行说明。
不过,据李雨讲述,她在豆包搜索其所在学校其他人的联系方式时(如搜索“XXX大学有几个XXX(姓名)”),豆包仍然会显示对应人物的联系方式。12月10日,红星资本局按照李雨提供的关键词在豆包搜索,结果也显示了对应人物的微信账号。
实测:多数情况不会关联联系方式
AI会显示信息来源
据红星资本局实测,在豆包搜索出具体人物的联系方式的可能性不大。12月10日,红星资本局在豆包多次尝试,通过不同的姓名、学校关键词搜索发现,有的人物并未被查出相应信息。
例如,有的高校会在官网提供教师邮箱,红星资本局在豆包对应搜索发现,页面显示公开资料未显示该教师的联系方式。还有学生会在社团招新时留下负责人的微信或者电话,红星资本局对应搜索后,页面也没有抓取到相应结果。在这种情况下,豆包会给出解决办法,例如拨打该学校的办公室或者对应学院的电话,还可以给学校邮箱发邮件。
不过,有的高校教授会被豆包显示个人邮箱,这种情况在红星资本局的搜索过程中出现得并不多。
在另一些显示了对应人物联系电话的结果里,有的是显示办公电话(座机号码),还有的会显示多个同名同姓人物的办公电话。在这些被显示的结果里,豆包会贴出信息来源,用户可以一键点击查看信息的原始出处,这些来源包括文字、视频等。
此外,红星资本局通过先搜索“XXX大学有几个XXX(姓名)”,再搜索“XXX大学XXX(姓名)的联系方式”,搜索出两个具体人物的联系电话,结果页面显示了对应的联系电话,有的还在联系电话后附上了邮箱。
大模型通过互联网抓取个人信息
是否侵犯隐私?
互联网产业分析师张书乐告诉红星资本局,AI大模型大多会通过互联网获得“学习资料”,其运行原理本就有点类似搜索引擎,只是较之搜索引擎散落于各网页的搜索结果,AI可根据自身算法聚合出基于公开资料的信息,而如果算法中没有规避诸如微信号、邮箱之类的指令,则难免引发争议。
张书乐进一步指出,由于无法识别使用者的目的性,在抓取相关信息后,确实可能造成隐私泄露。“但基于相关信息在网络上的公开状态,以及AI深度学习算法的不成熟,应该适当予以包容。恰恰在使用中出现各种BUG,才能够让AI更好的调整算法,以适应公共良俗的需求。”张书乐说。
北京市京师律师事务所律师卢鼎亮则表示,从伦理角度看,抓取个人信息存在一定争议。“如果这些信息是在公开场合且用户明确知晓并同意被用于知识类工具的训练等情况,相对来说比较合理;但如果是在用户不知情的情况下,将其视为隐私的联系方式等信息用于训练,就可能侵犯用户的隐私。”卢鼎亮说。
陕西恒达律师事务所高级合伙人、公益律师赵良善也告诉红星资本局,民法典规定,民事主体享有隐私权利,未经权利人允许,任何人不得随意抓取或使用,“如果豆包等未经允许或授权,抓取他人个人隐私信息并向公众公开,则涉嫌侵权。从伦理角度看,随意抓取个人信息是不负责,也是不道德的。”
对于豆包在相关文章被删除后仍然保留了李雨的微信账号这一问题,赵良善指出,公开信息并不意味着永久公开,在权利人删除后,即视为公开信息的状态发生改变,这就意味着权利人不愿其个人信息继续被公众知悉或被传播,如果豆包在用户删除信息后仍然保留这些信息,那么就构成非法收集个人信息行为,违背了权利人的真实意愿。
至于豆包向他人泄露李雨的微信账号,赵良善表示,豆包作为一个提供智能筛选信息的公共平台,在涉及到个人信息和权利主体时,理应慎重和甄别,而非随意提供,否则将涉嫌侵权。“豆包无差别、无保留地提供个人信息,说明其在个人信息保护方面存在问题。”赵良善说。
卢鼎亮同样表示,人工智能不应该随意透露个人隐私信息,应该遵循严格的隐私保护原则,此次事件显示出人工智能软件在数据管理和隐私策略执行上的不足,没有足够有效的机制来及时发现和屏蔽可能涉及隐私泄露的信息。