巴菲特、雷军、黄百鸣、马斯克……纷纷中招。

AI的技术迭代远远快于监管的速度，近一年来，涉及名人的造假视频层出不穷。

这甚至已引起了“股神”巴菲特的忧虑。

当地时间10月23日，巴菲特旗下伯克希尔·哈撒韦公司在官网罕见发表声明，强调公司董事长巴菲特不会在社交媒体上推荐任何投资产品。

5月的股东大会上，巴菲特曾提及AI，他将AI的出现比喻为原子弹，“我们已经让精灵从瓶子里跳了出来，它现在正在做一些坏事。

相比巴菲特，雷军则更为激动。

今年国庆期间诞生了一条名为“国庆七天被雷总骂”的梗，起因是一个雷军AI语音包在短视频平台悄然走红。

网友使用AI克隆的乐军语音包来吐槽、骂人，因为部分视频内容过火而引发了争议。

29日上午，雷军通过个人账号首次发布了短视频回应了这件事。

在视频中雷军表示前段时间自己刷短视频时关注到了很多人在玩“雷军AI”。

他说，“有网友跟我投诉，说国庆期间被我连续‘骂了’七天，的确让我自己也挺困扰，挺不舒服的，希望大家都不要玩了，这个事情不太好。”

更为恶劣的事情发生在黄百鸣身上。

23日，老牌港星黄百鸣在社交媒体上发布了一则声明，提及自己被AI伪造用于代言。

在声明中他称，发现有人盗用过去的影片，并利用人工智能技术替换声音，假借黄百鸣的名义代言一个不知名的药膏品牌。

他还指出，“这种行为纯属欺诈，旨在误导公众并从中取利”。

此外，这样的欺诈也越来越凶猛，无底线。

媒体报道，今年8月，马斯克因AI伪造技术卷入了一场诈骗事件。

82岁的退休老人史蒂夫·比彻姆（Steve Beauchamp）在网上看到了一段声称由马斯克亲自承诺收益的投资视频。

随后他联系了视频背后的推销公司，并投资了超过69万美元。

随后，这些钱就落入了诈骗犯之手。

据悉，这些诈骗者篡改了一段马斯克的真实采访，利用AI技术替换了他的声音，并微调了他的口型，以匹配他们为这个数字人编写的新剧本。

对于一般观众来说，这种操作几乎察觉不出。

越来越泛滥的AI造假，意味着什么？

AI在互联网上的使用传播我们应该注意什么？

对此，安徽日报元新闻记者徐宏博和书乐进行了一番交流，本猴以为：

未经授权，通过抓取语音形成AI语音包，都是侵权。

无论是名人明星还是普通人，遭遇造假，都可维权。

这一点和借助真人形象生成AI虚拟人是一致的。

不得不说，AI具有强大的内容生成能力，在数字媒体全链条上均可发挥作用，而在内容把控上，有两个问题必须注意：

其一是版权问题。

AI在学习过程中会吸收大量学习资料，这种资料的来源需要有授权，而不是简单抓取，其中真人AI语音包就是一个最粗浅的版权角度。

其二是导向问题。

AI生成内容必须符合主流价值观，要AI向善，这一点也是技术人员在训练AI、使用者在借助AI进行内容生产时必须把握的红线。

当下，AI在互联网上使用，当下首要任务就是标注。

所有AI生成内容必须标注AI生成，可由发布者自行标注，也可由发布平台强行标注，这样才能让受众在信息接收时能够有效辨别。

此外，互联网相关监管方，应该对AI使用中出现的各种乱象，加大监管力度，重拳出击、顶格处理，消弭隐患于萌芽之中。

否则，今天能搞雷军、马斯克，明天你我也难免中招。

别以为普通人，就不会有事，坑的就是你我这样的普通人。

张书乐，人民网、人民邮电报专栏作者，中经传媒智库专家，资深产业评论人