科技旋涡作者&编辑｜孙浩南

网络时代什么最吸引眼球?有人可能会说是美女。

美女确实吸引眼球，但各大平台的推荐来看，真人是更重要的一点。尤其是身处AI发展阶段，各大平台对于AI图片、视频都有着相应的审核制度，为了防止受骗还会进行特殊标注。

但最近的AI已经进化到真假难辨的地步了，你关注的美女博主就有可能是AI生成的，她们不仅骗过了平台推荐，还骗走各位观众老爷的小红心。

1300多个美女都是AI?

曾经有句话叫“跟你聊天的美女背后可能是个抠脚大汉”，现在可能要变成，你百看不厌的美女博主背后可能是一个男人和一堆AI。

近期，网上有人分享了在某平台用AI批量生成美女照片结果成功骗过平台做出1300多个账号的光荣战绩。这里面可能就有令各位观众老爷疯狂心动的那个“她”。

在大多数人的普遍认知中，AI的发展还未到以假乱真的效果，更多的是李逵和李鬼的关系，一眼就能分辨出来。但殊不知，这位网友不但靠AI骗过了平台更是进一步把各位观众老爷的小红心骗走了。

普通人眼中的AI文生图效果是什么呢?五官不自然、AI感明显、六指狂魔等等，我们凭借着引以为傲的眼界一度不把它们放在眼里。此前麦当劳薯条宣传片中用了11位AI美女，就被不少人吐槽有非常明显僵硬的AI 脸和违和感。

但有时候，AI的发展远超我们的火眼金睛。这些能够骗过平台的AI图片和麦当劳AI美女可就不是一个风格和量级的了，来看看你能分辨出来吗?

怎么看这都只是平平无奇的美颜照片，最多是高P精修图，但任谁能发现这全都是AI生成的。经过仔细观察，我们发现可能为数不多的瑕疵在于第一张车座的位置不对，好似人违反物理规则坐在了空气上，另外两张照片是一点看不出AI痕迹。

据说，这些真假难辨的AI美女全都来自Flux，之前以生成各种超高拟真度的人物图片而著称，核心成员都来自Stable diffusion。当然，告诉大家工具可不是让大家去模仿，仅仅只是科普，往下看就知道如果用来盈利会发生什么了。

AI美女生意火热，但合法的不多

今年早些时候，一个APP直播推送页面，有位ID为“靓女百变秀”的账号正在进行直播。直播间内，一位身穿紧身衣的女主播卖力地扭动着身姿，伴随背景音乐跳着热辣劲舞。

直播间内标示有“数字主播一切听你的”字样，同时还有“小礼物控制主播”“发以下弹幕调戏主播”的文字提示，所以这位女主播实际上是一个AI虚拟数字人。

据直播间的弹幕互动游戏玩法介绍，用户通过发送“111”“888”“老婆”，即可“调戏主播”，分别对应“主播喊爸爸”“恶龙咆哮”“主播撒娇”。此事被曝出后，该账号已经删去了相关直播内容，并且疑似注销了账号。

我们也曾就此事咨询过北京鼎世律师事务所合伙人律师李苏阳，他表示：从报道内容看，该直播的内容及形式，无疑属于“擦边”“低俗”，涉嫌“软色情”，可能被认定为“带有性暗示、性挑逗等易使人产生性联想”以及“宣扬低俗、庸俗、媚俗内容”的不良信息，或违反了《网络直播营销管理办法(试行)》《网络信息内容生态治理规定》等法规的禁止性规定，可能被作为中央网信办2024年“清朗·网络直播领域虚假和低俗乱象整治”专项行动的重点打击对象。

显然，利用AI主播擦边赚钱并不是一个好主意。那像上述一样只发图片呢?大概率很难赚到钱，毕竟缺乏账号管理，难以变现。而网上还有许多教大家用AI美女赚钱的，想想也知道这是为了让你交课时费。

这种AI换脸的生意稍微想想就可能存在各种法律风险，科技旋涡提醒大家，切勿盲目操作，小心因小失大。而提到AI换脸，就不得不说知名歌星泰勒了，几乎每次AI换脸都让她遇上了。

AI泰勒支持川普，多次换脸受害者

在美国总统候选人卡马拉·哈里斯与唐纳德·特朗普的辩论之后，泰勒·斯威夫特在在Instagram中发布了一条立场鲜明的支持宣言。最近有不实消息称“她支持特朗普”，为此她在此做出澄清。泰勒·斯威夫特还表示，她将在2024年总统大选中投票给哈里斯，因为她“为权利而战”。

在帖子中，她表示发现有人利用AI虚假地宣称我支持唐纳德·特朗普竞选总统，并将此信息发布在了他的网站上。这让我对AI和传播错误信息的危险产生了恐惧。这也让我得出结论，作为选民，我需要非常透明地公开我对这次选举的实际计划。打击虚假信息的最简单方法就是说出真相。

最后，她还表示，会在社交媒体中附上登记地点、提前投票日期和相关信息。显然，这次AI换脸把泰勒惹急了，此前她对于有关AI换脸黄色照片的事情反应都没有此次激烈。

2024年初，泰勒的一些露骨不雅照片在互联网上疯传，其中一张图片已经被浏览了整整四千五百万次!随后，这些图像被验证是人工智能“深度伪造”技术生成的，用来恶意诋毁泰勒的公众形象。

科技旋涡认为，虽然利用AI技术制作虚假信息早已有之，但随着生成式AI在过去一年多时间内的快速发展，对视频、图片、音频进行深度造假技术更加成熟且普遍，造假的成本也更加低廉。

传播学者罗伯特·切斯尼形象地称之为，“说谎者的红利”，前所未有的AI深度伪造焦虑让那个曾经遥远的问题，骤然变得现实而紧迫。

写在最后

人工智能技术是一把双刃剑。在给人类生活带来便利的同时，它也带来了诸多伦理困境。自AI飞速发展以来种种诈骗、违法案件提醒着我们直面人工智能带来的种种挑战。

不论是虚拟数字主播擦边还是AI美女以假乱真，其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像，人们投喂给它什么，它就会像一潭有魔力的湖水，反射出人们自己的潜意识与欲望。

在发展人工智能的同时，我们有必要为之设置“防火墙”，唯有如此，我们才能真正驾驭这一划时代的技术，让它更好地造福和帮助人类。