网络时代什么最吸引眼球 ? 有人可能会说是美女。

美女确实吸引眼球，但各大平台的推荐来看，真人是更重要的一点。尤其是身处 AI 发展阶段，各大平台对于 AI 图片、视频都有着相应的审核制度，为了防止受骗还会进行特殊标注。

但最近的 AI 已经进化到真假难辨的地步了，你关注的美女博主就有可能是 AI 生成的，她们不仅骗过了平台推荐，还骗走各位观众老爷的小红心。

1300 多个美女都是 AI?

曾经有句话叫 " 跟你聊天的美女背后可能是个抠脚大汉 "，现在可能要变成，你百看不厌的美女博主背后可能是一个男人和一堆 AI。

近期，网上有人分享了在某平台用 AI 批量生成美女照片结果成功骗过平台做出 1300 多个账号的光荣战绩。这里面可能就有令各位观众老爷疯狂心动的那个 " 她 "。

在大多数人的普遍认知中，AI 的发展还未到以假乱真的效果，更多的是李逵和李鬼的关系，一眼就能分辨出来。但殊不知，这位网友不但靠 AI 骗过了平台更是进一步把各位观众老爷的小红心骗走了。

普通人眼中的 AI 文生图效果是什么呢 ? 五官不自然、AI 感明显、六指狂魔等等，我们凭借着引以为傲的眼界一度不把它们放在眼里。此前麦当劳薯条宣传片中用了 11 位 AI 美女，就被不少人吐槽有非常明显僵硬的 AI 脸和违和感。

但有时候，AI 的发展远超我们的火眼金睛。这些能够骗过平台的 AI 图片和麦当劳 AI 美女可就不是一个风格和量级的了，来看看你能分辨出来吗 ?

怎么看这都只是平平无奇的美颜照片，最多是高 P 精修图，但任谁能发现这全都是 AI 生成的。经过仔细观察，我们发现可能为数不多的瑕疵在于第一张车座的位置不对，好似人违反物理规则坐在了空气上，另外两张照片是一点看不出 AI 痕迹。

据说，这些真假难辨的 AI 美女全都来自 Flux，之前以生成各种超高拟真度的人物图片而著称，核心成员都来自 Stable diffusion。当然，告诉大家工具可不是让大家去模仿，仅仅只是科普，往下看就知道如果用来盈利会发生什么了。

AI 美女生意火热，但合法的不多

今年早些时候，一个 APP 直播推送页面，有位 ID 为 " 靓女百变秀 " 的账号正在进行直播。直播间内，一位身穿紧身衣的女主播卖力地扭动着身姿，伴随背景音乐跳着热辣劲舞。

直播间内标示有 " 数字主播一切听你的 " 字样，同时还有 " 小礼物控制主播 "" 发以下弹幕调戏主播 " 的文字提示，所以这位女主播实际上是一个 AI 虚拟数字人。

据直播间的弹幕互动游戏玩法介绍，用户通过发送 "111""888"" 老婆 "，即可 " 调戏主播 "，分别对应 " 主播喊爸爸 "" 恶龙咆哮 "" 主播撒娇 "。此事被曝出后，该账号已经删去了相关直播内容，并且疑似注销了账号。

我们也曾就此事咨询过北京鼎世律师事务所合伙人律师李苏阳，他表示：从报道内容看，该直播的内容及形式，无疑属于 " 擦边 "" 低俗 "，涉嫌 " 软色情 "，可能被认定为 " 带有性暗示、性挑逗等易使人产生性联想 " 以及 " 宣扬低俗、庸俗、媚俗内容 " 的不良信息，或违反了《网络直播营销管理办法 ( 试行 ) 》《网络信息内容生态治理规定》等法规的禁止性规定，可能被作为中央网信办 2024 年 " 清朗 · 网络直播领域虚假和低俗乱象整治 " 专项行动的重点打击对象。

显然，利用 AI 主播擦边赚钱并不是一个好主意。那像上述一样只发图片呢 ? 大概率很难赚到钱，毕竟缺乏账号管理，难以变现。而网上还有许多教大家用 AI 美女赚钱的，想想也知道这是为了让你交课时费。

这种 AI 换脸的生意稍微想想就可能存在各种法律风险，科技旋涡提醒大家，切勿盲目操作，小心因小失大。而提到 AI 换脸，就不得不说知名歌星泰勒了，几乎每次 AI 换脸都让她遇上了。

AI 泰勒支持川普，多次换脸受害者

在美国总统候选人卡马拉 · 哈里斯与唐纳德 · 特朗普的辩论之后，泰勒 · 斯威夫特在在 Instagram 中发布了一条立场鲜明的支持宣言。最近有不实消息称 " 她支持特朗普 "，为此她在此做出澄清。泰勒 · 斯威夫特还表示，她将在 2024 年总统大选中投票给哈里斯，因为她 " 为权利而战 "。

在帖子中，她表示发现有人利用 AI 虚假地宣称我支持唐纳德 · 特朗普竞选总统，并将此信息发布在了他的网站上。这让我对 AI 和传播错误信息的危险产生了恐惧。这也让我得出结论，作为选民，我需要非常透明地公开我对这次选举的实际计划。打击虚假信息的最简单方法就是说出真相。

最后，她还表示，会在社交媒体中附上登记地点、提前投票日期和相关信息。显然，这次 AI 换脸把泰勒惹急了，此前她对于有关 AI 换脸黄色照片的事情反应都没有此次激烈。

2024 年初，泰勒的一些露骨不雅照片在互联网上疯传，其中一张图片已经被浏览了整整四千五百万次 ! 随后，这些图像被验证是人工智能 " 深度伪造 " 技术生成的，用来恶意诋毁泰勒的公众形象。

科技旋涡认为，虽然利用 AI 技术制作虚假信息早已有之，但随着生成式 AI 在过去一年多时间内的快速发展，对视频、图片、音频进行深度造假技术更加成熟且普遍，造假的成本也更加低廉。

传播学者罗伯特 · 切斯尼形象地称之为，" 说谎者的红利 "，前所未有的 AI 深度伪造焦虑让那个曾经遥远的问题，骤然变得现实而紧迫。

写在最后

人工智能技术是一把双刃剑。在给人类生活带来便利的同时，它也带来了诸多伦理困境。自 AI 飞速发展以来种种诈骗、违法案件提醒着我们直面人工智能带来的种种挑战。

不论是虚拟数字主播擦边还是 AI 美女以假乱真，其背后都是一群追求利益的人在操纵。AI 大模型是人类的镜像，人们投喂给它什么，它就会像一潭有魔力的湖水，反射出人们自己的潜意识与欲望。

在发展人工智能的同时，我们有必要为之设置 " 防火墙 "，唯有如此，我们才能真正驾驭这一划时代的技术，让它更好地造福和帮助人类。