你正在看的短视频，文案翻译出镜剪辑全都是AI原创。AI人的震撼还没褪去，网上的假人已经悄悄咪咪地大批出现了。上个月，中国香港警方通报了一起香港史上最大的诈骗案，涉案金额高达2亿港币。受害人是一名跨国公司员工，他受邀参加一场线上会议，领导、同事、财务科科长都在。会议上，在“领导”的指挥下，他把2亿港元先后分15次转入了指定账户。
直到一周后，受害者才发现事情不对，整个线上会议中就他一个“真人”，其他人，全是用AI换脸的“假人”。
人工智能大模型浪潮席卷全球已经一年，很多行业被深刻地改变了，而AI数字人已经率先渗透进我们的生活。低价、方便，一键生成。听起来离谱，但AI换脸和AI数字人确实是离我们最近的AI技术，甚至比ChatGPT还近。不需要专业的设备，不需要复杂的操作，像剪映这样的视频制作软件，早已将数字人的门槛降到近乎为零，免费、简单、速度快。
在商业赛道上，数字人的表现更是一骑绝尘。京东早在2022年就上线了“言犀”数字人主播。这个数字人能阅读商品的介绍之后，自动生成卖点文案，并完成口播。它主打的是“闲时直播”，帮助店铺在深夜、清晨等时间段填补直播空白。根据京东官方数据，2023年双11期间，超过4000家品牌的直播间用上了数字主播，闲时直播的转化率增长了30%。
就像你想的那样，骗子来了。从文案到视频都由AI生成，还真有人这么做了。成本降低是数字人骗局能规模化的前提条件——当骗子自己一人五分钟就能做成一条质量尚可的视频，那些曾经归于真人出镜视频的可信度已经荡然无存了。如果你经常刷短视频，时不时就能看到一些鸡汤营销号，“人生的八个真相”、“女人过了30岁要懂的七件事”，“如何做才能在五年后和同龄人拉开差距”，都是它们的热门话题。
更麻烦的是，此类诈骗行为几乎是零风险的。受害者往往远在国外，无法直接追责。而它们带货的商品不是假冒伪劣产品，消费者也无法投诉。只有在被戳穿之后，由平台自行监督。但那时，骗子往往已经赚到盆满钵满，跑路开下一个号去了。在过去，虽然也有相关特效软件可以实现人脸模仿，但所需的技术难度非一般人可为。而AI大模型，让这一操作的难度降到几乎为零。
根据媒体报道，仿冒Loiek的运营团队使用的，是一款名为HeyGen的AI软件，月费只要几十美元，所需素材，不过是当事人的几段视频。
数字人诞生不到两年，已经搅浑了短视频和直播赛道，技术的进步和降价如此之快，连《黑镜》里预测的未来都显得落伍了，谁知道下一步AI会把我们带进怎样的世界里呢？我也不确定那是不是更好的世界。