演员吴越日前称自己一觉醒来“被直播带货”——一个与她容貌高度相似的数字人正在直播间里兜售重组胶原蛋白精华液,单品月销7000余单。视频截图显示,这个“数字人”的口型、神态、语气都足以乱真,普通观众几乎不可能分辨真假。

类似遭遇并非个案。2025年4月起,温峥嵘团队发现网络上出现大量伪造的“温峥嵘直播间”,同一时段至少12个账号同时开播,每个直播间里都有一个“温峥嵘”在带货,妆发不同、产品不同,话术却高度雷同。温峥嵘本人进入其中一个直播间质问“你是温峥嵘我是谁”,随即被对方拉黑。其团队单日即发现近50个冒充账号,但每天仍有新号涌入。温峥嵘无奈表示:“我现在就很难证明我是我。”去年12月,她就换脸盗播报警并晒出受案回执。演员靳东的形象则被专门用于针对中老年群体的情感诈骗与非法集资,性质已越过虚假代言边界。

河南泽槿律师事务所主任付建表示,随着深度学习和神经网络技术成熟,不法分子可以轻易盗取他人面部信息并合成到各种场景;开源技术普及又让门槛持续降低。商家未经授权使用演员形象直播,涉嫌侵犯肖像权和姓名权,同时侵害消费者的知情权、选择权、公平交易权,情节严重的还可能涉嫌欺诈。

值得警惕的是,人工智能标识正在变成侵权者的“挡箭牌”。目前在社交平台报价几元到十几元就能生成一条15秒视频,有工具宣称可一键复刻同行爆款带货视频,上传参考视频和替换人物即可生成高度还原的复刻内容。《人工智能生成合成内容标识办法》施行一年多后,多数违规视频确实带了“含人工智能生成内容”小字,但标识只回答“是不是人工智能做的”,回答不了“有没有授权”“是不是欺诈”。

风险还在向账户安全延伸。杭州市中级人民法院今年公布的案例中,两名不法分子用收集来的照片生成点头、摇头、眨眼等动态视频,篡改相机数据后突破了购物平台人脸核验,盗取账户内个人信息。今年9月,最高人民法院发布依法审理涉人工智能纠纷案件的意见,明确当事人因客观原因不能自行收集证据的可申请法院调查收集,降低举证难度。中央网信办“清朗·整治人工智能应用乱象”专项行动累计清理违法违规信息561万余条,查处账号4.9万余个,处置违规网站、应用程序等2400余个。付建建议,被仿冒者可依据民法典向侵权商家主张权利,或向平台投诉、向法院起诉;对消费者而言,识别此类技术诈骗难度很大,购物时应尽量选择信用良好的网络平台或商家直营店铺,遇到明显低于市场价的“名人推荐”要多留一个心眼。

(信息来源:中国消费者报)