|
你在网络直播间看到的正在带货的名人明星是真人吗？未必。近期，小米集团创始人雷军建议加强“AI换脸拟声”违法侵权重灾区治理，再次引发公众对AI数字人使用的讨论。
去年以来，AI生成的数字人大量“占领”电商平台，有的靠“图”预售、以次充好，还有的用AI数字人仿冒名人外貌及声音为一些“神药”“神器”背书，短时间内卖出巨额大单。在这背后，一套从肖像、配音，到文案生成的AI数字人带货制作流程充斥网络，带来众多监管难题。
专家表示，利用AI数字场景直播带货是电商发展的新趋势，但在发展前期，一些不法商家利用监管漏洞侵害了消费者权益，建议尽快完善法律法规，强化平台责任，设定AI数字场景使用边界，防止AI“赋能”变AI“负能”。
一场“眼见是否为实”的暗战
兰州市民崔女士近日在网络直播间购买了一件春季薄款毛衫。商品页面中模特展示这款毛衫的面料细腻柔软，穿在身上得体优雅，她感觉自己的身材也像模特一样属于偏瘦类型，于是下单。而收到实物后却发现，这件毛衫材质既不细腻也不柔软，裁剪还很粗糙，她深感上当受骗。
经过与售后一番费尽周折的交流，崔女士得知，该模特其实是AI生成的“数字人”，面料的视觉效果都经过了AI技术的“渲染”。
甘肃慧联信息科技发展有限责任公司总经理王雪莲已有十多年电商从业经历。她告诉记者，雇用模特试穿拍照是服装电商行业的传统做法，但AI数字模特的迷惑性在于它可以通过参数设置，生成“九头身”“马甲线”理想化身材，并借助AI渲染技术消除衣服褶皱、增强光泽感和飘逸灵动感，使廉价的面料呈现出昂贵质感，让消费者误判服装的实际效果。
崔女士的购物经历并非个例。记者调查发现，在直播带货领域，AI数字人通过仿真的面部形象、声音和精心的场景布置，其迷惑性让消费者防不胜防。
更有甚者，有商家将名人明星换脸为数字人“平替”。去年以来，“AI换脸杨幂”直播卖化妆品、“AI古天乐”代言游戏等AI数字人仿冒名人话题频频登上热搜。今年春节期间，更有不法商家生成“AI张文宏”，“严肃认真地在直播间卖蛋白棒”，从开播到被举报关停，短时间内卖出了1200多单商品。
除了借用名人效应外，一些商家用AI技术打造数字人人设，如“成功女企业家”“单亲妈妈”“带娃宝妈”“知性美女”“美妆达人”等，利用特定人群的同理心直播带货。而在保健品、药品、化妆品、医疗辅助器械“三品一械”领域，精心打造的数字人面向老年人、学生等辨别能力弱的群体，大肆夸大产品功效，快速敛财。
AI数字营销监管“网眼大”
针对AI数字人仿冒名人直播带货、AI换脸诈骗等违法行为，国家网信办已出台《人工智能生成合成内容标识办法（征求意见稿）》，并开展网络清朗行动等专项行动约束管理。
然而，对于正处在发展初期的AI数字营销，一些专家表示，从法治层面到平台监管，还存在诸多漏洞。
记者在某平台上输入“AI数字人直播教学”等关键词，搜索出成千上万个教程，学费从几十元到数百元不等，还有的甚至免费。
记者联系一位收费教程博主，其称“三分钟教会搭建AI数字人直播间”，并承诺“一天可以做近百个数字作品，都能通过原创审核”。 共2页 [1] [2] 下一页
|
