严打虚拟主播?腾讯视频号拟限制数字人带货:鼓励真人直播

200平方米的严打公司凌晨空无一人,一排排的虚拟限制电脑、手机陈列其中,主播全是腾讯数字人在直播,仿佛一场没有人类的视频数字AI狂欢......

一年一度的618即将到来,对于近年兴起的号拟货鼓数字人直播带货,平台正在收紧监管尺度。人带人直

澎湃新闻记者获悉,严打近日为了优化视频号橱窗生态,虚拟限制营造良好的主播交易环境,腾讯对《视频号橱窗达人“发布低质量内容”实施细则》进行修订,腾讯修订内容于今年6月7日-6月13日进行意见征集。视频数字

据最新的号拟货鼓修订方案,“使用插件、人带人直AI等工具生成虚拟形象进行直播”“提供、严打售卖、教学或展示平台不提倡传播的内容:如讲解和售卖虚拟人代播软件”等涉及虚拟人/数字人直播,将被视频号明确列入低质量内容,并进行违规处理。

对于相关修订的原因,6月17日,视频号相关人士告诉澎湃新闻记者,使用数字人/虚拟人直播目前属于平台直播带货中的违规行为,如被平台发现,将依据相关规则进行处罚,包括不限于减少直播推荐、减少账号推荐、限制直播带货能力等。

该人士称,平台希望并鼓励真实的真人主播,能跟观众进行实时的互动。

尽管相关修订没有完全落地,但是对于数字人直播的态度如此“严厉”,视频号属于行业首家。

实际上,目前业内各大平台对于数字人的态度普遍比较积极。其中以京东最为鲜明,此前以京东创始人、董事局主席刘强东为形象的数字人“东哥”亮相京东直播间,曾引发热议。

当时,根据京东超市披露,采销东哥AI数字人上播30分钟,直播间观看人数破千万;仅40分钟内,直播间观看人数超过1300万,创造京东超市采销直播间开播以来,观看人数的最高峰;近1小时观看量超2000万,直播时段用户平均停留时长达到日常均值的5.6倍。在40分钟内,直播间整体订单量破10万。

京东CEO许冉更表态,刘强东数字人之后,数百位总裁数字人将在618活动期间在京东平台直播。

淘宝在去年就开始入局数字人直播。去年7月25日,六位不同打扮的AI主播“烈儿宝贝”和本人同台直播,这也是淘宝头部直播间首次尝试AI上岗开播。去年618期间,首家AI淘宝店“卢咪微Lumiwin”开播,AI数字人马斯氪上岗淘宝直播间,2个小时吸引超16万人次观看,由AI设计的T恤在TVB直播间上架、销出数百件。

快手相关负责人曾表示,快手研发的女娲数字人平台能支持2200个数字人同时直播24小时。

数字人带货无疑是个巨大市场。艾媒咨询数据显示,2023年中国数字人带动的产业市场规模和核心市场规模分别为3334.7亿元和205.2亿元,预计2025年分别达到6402.7亿元和480.6亿元。

尽管如此,从实际应用角度,多家头部直播间负责人告诉记者,正式投入数字人还需要谨慎,“直播间要能赚钱,靠的是人、货、场三者良好的经营。还有直播间品牌的积累,数字人只是工具。”

头部直播间“交个朋友”相关负责人告诉澎湃新闻记者,在他看来,目前数字人技术整体还非常初级,此前公司也尝试过用数字人直播,但是效果并不好,“数字人直播目前还是不太成熟,京东利用刘强东的数字人,也是利用刘强东的IP,实际上数字人主播距离正式商用可能还有3-5年的距离。”

电商平台梦饷科技CTO曹均涛告诉记者,目前数字主播在电商中的应用还在起步阶段,“以前的数字人对用户意图的理解不精准,很难和用户形成交流,但是在大模型出现后,未来肯定能形成顺畅的人机交互的。未来,大模型和数字直播结合起来之后,才能真正用数字人直播来替代真人直播。现在数字人直播只能和真人直播形成补充。”

也有不少公司利用数字人概念“割韭菜”,引发安全挑战。《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈案件呈现出惊人的增长趋势,增长率高达3000%。

另一头部直播平台抖音对于数字人直播同样持谨慎态度。

3月27日,抖音安全中心公众号发布《抖音关于不当利用AI生成虚拟人物的治理公告》。公告提到,创作者、主播、用户、商家、广告主等在抖音应用生成式人工智能技术时,须遵循相应规范。

根据公告内容,此次抖音将重点治理利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容,包括生成境外虚假人设,消费爱国心理、博取关注;生成俊男美女虚假形象,骗取互动,交友导流;生成精英人士虚假人设,发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容,低质吸粉,甚至引流到站外以卖课、入群等方式获利。

公告还提到,发布者应对人工智能生成内容进行显著标识,虚拟人需在平台进行注册,虚拟人技术使用者需实名认证等。

早在去年5月,抖音曾在业内首发关于人工智能生成内容的平台规范。倡议中提及,发布者需对人工智能生成内容产生的相应后果负责。同时,发布者应对人工智能生成内容进行显著标识,帮助其他用户区分虚拟与现实,特别是易混淆场景。虚拟人也需在平台进行注册,虚拟人技术使用者需实名认证,使用已注册的虚拟人形象进行直播时,必须由真人驱动进行实时互动,不允许完全由人工智能驱动进行互动。