第A06版:看无锡

AI慧眼“切片”执法

直播“擦边球”遭遇技术阻击

  本报讯(晚报记者 陶洁)正值“618”电商消费旺季,无锡众多电商忙碌备战的同时,话术内容有没有夸大?直播间展示的样品是否侵权名牌正品?购物车链接是否就是直播展示链接?昨日,记者从无锡市市场监督管理局获悉,对于直播视频中快速闪现的“擦边球”监管难点,在AI、大模型的技术助力下,无锡“锡网云监”3月正式上线直播营销监测系统,在全国创新性地采取“定向切片存储技术”实现秒级违法识别,为全国直播监管树立了新标杆。

  直播迅速发展的同时,各类“剧本”式套路、货不对板等乱象也在爆发式增长。在刚刚查处的一则紫砂直播违规信息中,AI自动抓取到主播讲述产品时用到了“大清乾隆年制”“御用瓷”等日常监管中的违禁触发词,同时自动截取直播间相应时间段的对话。几乎同时间段在另一个紫砂直播间,主播极力吹嘘一款手中的茶壶“这是外面有米也买不到的系列,这一批次的泥料你在外面就是买不到的,哪怕是国大师的作品……”上门核查时,常有主播声称“已经忘了自己当时说了什么”,还有声称拿古董低价售卖是一种引流手段,当执法人员拿出直播现场的截屏和视频语音转化生成的文本,清晰提示了“证据”时,企图抵赖的主播哑口无言。在另一个电动车直播间,主播口若悬河地讲解产品性能和价格之余,声称“能在店里帮用户改装提速装置”,这些都是常见的直播间暗藏款违法服务。

  据悉,目前注册地为无锡的电商直播间账号超过1万个,有经营行为的4116个,最活跃的有1503个,涵盖抖音、微信视频号等直播平台。监测系统上线以来,累计监测6979场次,监测时长3942小时;监测期间已完成区块链存证262次,输出线索固证率100%,并通过一体化综合监管平台实现及时闭环处置,有力规范了本地网络直播营销秩序。无锡市市场监督管理局网络交易监督管理处四级主任科员贝恩民介绍,2024年开始,市局相关部门积极探索“锡网云监”网络交易综合监测系统内研发直播监测工具,进行直播营销监测试点工作。通过50余万分钟实时监测训练监测模型,运用国产AI不断优化模型,于2025年3月正式上线直播营销监测系统,目前已进入常态化监测阶段,主要涉及有无锡特色的紫砂、服装、电动车等品类直播。几个月下来,通过训练优化过的人工智能手段带来的效率提升显而易见。这套系统可全方位监测直播行为涉及的直播间信息、语音信息、商品信息、背景信息,对音视频内容进行秒级识别与合规分析,通过多模态AI进行解析和风险识别,及时发现直播话术、带货商品、直播画面中存在的违法违规行为并形成完整证据链。

  据悉,这套系统中针对直播间实时监测的“定向切片存储技术”为全国首创,AI不断优化模型后,基于VTS(视频拆条)、OCR(光学字符识别)和ASR(自动语音识别)算法,将直播内容拆解为口播文本和直播图像,通过规则引擎标注违法类别标签,对直播内容进行实时解析和识别,自动识别出违规宣传、敏感词汇等风险点。针对违法线索证据,采用区块链固证技术,通过生成数字指纹并上链存证,监管存证可与最高人民法院的司法链跨链互认,确保监测到的违法线索及证据信息可追溯、可证明、可信赖且无法篡改。