工作室近日发现有部分网络用户在自媒体平台发布与邓超先生/孙俪女士相关的虚假广告宣传视频，此类虚假视频通过技术合成的方式，把邓超先生的形象和声音制作成虚假采访视频为某些商家的产品进行推荐。
本工作室在此严正声明：凡此类自媒体账户所发布的产品推荐视频均为虚假信息，请网友一定不要相信，避免上当受骗！！
同时警告此类虚假信息的发布者及传播者，立即删除全部虚假广告视频，工作室已保全相关侵权内容，将通过法律途径严格追究相关责任方的法律责任！
AI快速起号引流形成灰色产业链
“生成式人工智能带来了深刻的技术变革，我们要积极地拥抱新技术，也要及时认识到并改善技术使用过程中出现的问题。”有业内人士曾向南都记者说道。
早在2020年的“假靳东”事件，暴露了视频合成技术的风险与隐忧。
此前，据南方都市报报道，在多家短视频平台上存在不少“假靳东”账号。此类账号皆以靳东照片为头像，大多以“靳·东”“小东”“东哥哥”“贺函”等为昵称，剪辑靳东照片、影视片段做再配音处理。明星效应之下骗取点赞与粉丝后，有账号甚至开始直播带货变现。
实际上，通过AI造谣等手段吸粉引流变现的乱象被多次曝光。2024年5月，南都记者调查发现，给出相应指令后，一些AI工具就能快速批量扩写出不同的故事文案，有的每个月会员费只要99元，充值一年还能打五折。
经实测，点进一个“AI文案速写”的小程序中，在对话框内输入创作有关“抢劫”“霸凌”“火灾”3个主题内容的详细指令，就快速得到3段被扩写至100字左右不同故事情节的文案，其中还有一些生动的细节。
除了文字，一些犯罪分子还通过AI编辑视频、图片等以假乱真，混淆视听。
湖南一网民曾发布一条带有警徽的《悬赏通告》，称长沙天心区发生重大刑事案件，拟向公众有偿征集线索。原来，这张《悬赏通告》系AI伪造而成，目的是吸粉引流。该网民最终受到警方处罚。
根据警方披露案例，从组织结构上看，造谣“生意”大致分两种类型：个人运营自媒体造谣账号，吸粉引流变现；亦有团伙作案，批量运营自媒体账号，大规模散布谣言，例如有不法分子成立MCN机构运营数百个账号，长期组织公司人员造谣引流。
四部门要求对AI生成内容进行标识
据南方都市报报道，北京邮电大学互联网治理与法律研究中心执行主任谢永江表示，普通网民也要有一定的网络安全素养，不要轻信网络信息，最好是通过权威媒体等去考证。
“现在造谣造假的成本非常低，还有一些可以免费使用的AI工具。”谢永江介绍，网络虚假信息是长期以来的顽疾，即使在没有AI的时代，网上也有人为的各种虚假信息在传播，“AI只是让这种传播变得更加便捷”。
他指出，平台方要肩负起审核责任，且掌握相应的鉴别技术，对AI生成的图片、视频进行标注。“信息发布也要遵守底线。不能去误导公众，损害他人合法权益或扰乱社会公共秩序。平台发现后就应该及时处理，不能放任虚假信息带来负面影响。”
记者注意到，近期，四部门联合发布了《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显示标识和隐式标识。新规自9月1日起施行。为防范AI技术滥用风险，有关部门正在行动。
来源丨南方都市报
SFC
本期编辑 黎雨桐
21君荐读
