在抖音和快手等短影像渠道有不少运用 AI 技术换脸或者直接生成的虚拟人物，其中大若干只是出于技术娱乐性质，也有少若干拿来冒充真人用来恶意营销。
例如此前就呈现过 AI 换脸冒充俄罗斯人然后在短影像渠道博取众多留意然后带货卖俄罗斯特产的详细张若昀指南账户，有些则是生成俊男美女虚假形象骗取留意乃至开展诈骗。
昨日抖音亮相公告亮相严厉打击运用 AI 生成虚拟人物消费爱国心理、博取留意等行为，针对违规使用 AI 生成虚拟人物的行为，渠道会对违规影像开展下架、对违规账户开展撤销投稿权限和营利权限、抹除账户影迷、昨天网友红毯造型，评论区吵翻了封禁账户等处置。
典型违规行为含有：
1、生成境外虚假人设，消费爱国心理、博取留意。温柔句子攻略用虚假国外人的形象，以想嫁给中国、想到中国日常、点评民间事情等言论博取眼球。
2、戛纳电影节：引发网友热议生成俊男美女虚假形象，骗取互动，交友导流。直接称使用者为 “你”“娘”“妈妈”“老公” 等，亮相情感诱导、唱情歌、为你谋福利等表达虚假情感的信息，将使用者导流至私人聊天工具，乃至开展诈骗。
3、生成精英人士虚假人设，亮相心灵鸡汤、财商、伪国学、厚黑学、伪顺利学等不良信息，低质吸粉，乃至引流到站外以卖课、入群等方式获利。
值得注意的是抖音在公告中还谈及该渠道已然掌握若干黑产团伙不当使用 AI 生成虚拟人物用于犯罪的线索，对此抖音将报警打击这类行为。