名为“女神群”，

群里却都是一群大老爷们？

群里不停有人加入，

(资料图)

但除了群主外却很少有人发言？

这个群里究竟有着怎样的秘密？

从“AI换脸”说起

说起“AI换脸”，我们最早了解到该技术可能是从一些新闻报道或者影视作品中，只需要一张照片，经过深度合成、算法处理，任何人都可以成为视频中的主人公，这项常被网友们用来剪辑“恶搞”视频的技术，却让80后安徽小伙虞某嗅到了一丝商机。

虞某称，早在2020年“AI换脸”刚刚开始兴起的时候，他就对该项技术产生了兴趣，甚至还专门在网上购买了换脸软件的教程并通过自学掌握了这门技术。“换脸”剪辑开始有热度后，他想到了在网上推广该项技术及相关的软件并从中获利，于是虞某在国外的社交平台上注册账号并建公开群，通过在其他公开群打广告、发链接等方式，吸引更多对“AI换脸”技术感兴趣的人到他本人所建的群里来。

但一段时间过去了，虞某的公开群却始终没有什么关注度。偶然的一次机会，虞某在该国外平台上看到有些人会在群里发布一些淫秽信息来吸引他人关注，就也动起了歪脑筋。

虞某先是将原本“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽观看者加入，当观看者达到一定人数后，虞某会发布群消息称，进入“内部群”可以收看完整版。虞某称，他会在“内部群”里放一些清晰度更高、时长更长的淫秽视频，而观看者想要进入“内部群”则要缴纳198元-498元不等的“会费”。

除此之外，虞某表示，“内部群”里发送的淫秽视频有不少是由其本人使用“AI换脸技术”合成的，根据顾客的需要还可以使用不同的女明星的形象，进行“私人定制”。也有不少人因为看了这些视频后对换脸技术产生了兴趣，向其咨询如何购买换脸软件。

一面通过“吸粉引流”，收取会费；一面又通过出售“换脸软件”，频频获利。虞某原本毫无起色的“生意”一下子打开了局面，短短几个月的时间里就收获了数万元。

截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，上述均系淫秽物品。

2023年3月28日，萧山区检察院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。

案件目前正在法院审理中。

近年来，“AI换脸技术”频频被一些犯罪分子盯上，随之而来的犯罪手段也是花样百出、层出不穷。

比如广州一女子在地铁上的照片被他人使用AI技术“一键脱衣”，虚假图片在网络广泛传播。

此前，某男网红使用“AI换脸”技术，替换掉电视剧中的男主角头像，制作自己与女明星亲吻的画面，同样引发争议。

检察官表示，除了女明星外，部分不法分子还将“AI换脸技术”使用在普通人身上，由此制造一些所谓的遭泄露的“私密照片”，对当事人实施敲诈勒索。

对此，检察官提醒，“AI换脸技术”即便只是用来搞笑或者制作恶搞照片，也有可能涉及侵犯肖像权、名誉权，造成严重后果的，还可能构成侮辱罪或者诽谤罪。

今年1月，《互联网信息服务深度合成管理规定》实施，其中明确规定网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。

希望大家依法使用该项技术，一旦遇到类似本案中利用“AI换脸技术”实施犯罪行为的，应第一时间固定证据，并及时向司法机关报案。