抖音、今日头条拟在个人主页等位置展示帐号IP属地

抖音安全中心微信公众号消息,4月15日,抖音发布公告:为维护真实有序的讨论氛围,减少冒充热点事件当事人、恶意造谣、蹭流量等不良行为,抖音拟在个人主页等位置展示帐号IP属地,相关功能在4月底进行测试,将根据测试情况逐步在其他场景全量上线。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图1

今日稍早时候,头条安全中心亦发布公告称,为维护真实有序的讨论氛围,减少冒充热点事件当事人、恶意造谣、蹭流量等不良行为,今日头条拟在个人主页等位置展示帐号IP属地,相关功能即日起在网页版进行测试,将根据测试情况逐步在其他场景全量上线。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图3

相关新闻:

一账号靠假扮俄罗斯美女攒下200万粉,抖音:已封禁

来源: 观察者网

(观察者网讯)“中国的兄弟姐妹你们好,我是俄罗斯娜娜。”

最近,一个名为@俄罗斯娜娜 的账号忽然走红抖音网络。视频中,一个长着“俄式假脸”的人,操着蹩脚的“俄式中文”,时而唱歌,时而做“科普”,在抖音上积累下近200万粉丝。

由于其脸孔怪异,有用户不禁在评论区质疑此人性别、国籍的真实性,但更多人是在“追捧”。4月1日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》,指出包括@俄罗斯娜娜 在内的4个账号存在滥用平台道具、仿冒虚假人设的情况,将对其进行无限期封禁的处罚。

对于公告中所说的“滥用平台道具”,有人认为是“AI换脸”,即通过人工智能技术将别人的脸替换到自己身上。也有人指出,这可能是抖音自带的某种可以将人的五官特征、轮廓改为外国人的特效——且该特效的使用基本是0门槛,使用目的也缺乏规则和监管。

而这种通过技术手段造假“人脸”,造假“身份”,蹭网络热度的情况,全世界其实都屡见不鲜。上个月,还有人通过类似技术使得乌克兰总统泽连斯基发布“投降宣言”、俄罗斯总统普京发表“和平宣言”……

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图5

“通过技术手段换脸”,这个以前听来天方夜谭的技术,如今已经变得常见。

最近热播的刑侦局《猎罪图鉴》中,男主的恩师就因接到儿子借钱的求助视频,把自己的养老积蓄全都转了过去。在发现自己被骗后,老两口选择投海自杀。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图7

随后,男主在和恩师儿子的沟通中发现,这则视频的说话方式、脸部肌肉趋势都与本人有所不同,连光线都是伪造的。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图9

原来,这又是一起用以诈骗的“AI换脸”视频,背后则是一个长期通过类似技术手段骗取老人钱财的犯罪团伙。

现在,剧情走进了现实。

前段时间,抖音上出现一个叫做@俄罗斯娜娜 的账号。该账号的视频中,出现了一个自称来自俄罗斯,名为娜娜的“女人”,其拥有棕色的长发、蓝绿色的眼睛和一口“烈焰红唇”。

视频中,她动不动就操着蹩脚的外国腔调说“中国的兄弟姐妹你们好”,讲解一些道听途说的“俄罗斯常识”,要么就为观众“高歌一曲”,且是假唱……

由于抖音上的@俄罗斯娜娜 已经被封,用户们的发言也难以找到。但在b站上,还留存着她的歌声,和满屏真情实感的“好好听”弹幕。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图11

评论区曾有用户质疑,“娜娜”画面怪异,五官模糊,可能是AI换脸,趁着最近俄罗斯热度高在“蹭流量”。也有人表示,抖音有一些如下图所示的“外国人”特效或者滤镜,“俄罗斯娜娜”可能也是通过这些特效改变了五官特征,伪装成外国人。但在大量的称赞里,这些质疑声基本很快就被淹没了……

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图13

此类特效的使用基本是0门槛,使用目的也缺乏规则和监管。有用户向观察者网提供了类似的视频——使用者是100%的中国人,但换上特效后,脸部特征便朝外国人转变。且操作之简单,仅仅点击、下载特效、拍摄、上传,即可在互联网上变为“外国人”。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图15

靠着这些手段,“俄罗斯娜娜”在抖音上积攒了近200万粉丝,在b站上也存在浏览量破5万的视频。

4月1日晚,抖音官方发布《关于打击仿冒帐号等黑产行为的处理公告》称,日前在日常巡查时发现,个别用户存在滥用平台道具,仿冒虚假人设,不当获取流量及粉丝的违规现象。

抖音表示,仿冒账号是黑产团伙常用的作弊手段,行为违反了抖音平台相关公约,进行诈骗更是涉嫌触犯国家相关法律法规。抖音坚决打击各类黑产行为。

为此,抖音安全中心对包括“俄***娜”、“俄****莎”、“罗****娜”、“***娜娜”在内的4个帐号予以无限期封禁的处罚。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图17

目前,尚无官方消息确认“俄罗斯娜娜”的真实身份。

这种“改脸/换脸技术”对于年轻人来说,可能还有辨别的可能;但对于一些中老年人而言,或许真的很难识破。这也造成了本文开头,老年人被骗尽养老钱的悲惨剧情。

目前,通过技术手段造假“人脸”,造假“身份”的情况,已经出现在了世界各地。像“俄罗斯娜娜”这种造个假人设、骗点关注和广告的还算“收敛”。更有甚者,直接伪造政界名流,致力于伪造出假的“大新闻”。

据英国广播公司(BBC)3月18日报道,俄乌冲突期间,网上出现了不少“假总统”。先是乌克兰总统泽连斯基在一段视频中发表了号召乌克兰“投降”的讲话……

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图19

而后,又出现一段普京宣布和平的视频……这两段视频随后被证实都是用“AI换脸”伪造的。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图21

根据彭博社发布的一段视频,早在三年前,这项技术就已经发展到可以把一个人的表情、口型完全复刻到另一个人脸上。

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图23

两年前,这项技术已经发展得相当成熟。在开源社区网站GitHub上,有一个项目,就可以把自己的脸替换成别人的脸,并且是实时的。

也就是说,你可以直接把自己的脸换成马斯克的脸,去和别人开在线会议……

抖音、今日头条拟在个人主页等位置展示帐号IP属地插图25

技术无罪,有时甚至只是出于毫无恶意的“好玩”。

但当它被“娜娜”们掌握时,如何管理和使用,则将成为“AI”即将到来的时代里,一个经久不衰的话题。

原创文章,作者:gongermao,如若转载,请注明出处:https://ktppt.cn/27284.html

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注