点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI换脸技术 有“侵犯隐私”之嫌?
首页> IT频道> 曝光台 > 正文

AI换脸技术 有“侵犯隐私”之嫌?

来源:新华日报2021-03-10 13:56

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  前不久,社交媒体平台上一款名为“蚂蚁呀嘿”的特效火爆全网,许多网友都将自己的照片导入换脸软件Avatarify中,照片便可以被算法驱动,生成一段表情夸张扭曲且跟着节奏晃动的换脸短视频。短短几天后,正如此前火爆一时的换脸软件ZAO一样,Avatarify被下架,许多人猜测下架原因是AI换脸可能涉及隐私问题。AI换脸技术的原理是什么?换脸是否会造成个人隐私泄露?带着网友的提问,《科技周刊》记者专访东南大学网络空间安全学院副教授宋宇波,为我们揭开AI换脸技术的秘密。

  问:AI换脸技术背后的原理是什么?

  宋宇波:最早实现换脸是通过修图(Photoshop)的方式实现的,不仅耗时耗力,其换脸效果也不佳。而目前比较流行的换脸软件,实际上是运用了生成式对抗网络(GAN)技术,这是深度学习模型中的一种。简单来说,就是机器通过事先采集大数据中的人脸表情特征,再结合换脸人本身的一些特征信息,通过“对抗博弈”的方式不断进化,最终生成我们所希望得到的换脸视频。这种方式不仅可以快速地实现自动换脸,其生成的图像也更逼真。

  问:什么是生成式对抗网络?

  宋宇波:尽管生成式对抗网络中包含“网络”一词,但它和我们通常所说的“互联网”并不是一回事,它本质上是一个数学算法。由于生成式对抗网络采用的是深度学习中的神经网络学习算法,故而保留了“网络”两个字。

  生成式对抗网络框架通过让两个神经网络相互博弈的方式进行学习,其中一个是生成器,另一个是判别器。生成器根据预置的规则尝试生成数据,而判别器则会去判别是否是真实数据,并把判别结果反馈给生成器,生成器会根据反馈信息进行调整,从而输出新的数据,两者反复博弈直到判别器将生成器生成的数据判别为真实数据为止。例如当我们想生成一个笑脸时,判别器会自动识别生成器随机生成的表情是否为笑脸;如果不是,此信息会被驳回,生成器会根据反馈重新调整生成数据,经过层层判别,最终输出的人脸里既会包含换脸人本身的特征,同时也包含我们所期望的笑脸表情。

  值得注意的是,机器前期采集的喜怒哀乐等通用表情信息主要来源于大数据图库,而并非换脸人的个人表情信息。这也就意味着,利用对抗生成网络技术实现的换脸仅需要不多的个人人脸照片即可。该换脸技术诞生最初大概需要300-500张换脸人的图片,而随着近年技术的不断改进,现在仅仅需要3-5张相关照片就可以生成需要的换脸照片或者视频。

  在机器学习中,生成式对抗网络的应用非常多,其最主要的用途就是生成我们想要的数据。目前大部分应用集中于视频和图像创造,例如我们在拍摄中需要一些动画或者特定场景,原本可能需要制作道具或者耗费人工进行手绘,而现在利用这一技术,则可以变得非常高效。

  问:AI换脸是否存在个人隐私泄露风险?伪视频、伪图片能攻破人脸识别系统吗?

  宋宇波:任何一种技术都存在两面性,如果单纯是为了搞笑消遣而制作换脸视频,本身并没有太多的危害,但如果这一技术被不法分子利用,则会产生极大危害。信息被滥用、个人生物识别特征被泄露等风险,是这类软件频繁引发质疑的一个重要原因。对于政治人物或明星来说,将他们的脸移植到一些他们本不该出现的场景中,很有可能造成负面影响;而对于个人来说,目前许多金融场所都依赖于视频线上识别来进行身份核实,如果不法分子运用深度合成中的表情操纵方法生成伪视频,则很可能造成个人金钱损失。

  2019年11月底,国家网信办、文旅部和国家广电总局等三个部门联合发布的《网络音视频信息服务管理规定》指出,利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。全国政协十三届四次会议新闻发言人郭卫民也表示,目前《个人信息保护法》草案已经提请全国人大常委会审议,这一法律的颁布和实施,对保护个人信息安全将发挥重要作用。由此可见,个人信息安全问题已经引起相关部门重视。尽管此类软件大多声明不会采集和存储用户敏感个人信息,但网友在上传个人照片给第三方后,第三方自身平台的防护系统是否安全?是否会被恶意攻破从而造成隐私泄露?这些方面都应该得到更多关注。

  就目前而言,通过App下载的换脸图片或者视频,由于计算量有限,其图像质量还比较差,仔细观察后还是存在面部不自然等问题。而那些图像质量高到可以欺骗人眼的换脸图片和视频,在相关检测算法的判别下通常也都会“原形毕露”,因此,普通用户不必过于担心人脸识别系统会被攻破。但随着技术的不断改进,未来这类软件很可能对我们的个人隐私造成较大威胁,因此我们也呼吁相关法规尽快出台。

  本报记者 谢诗涵

[ 责编:赵艳艳 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 我国成功发射试验十四号和试验十五号卫星

  • 重庆大足舒成岩摩崖造像本体修复预计年底前完成

独家策划

推荐阅读
 2022年9月24日,内蒙古自治区呼伦贝尔市额尔古纳国家湿地公园五彩斑斓,宛如油画。
2022-09-25 10:36
9月24日,武警合肥支队举行以"大手拉小手,探秘军营迎国庆"为主题的军营开放日活动,驻地学校百余名小学生探秘军营,通过观摩军事课目演示、学叠军被、参观武器装备等活动,让孩子们零距离体验军营生活,接受国防教育和爱国主义教育.
2022-09-25 10:32
2022年江苏中国农民丰收节主会场庆祝活动在江苏省泰兴市祁巷村举行。
2022-09-25 10:31
2022年9月21日,河南三门峡市灵宝市西闫乡黄河岸边,机械轰鸣,秋收工作正在进行。
2022-09-24 22:48
2022年9月20日,为期四天的2022世界制造业大会在安徽省合肥市滨湖国际会展中心开幕。
2022-09-21 10:51
江苏省宝应县民警接到辖区群众报警称发现一只"怪鸟",误撞自家的院墙壁上动弹不得,经检查该为国家二级保护动物夜鹰。
2022-09-20 09:56
2022年9月19日,甘肃山丹马场雨后初霁,山间云雾升腾,宛如仙境
2022-09-20 10:25
2022年9月17日,浙江省台州市仙居县白塔镇金黄色的稻田与美丽乡村、通村公路构成一幅和谐的田园画卷。
2022-09-19 10:26
2022年9月15日,河南新乡,京广铁路集中修现场工作人员正在检查调试大型养路机械车的清筛设备。
2022-09-16 10:39
文安县建立了县级“专精特新”中小企业培育库,通过集中惠企政策资源、加强重点指导等多种服务方式,聚力培育创新能力强、成长性好的“专精特新”企业。截至目前,该县共培育市级以上“专精特新”企业34家。
2022-09-14 10:52
近日,天津长芦汉沽盐场迎来海盐丰收季。
2022-09-13 10:39
2022年9月12日,安徽省安庆市岳西县莲云乡莲塘村,村民在标准化养蚕大棚里清理杂物,为采摘高质量蚕茧做准备。
2022-09-13 10:25
2022年9月11日,山西省左权县太行山孟信垴自然保护区内云雾缭绕,农耕梯田与村庄,在晨光的映射下秋景如画,美丽壮观。
2022-09-13 10:15
四川省甘孜州泸定县6.8级地震发生后,在雅安市石棉县的临时安置点里,老师和志愿者带领孩子们学习、画画、做游戏,在这个特殊时期安抚和陪伴他们。四川省甘孜州泸定县6.8级地震发生后,在雅安市石棉县的临时安置点里,老师和志愿者带领孩子们学习、画画、做游戏,在这个特殊时期安抚和陪伴他们。
2022-09-11 09:29
当日是中秋节,许多劳动者坚守岗位,在忙碌中度过假期。当日是中秋节,许多劳动者坚守岗位,在忙碌中度过假期。当日是中秋节,许多劳动者坚守岗位,在忙碌中度过假期。
2022-09-11 09:05
在中秋节到来之际,世界各地举办活动庆祝佳节。在中秋节到来之际,世界各地举办活动庆祝佳节。在中秋节到来之际,世界各地举办活动庆祝佳节。在中秋节到来之际,世界各地举办活动庆祝佳节。
2022-09-11 08:57
当日是农历八月十五中秋节,人们同赏明月,共度佳节。当日是农历八月十五中秋节,人们同赏明月,共度佳节。当日是农历八月十五中秋节,人们同赏明月,共度佳节。当日是农历八月十五中秋节,人们同赏明月,共度佳节。
2022-09-11 08:55
泰顺县的1.4万多亩猕猴桃种植目前逐渐进入采摘期,可年产鲜果7000余吨、销售额近亿元,带动1400余户6000多人从业增收
2022-09-09 18:10
人生似海,生命如歌。沿途之上,总要有观景的雅致。深秋时节,有花在开。绽放的样子,既艳又暖。
2022-09-09 15:23
今年18岁的万鸿玥是一名军队英烈子女,从小在父亲的影响下就埋下了参军报国的种子,高考后被武警工程大学录取,即将开启军校生活的她,受邀来到父亲万四海生前所在部队体验军营生活,通过学习英模事迹、聆听战斗故事、参观武器装备等,让她更加坚定了踏着父亲的足迹逐梦军营的信心。
2022-09-08 19:35
加载更多