AI换脸APP意外走红,警惕生物识别信息泄露

1.jpeg

近日,伴随以“蚂蚁呀嘿”为BGM的魔性短视频霸屏各大社交网站,一款名为Avatarify的AI换脸APP迅速走红,一度冲上了苹果AppStore免费榜第一。随后,网购平台上也涌现出大量“蚂蚁呀嘿”特效视频代做的付费服务,价格从

近日,伴随以“蚂蚁呀嘿”为BGM的魔性短视频霸屏各大社交网站,一款名为Avatarify的AI换脸APP迅速走红,一度冲上了苹果App Store免费榜第一。随后,网购平台上也涌现出大量“蚂蚁呀嘿”特效视频代做的付费服务,价格从几元到几十元不等。一时间,“AI换脸”技术再度引发圈内热议。

绕不过去的隐私泄露问题

据悉,Avatarify操作非常简单,用户只需导入手机中的图像,并在素材库中选择需要的Demo,设置最高24fps或12fps的帧数后,软件就能一键生成Gif动图。如使用实时拍摄功能,静态照片中人的五官还会随着用户实时表情的动作做出相应的变化,例如挑眉毛、眨眼睛、说话等。虽然下载免费,但用户若想在生成的GIF及短视频中去除水印、增加内存,则需另外付费。目前,Avatarify的一周使用价格为18元,包年价格为253元,首周免费。

这款APP背后的技术原理其实非常简单。Avatarify 基于“一阶运动模型”(First Order Motion Model)的人工神经网络以及超过12,000个视频的训练数据集,最终能实现的效果是无需手动调整直接对静态头像图像进行动画处理。此前红极一时、后因涉嫌侵权问题被工信部下架了的ZAO APP也采用了类似的原理。

尽管Avatarify在使用页面就明确说明“你的数据是安全的,且不会发送到云端”。但在“剪映”模板界面底部有一则免责声明:“为了更好的效果,素材将被上传到服务器处理,处理后会及时删除。请勿上传和使用侵犯他人合法权益的素材”。有专家指出,AI换脸技术若想达到更高的精度或灵活度,开发者必须收集大量范例数据对程序和模型进行学习和训练。用户个人上传的面部信息会被直接用于数据训练,这就绕不过隐私泄露的问题了。

生物识别信息泄露后果严重

事实上,不止是面部信息,随着生物识别技术的不断演进,指纹、虹膜、声纹、步态等生物信息都存在着泄露风险。比如,网络安全专家曾指出拍照比“剪刀手”可能泄露指纹信息。基本上1.5米内拍摄的“剪刀手”照片能100%还原出被摄者的指纹,1.5米至3米内拍摄的照片能还原出50%的指纹,超过3米拍摄的照片才难以提取其中的指纹。再举个例子,清华大学人工智能团队对20款市面主流手机进行调查,发现通过打印照片的方式,将眼睛部位瞄准人脸识别,大部分手机皆可瞬间解锁。

近年来,受益于云计算、大数据、人工智能、移动互联等新兴技术的快速发展,生物特征识别技术以其不可复制性、可扩展性和快速性等特点在金融、安防、教育、医疗等领域已经得到了广泛应用。但与此同时,该技术屡屡引发的隐私数据泄露事件,也让公众焦虑日益加剧。  

相关专家指出,生物信息具有显著的不可撤销性,这很可能加剧信息遗失带来的风险。 “以往密码被窃取,可通过重新设置实现密码更改,并提高安全防范级别。但人脸等生物特征信息是唯一且终身不变的,因此一旦被非法收集、泄露或者被非法买卖,就将导致人们个人财产、或者隐私等被公开,不仅对于个人的人身、财产安全会产生很大的威胁或不可预测的损害,而且也无法挽回或预防后续损害的发生,后果不堪设想。”

如何用好这把“双刃剑”

对于生物识别技术所面临的挑战,业内专家指出,“在算法层,需要标注良好的大型数据集,满足深度学习模型的解释性以及实际应用场景的复杂性;在硬件层,需要致力于传感器的设计与制造、芯片的设计与制造以及移动设备的实时计算的研发工作;在法律法规层面,需要政府机构不断完善相关政策,统一行业标准,保障用户隐私保护。”

全国人大代表、德力西集团董事局主席胡成中也提出了相关建议:“一是要明确必要性原则,在可以通过其他方式替代的情况下不得采集生物识别信息;二是归口管理,在公安或者网信系统增设专门的数据保护部门;三是设置必要门槛,杜绝任何企业都可以染指公民生物识别信息的现状,乃至参照身份证管理,原始数据统一由国家掌控。”

生物识别技术的信息安全问题是一个长期的工程,不可能一蹴而就。可以看到,我国在个人信息保护层面的立法也已提速。例如《民法典》将自然人生物识别信息列为个人信息;《信息安全技术个人信息安全规范》更是加入了与生物信息进行搜集、传输和存储相关的条文。2021年,数据安全法、个人信息保护法也被列入了全国人大重点立法工作。相信未来随着越来越多的机构、企业和个人参与其中,生物识别技术的发展将逐步走向健康、高速、安全。

产品图.jpg

赞 (0)
上一篇 2024年11月23日 00:54
下一篇 2024年11月23日 00:54