导航菜单

用“AI换脸”换出“女星色情视频”,这是对科技的侮辱

用“人工智能改变面子”取代“女性色情视频”:科技莫成“黑人生产”的帮凶。

人工智能“变脸”技术被应用于色情视频,这是对技术的侮辱,从而形成“黑色产业链”,所造成的社会危害不容小觑。

static.1sapp.comlwimg20190720e16b2208d864166580b134502f15db7e.jpeg

北京新闻漫画陈东

科学技术的发展促进了社会进步,带来了许多风险和隐患。在过去,很多人只知道软件Photoshop(PS)可以修改图片。如今,AI(人工智能)直接将“修饰”技术演变为“变脸”。最近,“新京报”记者在调查中发现,在百度贴吧和先玉等主要在线平台上出售了大量由着名女性艺术家通过“人脸改变”主演的淫秽视频。

“AI面临变化”的“黑色产业链”已经形成。据“新京报”记者调查报道,部分商家不仅提供成品视频,还接受买家的订单。只要买家提供20张照片,您就可以为任何人制作“小电影”。还有一些企业“允许人们捕鱼”,销售教学视频供人们学习,并显示他们的学生ID 30%的折扣。

互联网不是一个外星人的地方。 “人脸改变”技术被应用于淫秽视频,这是对技术的侮辱,从而形成“黑色产业链”,并且所造成的社会危害不容小觑。

首先,“人脸改变”为淫秽视频的传播提供了新的兴奋,因此,由于“追星”复杂,可能不会暴露于淫秽视频的未成年人群体增加了对“外观”的兴趣看到“,最后误入其中,很难自拔。

其次,在“人工智能变脸”技术下,每个人都可以成为受害者。尤其是普通人,一旦他们通过“人工智能变脸”成为“小电影”的主角,大多数人更关心转发信息时内容的感觉和易怒,而不是可靠性。即使是一个粗制滥造的视频,也可能在“突破”中给无辜的当事人带来巨大的精神伤害。

第三,“人工智能变脸”的应用场景不仅是色情视频,也可能用于电信诈骗。如果有人通过“变脸”向“变脸人”的亲友要钱,即使诈骗不成功,也会损害当事人的名誉。

第四,“人工智能变脸”技术具有一定的趣味性和挑战性,将吸引更多的人去尝试他们的趣味性来训练模特,从接受者到参与者。尤其是年轻人有很强的接受新事物的能力,而计算机技术往往很高。其中一些法律观念或道德意识薄弱的企业,在成为“黑产业链”后,很容易跨入国界。一枚戒指。

虽然“人工智能变脸”技术的主要危害在于用户的滥用,但由于“人工智能变脸”具有“人格困惑”的功能属性,相关部门对“人工智能变脸”行为有法律限制和行为规范。它也应该更有针对性。首先,公安部门、网络监管机构、互联网贴吧和电子商务平台运营商有义务删除含有非法“人工智能变脸”技术的非法色情视频。坚决禁止向公众出售或者制作变脸视频的营利性行为。

其次,让“人工智能变脸”技术的粉丝们认识到,无论他们是否使用“人工智能变脸”技术,在中国,传播带有性行为、性器官和裸体的图像或视频都是有法律风险的。“变脸”技术并不能消除原材料的非法性,将其作为一项“技术成果”分享是有风险的。

第三,制片人应该防止他们使用“变脸”视频进行欺诈和侵权活动。不要制作像“爸爸妈妈,我想要钱”的视频,因为我觉得“很有趣”。

第四,未经当事人授权,“改变面貌”的行为侵犯了公民的人格权和肖像权。那些掌握“人脸改变”技术的人应该更加尊重他人,不应轻易“玩”,不得利用“改变面子”技术进行非法利润而不用底线,否则将不可避免地受到严厉惩罚依法。

□缪因知(法律学者)