High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)

DeepNude软件相关评论




    I’m glad DeepNude is dead. As a person and as a father, I thought this was one of the most disgusting applications of AI. To the AI Community: You have superpowers, and what you build matters. Please use your powers on worthy projects that move the world forward. --Andrew Ng

     我很高兴DeepNude死掉了。作为一个人和一个父亲,我认为这是人工智能最恶心的应用之一。对于人工智能社区来说:你拥有超能力,你所建造的东西很重要。请把你的力量用在推动世界前进的有价值的项目上。



"This is absolutely terrifying," Katelyn Bowden, founder and CEO of revenge porn activism organization Badass, told Motherboard. "Now anyone could find themselves a victim of revenge porn, without ever having taken a nude photo. This tech should not be available to the public."

       “这绝对是可怕的,”Badass的创始人兼首席执行官凯特琳·鲍登告诉主板。现在,任何人都可以发现自己是报仇色情片的受害者,而不必拍裸照。这项技术不应该向公众开放。”


This is an “invasion of sexual privacy,” Danielle Citron, professor of law at the University of Maryland Carey School of Law, who recently testified to Congress about the deepfake threat, told Motherboard.

       马里兰大学凯里法学院(University of Maryland Carey School of Law)的法学教授丹妮尔·西特伦(Danielle Citron)最近向国会作证说,这是一种“侵犯性隐私的行为”,她向母板表示。


     Several media reports have noted how the app could be used to take a photo of a clothed woman and transform that into a nude image. Cyber Civil Rights Initiative (CCRI), which seeks protection against “revenge” porn tweeted, “This is a horrifically destructive invention and we hope to see you soon suffer consequences for your actions.” CCRI President Mary Anne Franks later tweeted, “It's good that it's been shut down, but this reasoning makes no sense. The app's INTENDED USE was to indulge the predatory and grotesque sexual fantasies of pathetic men.”

    一些媒体报道指出,该应用程序可以用来拍摄一个穿着衣服的女人的照片,并将其转换成裸体图像。网络民权倡议(ccri),寻求保护免受“报复”,色情推特说,“这是一个可怕的破坏性发明,我们希望看到你很快遭受后果,你的行动。”ccri主席玛丽安妮弗兰克斯后来推特说,“很好,它被关闭,但这种推理毫无意义。这个应用程序的目的是放纵那些可悲的男人的掠夺性和怪诞性幻想。”



DeepNude底层技术的其他正确应用


     DeepNude 软件主要使用了 Image Inpainting for Irregular Holes Using Partial Convolutions 中提出的Image-to-Image技术,该技术有很多其它的应用,比如把黑白的简笔画转换成色彩丰富的彩图,你可以点击下方的Image-to-Image Demo在浏览器中尝试Image-to-Image技术。


High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)


Deep Computer Vision in DeepNude


1. Image Inpainting 图像修复

论文 NVIDIA 2018 paper Image Inpainting for Irregular Holes Using Partial Convolutions and Partial Convolution based Padding.


High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)


       在 Image_Inpainting(NVIDIA_2018).mp4 视频中左侧的操作界面,只需用工具将图像中不需要的内容简单涂抹掉,哪怕形状很不规则,NVIDIA的模型能够将图像“复原”,用非常逼真的画面填补被涂抹的空白。可谓是一键P图,而且“毫无ps痕迹”。 该研究来自Nvidia的Guilin Liu等人的团队,他们发布了一种可以编辑图像或重建已损坏图像的深度学习方法,即使图像穿了个洞或丢失了像素。这是目前2018 state-of-the-art的方法。


2. Pix2Pix (need for paired train data)

DeepNude mainly uses this Pix2Pix technology.

论文 Berkeley 2017 paper Image-to-Image Translation with Conditional Adversarial Networks.

主页 homepage Image-to-Image Translation with Conditional Adversarial Nets

High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)



       Image-to-Image Translation with Conditional Adversarial Networks 是伯克利大学研究提出的使用条件对抗网络作为图像到图像转换问题的通用解决方案。


3. CycleGAN (without the need for paired train data)

论文 Berkeley 2017 paper Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks




       CycleGAN使用循环一致性损失函数来实现训练,而无需配对数据。 换句话说,它可以从一个域转换到另一个域,而无需在源域和目标域之间进行一对一映射。 这开启了执行许多有趣任务的可能性,例如照片增强,图像着色,样式传输等。您只需要源和目标数据集。



Future


1. Obj-GAN


     事实上,我们不需要图像到图像。我们可以使用gan直接从随机值生成图像或从文本生成图像。\

     微软人工智能研究院(Microsoft Research AI)开发的新 AI 技术Obj-GAN可以理解自然语言描述、绘制草图、合成图像,然后根据草图框架和文字提供的个别单词细化细节。换句话说,这个网络可以根据描述日常场景的文字描述生成同样场景的图像。



High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)


2. StoryGAN


      进阶版神笔:只需一句话、一个故事,即可生成画面。

      微软新研究提出新型 GAN——ObjGAN,可根据文字描述生成复杂场景。他们还提出另一个可以画故事的 GAN——StoryGAN,输入一个故事的文本,即可输出「连环画」。当前最优的文本到图像生成模型可以基于单句描述生成逼真的鸟类图像。然而,文本到图像生成器远远不止仅对一个句子生成单个图像。给定一个多句段落,生成一系列图像,每个图像对应一个句子,完整地可视化整个故事。


High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)


     现在用得最多的Image-to-Image技术应该就是美颜APP了,所以可以去开发一个更加智能的美颜相机。

High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)

 


上一篇:相亲源码开发必须知道和克服哪些问题


下一篇:开源云平台离普通用户还有多远?