所有文章 > 正文

Facebook和美国军方采取行动,针对深度AI诈骗犯罪

作者: Jansfer

时间: 2019-09-10 16:12

近日,来自工业界和学术界的人工智能工程师共同推出了一项挑战Deepfake Detection Challenge(DFDC),以推进技术检测由机器学习算法操纵的假视觉内容。

这项挑战由众多耳熟能详的企业和高校牵头,其中包括:Facebook,旧金山非营利组织AI on AI,微软以及麻省理工学院康奈尔科技公司的研究人员,牛津大学,加州大学伯克利分校,马里兰大学,学院公园和奥尔巴尼-纽约州立大学等等。深度伪造引发了人们最深切的恐惧。有关演员和们的视频篡改可能看似无害,就如同最近大火的应用程序Zao一样。然而当这些内容被用到世界领导人或色情内容时,可能就没人会笑出来了。

er23.jpg

已经有许多尝试处理深度伪造,例如实现数字水印或提出更多不同寻常的检测方法。然而,捕捉所有这些细节并不容易,尤其是现在,生成更逼真的照片和视频远比其刚兴起时来得更容易和更便宜。因此,Facebook决定在这个问题上投入1000万美元。支持DFDC的研究人员将共同合作建立数据集,并为希望参与挑战的工程师提供资助和奖励。他们需要制作一个在给定数据集上训练的机器学习模型,并将测试它如何能够检测到深度伪造。这家社交媒体巨头宣布它本周关闭了人们帐户的自动面部识别功能。这意味着,当用户或他们的朋友继续在图片中标记人物的脸部时,如果他们没有为他们的帐户启用面部识别,则Facebook不应自动列出人名。但是,如果用户确实想保留该功能,则可以选择将其打开。

来自机器学习的诈骗并不是个例,不法分子通过伪造CEO的声音来攫取现金。机器学习模型可以模仿某人的声音让他们说出他们没有说过的话。而现在,似乎有些犯罪分子利用这种软件来模仿首席执行官让一个毫无防备的员工交出220,000欧元。狡猾的罪犯使用机器学习窃取现金。据 “华尔街日报” 报道,这笔钱被转入匈牙利银行账户,然后转移到墨西哥并“分配到其他地方”。目前还没有发现任何嫌疑人,但这种情况可能是这种语音克隆技术第一次被用于实施金融欺诈。

由美国国防部成立的,Shanahan领导的联合人工智能中心(JAIC),旨在帮助美国为国家安全目的采用人工智能和机器学习。Shanahan表示,该组织已发展到60名员工,今年的预算为2.68亿美元。我们要填补的其中一个职位将是一个不仅仅关注技术标准,而是一个伦理学家的人,Shanahan将引进一位具有深厚道德背景的人,然后该部门的律师将关注我们如何将其融入国防部。

JAIC项目包括使用AI为野火,洪水和备受争议的Project Maven提供人道主义援助,这是一个计算机视觉系统,用于分析谷歌的无人机镜头。美国陆军研究人员希望建立可以协同工作的AI机器人:美国国防部研究机构DARPA正在资助研究项目,以测试“自动机器团队”。它希望“在集中协调机会有限的情况下,为物理上分布的人工智能系统(多代理系统)组寻求自主组合的新方法”,根据其联邦商业机会页面。这些系统包括诸如无人驾驶飞行器(UAV),卫星,地面传感器和机器人之类的东西。目前,人力团队负责控制此类系统。DARPA希望构建能够根据不同输入数据进行推理的机器,以便他们可以在没有人工监督的情况下自动做出决策。

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多