所有文章 > 正文

亚马逊、微软等多家公司研发AI致命武器,报告指或危及全球安全

作者: Jansfer

时间: 2019-08-26 09:57

一份调查了人工智能领域主要企业对致命自主武器的立场的报告显示,亚马逊(Amazon)、微软(Microsoft)和英特尔(Intel)等科技公司正试图开发杀手型机器人,这将世界置于危难之中。

tttz.jpg

荷兰非政府组织Pax根据三个标准对50家公司进行了排名:它们是否在开发可能与致命的人工智能相关的技术,它们是否在从事相关的军事项目,以及他们是否已承诺在未来做出贡献。该报告的第一作者 Frank Slijper发出疑问,为什么像微软和亚马逊这样的公司敢于承认他们目前正在开发这些备受争议的武器,毕竟些武器可能在没有人类直接直接的情况下杀死人类。

近年来,使用人工智能让武器系统自主选择和攻击目标的行为引发了道德辩论,批判学家警告称,若不加以阻止,这种人工智能将严重危害国际安全,并预示着继火药和原子弹之后的第三次战争革命。

周三,在日内瓦举行的《联合国特定常规武器公约》(United Nations Convention on Certain Conventional weapons)会议上,一个政府专家小组就自主杀伤性武器的政策选择进行了辩论。

谷歌去年发布了避免人工智能用于武器系统的指导原则,其中22家公司属于“中等关注”,21家属于“高度关注”,尤其是亚马逊和微软,它们都在竞标一份为美国军方提供云基础设施的关于五角大楼的合同,这份合同价值100亿美元。

“高度关注”小组的其他成员还包括Palantir公司,该公司的前身是一家由美国中央情报局(cia)支持的风险投资机构,该机构获得了一份8亿美元的合同来开发一种“可以帮助士兵实时分析战区”的人工智能系统。

加州大学伯克利分校的计算机科学教授Stuart Russell周三告诉法新社,自动武器将不可避免地成为大规模杀伤性武器,因为如果没有人参与其中,那么一个机器人就可以发射100万或1亿件武器。Russell教授补充道,自主武器如果由企业开发,那么在防止自主武器广泛使用方面,它们可以发挥非常大的作用。

军用人工智能的发展在业内引发了巨大的争论和抗议:去年,谷歌拒绝续签五角大楼的一份名为Maven的合同,该合同使用机器学习来区分无人机视频中的人和物体。谷歌还退出了联合企业防御基础设施(JEDI)的竞争,这是亚马逊和微软希望获得的云合同。

报告还指出,微软员工也表达了他们对美国陆军一份增强现实头盔HoloLens合同的反对,该合同旨在提高其在战场上的“杀伤力”。

Russell说,目前任何一种武器,无论是坦克、战斗机还是潜艇,人类都在研制自主版本。比如以色列的“哈比”(Harpy),这是一种已经研发成功的自主无人机,可以在目标区域“游荡”,并选择要攻击的地点。更令人担忧的是目前还没研发成的新型自主武器,其中可能包括像2017年的短片《屠场机器人》(屠场机器人)中那样的武装微型无人机。Russell说表示,有了这种武器就可以用集装箱或货运飞机运送100万枚核弹,若使用不当,成千上万的建筑都将被销毁。此外,搭配面部识别技术,无人机可以消灭一个种族或一个性别,或者通过结合社交媒体信息消灭所有与自己政治观点相悖的人。

今年4月,欧盟(eu)发布了有关企业和政府应如何开发人工智能的指导方针,包括人类监管的必要性、以非歧视的方式为社会和环境福祉而努力,以及尊重隐私。Russell认为,在接下来至关重要的一步是在国际上禁止研发致命人工智能,可以概括为“不能开发、部署或使用能够决定杀死人类的机器”。

(参考:techxplore.com)

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

二维码 扫码微信阅读
推荐阅读 更多