所有文章 > 正文

来自IBM的警告:AI算法的偏心问题会给黑客可乘之机

作者: Jansfer

时间: 2019-07-19 22:26

近日,来自IBM的专家通过美国消费者新闻与商业频道CNBC向公众发出来了警告,随着黑客的攻击变得日益复杂,带有固有偏见的人工智能程序可能会给网络安全带来严重问题。

图|SoftBank机器人的画像(图片来源:Alain Pitton | NurPhoto | Getty Images)

根据IBM Security副总裁Aarti Borkar的说法,偏差可能发生在三个方面:程序,数据和设计这些AI系统的人。Borkar在CNBC上表示,算法本身指的是教授AI程序执行特定任务的代码行。它接近正确结果的方式是否有偏见,以及它试图解决的结果如何呢?她解释说,一个有偏见的计划最终可能会关注错误的优先事项,并可能错过真正的威胁。如果你试图解决错误的结果,并且结果存在偏差,那么你的算法是有偏见的。

人工智能的作用正在扩展到网络安全领域。许多CEO认为网络攻击是未来十年全球经济面临的最大威胁。随着数字威胁的不断发展,防火墙和防病毒甚至已经被视为古代的工具了,黑客现在正在使用更先进的技术,如AI,对企业发起复杂的攻击。一旦他们能够破坏系统,许多攻击者将继续保持低调而不会张扬的做法使得IT团队更难以检测他们的存在。有些人会悄悄地在网络上嗅闻敏感数据,而其他人可能会慢慢改变重要信息而没有人注意到,专家说这种情况会随着时间的推移而产生严重影响。

微软网络安全现场首席技术办公室的Diana Kelley 近日告诉CNBC的“ Squawk Box ”,根据行业专业人士的说法,打击这种情况需要依靠人工智能来构建能够自动响应威胁的安全系统。事实上,科技巨头微软委托进行的一项研究发现,75%接受调查的公司已采用或正在寻求采用人工智能的网络安全计划。在人类难以处理所有数据的情况下,人工智能使我们能够更快地了解问题所在,。

AI系统通常需要大量所谓的训练数据来学习它们的功能。如果使用的数据存在偏差,那么人工智能将只了解世界的局部视图,并根据这种狭隘的理解做出决策。同样,如果设计该计划的人来自相似的文化或背景,并且心胸狭窄,那么对应人工智能的认知多样性就会很低。固有偏见可能导致AI系统错误识别可能减慢业务流程,导致信任问题并影响公司底线的问题。在更大范围内,它也会影响公司的品牌。

Borkar补充说,更令人担忧的是,它可能导致程序可能错过完全识别严重威胁的情况。据她说,网络安全威胁来自各方面,这使得它们“自然多样化”,不偏不倚。因此,公司需要“同样多样化且同样不偏不倚的人工智能系统。否则,一些东西会悄悄进入,所以,这就是漏洞的来源,这就是你错过了什么......因为你没有像对手那样广泛地思考。

尽管如此,微软的Kelley解释说,虽然可能很难完全消除固有的偏见,但是最大限度地减少这种情况需要对AI提供的数据进行规划和仔细监督。那些盗取数据的坏人们可不会等我们学习如何做到这一点。因此,我们到达的越快,我们的损失就越小,成果也就越好。Borkar补充道。

[关于转载]:本文为“AMiner”官网文章。转载本文请联系原作者获取授权,转载仅限全文转载并保留文章标题及内容,不得删改、添加内容绕开原创保护,且文章开头必须注明:转自“AMiner”官网。谢谢您的合作。

参考:www.cnbc.com/

二维码 扫码微信阅读
推荐阅读 更多