所有文章 > 正文

美国播客节目《指数视角》专访李飞飞:疫情、 AI 伦理、人才培养

作者: 神经小兮

浏览量: 209

时间: 2020-05-26 13:10

关键词: 李飞飞 , AI 隐私,机器价值

李飞飞近日参与了由《哈佛商业评论》出品的播客节目《Exponential View 指数视角》,作为嘉宾接受了科技媒体人 Azeem Azhar 的访问,介绍了 HAI 实验室近期在医疗 AI 方面的研究,并探讨了人工智能在隐私、道德伦理上的问题。

斯坦福大学计算机科学教授、美国国家工程院院士、业界公认女神李飞飞,近期做客《 Exponential View 指数视角》播客。

《 Exponential View 指数视角》播客是媒体人 Azeem Azhar 与《哈佛商业评论》联合出品的科技主题的播客节目。

在国内大力推行区块链技术的爱沙尼亚总统 Kersti Kaljulaid 、微软总裁 Brad Smith、纳斯达克 CEO Adena Friedman 等,都是该播客的近期访问嘉宾。

202005260301-a93zSBKBda.jpg

李飞飞(左)与主播 Azeem Azhar(右)进行了远程访谈

李飞飞与主播 Azeem Azhar 围绕 AI 技术与应用,从 AI 愿景到目前专注于AI 医疗的历程,再到 AI 技术所面临的隐私、道德伦理问题等,一一进行了深入探讨。

30 分钟的对话,干货着实不少。一起来看看 AI 女神最近有什么思考,她又是如何看待人工智能技术的热点问题。

以下是太长不看版:

1. 人工智能技术能够帮助老年人更独立、更健康地生活,早期发现 COVID-19 感染迹象

使用 AI 驱动的智能传感器技术,可能有效减少老年人 COVID-19 的感染和病死率。

利用非接触式的传感器,如深度传感器、热传感器,能够进行体温测量,并监测老年人饮食模式、上厕所模式、睡眠模式等的改变,以及孤独、痴呆症的早期检测等等。

202005260302-P66OFpL9JU.jpg

李飞飞 4 月在斯坦福的一次在线会议中

介绍了最新研究,如何利用 AI 帮助弱势群体

2. 技术发展的同时,要顾及隐私尊重与保护

每一步的技术发展,尤其是以人为中心的技术,都需要在过程中考虑隐私、尊重与尊严的问题。即使因此会给技术带来更大的难度与挑战,也不能因此而不考虑人文方面的诸多因素。

3. 在学生学习代码与算法之前,让他们先融入生活

在 AI 技术发展早期,技术专家们并未考虑到技术的迅猛发展,会对当今人类社会造成什么影响。

基于历史经验,李飞飞认为今后应该更多地将技术与人文因素联系起来。比如斯坦福 HAI 的课程设计中,就将科学与人文两方面的内容都融合起来,既有纯技术内容的课程,也有 AI 的原则、算法的政治、伦理学等内容。

202005260303-oqaIpFKkxO.jpg

HAI 学生在学习技术的同时,也会深入到工作场景中

4. 机器的价值观反映了人类的价值观,因此人类负有道德责任

机器的价值观正是人类的价值观的映射。技术的发展与应用是依赖于人类的,因此人类负有道德责任。技术专家应该从所有利益相关者的角度去看问题,而不仅仅是自己的视角,从而消除技术的偏见。

202005260304-wfSJo0LPKB.jpg

李飞飞曾在演讲中称,未来 AI 需要以人为本

5. ImageNet 的诞生:源于正确的方法与路径

ImageNet 不仅对计算机视觉,更是对整个人工智能领域都产生了巨大影响。而李飞飞表示,ImageNet 的诞生,源于团队在当时现有研究基础上,正确定义了方法以及关键路径。

6. AGI(强人工智能)的到来自然而然,与人类相互促进

强人工智能从 AI 诞生之初就已有这个诉求,因此它的到来自然而然。而为了避免 AGI 被人类的智慧边界所限制,科学家们应该被允许去做更大胆的尝试,不断创新突破自我极限,并与 AGI 相互促进、启发,实现双向发展。

我们对内容进行了翻译与整理,以下为完整版。

李飞飞:疫情让我用 AI 帮助和保护老年人

Azeem Azhar:大家好,我是 Azeem Azhar,您现在收听的是 《指数观点》播客节目。

李飞飞博士是人工智能领域著名的研究者,目前是斯坦福大学计算机科学系首届红杉讲席教授、以人类为本人工智能研究所(HAI)联合主任。她最为著名的是发起了 ImageNet 项目。

我相信,ImageNet 是过去八年来,助推人工智能投资研究和应用热潮的催化剂与推动力之一。

今年年初,她当选为国家工程院院士,这是她所在领域的最高专业荣誉之一。飞飞,很高兴今天有你的到来,谢谢你能抽出时间来。

李飞飞:谢谢你,很激动,我也非常喜欢你的节目。

Azeem Azhar:我在伦敦,你在哪里?现在因为隔离,我们都不能外出了。

李飞飞:我在斯坦福大学。是的,我们都被「封锁」了,真的很怀念每天和年轻人一起工作的日子。

Azeem Azhar:我们知道,你的研究实验室都是围绕着机器学习和人工智能的人才。其中一些技能似乎与解决 COVID-19 这种疾病以及它所产生的一些影响非常相关。请问你们的实验室是如何参与到这其中的?

李飞飞:其实早在八年前,我们就已经意识到计算机视觉和智能传感器、设备已经进入了一个阶段,我们可以开始解决一些现实世界的问题,尤其是我非常感兴趣的卫生保健问题。

因此,我们一直在试验一些关于非接触式传感器的研究,试着理解与临床结果相关的人类行为。

其中一个引起我们注意的主要领域是世界人口老龄化问题——我们如何帮助老年人更独立、更健康地生活?所以我们的研究与临床和家庭支持都有关。

具体地,比如包括体温测量 、饮食模式的改变,以及对上厕所的模式、睡眠模式还有孤独、痴呆症的早期检测等等。

202005260305-iT6qifC1zL.jpg

智能传感器在家中可收集多个维度的数据

所以,当 COVID-19 疫情爆发时,我很早就注意到了老年人的看护问题。因为我有两个年迈父母,我也很担心他们。

从数据统计中,我们惊恐地看到独居者的脆弱性和死亡率更大,因为独居者们不仅从免疫系统的角度来看更加脆弱,而且他们中更多人基本的健康状况都受到影响,因为他们没办法去诊所看医生。

我们就想,能不能加速这项技术,把它带到老年人的家里和社区,这样我们一方面可以帮助早期发现 COVID-19,比如体温变化、感染的迹象。

Azeem Azhar:那么可以介绍下你们所研究的是哪种传感器吗?这项工作需要哪些数据?

李飞飞:我们目前正在使用和试点的传感器有两种。

一种是深度传感器,比如我们玩 XBox 的视频游戏时,就会用到这种传感器。它不需要看到玩家就能获取距离信息。

另一种是热传感器,研究的是温度变化或行为。如果你长时间坐在沙发上不运动,你的饮食频率和液体摄入就会进入睡眠模式,这种传感器就能够监测得到。

202005260306-6ahmxsyztS.jpg

热传感器有助于发烧、呼吸异常等早期感染现象

技术发展与隐私问题之间的权衡

Azeem Azhar:我见过类似的项目,比如大家喜欢高清相机,它的高分辨率可以让人们看到面部细微的表情。

但是,随着这种高清技术的出现,它可能会具有侵入性,可能被滥用。在你们研究传感器过程中,都需要哪些参数呢?

李飞飞:我们所研究的任何传感器,都会处理隐私问题和尊重人类,我们正与伦理学家和法律学者合作研究隐私问题。

而顾及到隐私问题,深度传感器就会丢失数据和高保真度、高分辨率的像素着色数据。那么,我们如何弥补这个问题呢?

我们实验室正在进行计算机视觉研究,可以在没有 RGB 高清摄像头数据的情况下,理解人的姿态细节。

202005260307-yIGIxdVeeR.jpg

李飞飞介绍道,他们将 AI 模型部署在边缘设备

数据直接在终端处理,从而减少了隐私风险

Azeem Azhar:在你能得到的数据的保真度和质量以及隐私侵入性之间,是否存在折中?这是必要的权衡吗?它是一种基本的公理化权衡系统吗?

李飞飞:这是个很好的问题。我认为总是会有考虑的。

我们每一步的技术发展,尤其是以人为中心的技术,隐私、尊重、尊严方面,不应该是事后才考虑。所以,从这个角度来说,我们会折中。如果我们不能使用某些信息,就会给技术带来更大的挑战和更多的机会。

李飞飞:我的学生,需要懂技术也要理解场景

Azeem Azhar:您目前所在的是斯坦福以人为本人工智能研究所 HAI,能否介绍一下,作为一个人工智能研究机构,它与你之前工作的团队或其他更传统的人工智能机构有什么不同?

202005260308-ozTjeZxnpz.jpg

2019 年 3 月,斯坦福 HAI 研究院成立

李飞飞与 John Etchemendy 博士联合担任主任

李飞飞:在这里,让我兴奋的是,从一开始,我们的基因中就带有的抱负,就是让我们的研究所(HAI),成为一个真正的跨学科研究和教育机构。

我们的联合创始人来自计算机科学、哲学、经济学、法律、伦理、医学等各个领域。20 年前,当我还是一名博士生的时候,我做梦也不会想到,我自己的好奇心,会成为未来改变人文科学和社会的一股力量。

所以,当我意识到这一点,我个人产生了一种巨大的责任感。

Azeem Azhar:在科学实验室和工程实验室,特别是计算机科学,它们和人类特征化的东西之间一直存在着脱节,你会如何解释这种脱节造成的一些后果?

李飞飞:说起来,这也是我个人成长的一个历程。我记得 2000 年,我在加州理工学院读博士一年级的时候,读的第一篇研究论文是一篇关于人脸检测的开创性论文。

我导师说,这篇论文是一篇非常棒的机器学习论文。它展示了使用非常慢的 CPU 芯片,进行实时的人脸检测。

202005260309-em06Q3qIiV.jpg

李飞飞在加州理工学院博士期间的导师 Pietro Perona

如今回过头来看,当年我的导师、同学读完论文,从来没有人,甚至连我自己,都没有考虑到这和人类隐私有什么关系。

说明这些技术的发展早期没有考虑到这一点。但过去没考虑到,是我的问题吗?可能并不是。

我们做梦都没有想到这个技术的影响会有多大,但是今天我们看到了这些后果。

Azeem Azhar:没错,这是一个非常重要的观察。这让我想起 1959 年 C. P. Snow (英国科学家、小说家)一个著名演讲,叫做《两种文化》。

他讲道,一般的学者是多么了解莎士比亚,却对热力学第二定律一无所知。而知道第二定律或热力学的学者,却对莎士比亚一无所知。如果没有共同的知识,我们就不能用智慧去思考。

如今,你似乎在这两种文化之间架起了一座桥梁。

李飞飞:对我来说,这是个双螺旋,我们认为下一代的学生应该是「双语」的——技术和人文,这两种学科都要学习。

过去几年里,在硅谷有一件事让我印象深刻,那就是年轻的技术专家告诉我,他们没有接受过这样的知识教育。

当他们现在从新闻中听到,甚至看到他们自己公司生产的产品,正面对这些对人类影响的问题时,他们都会感到非常恐惧。他们甚至不知道去思考自己的角色是什么,如何让世界变得更好。

Azeem Azhar:所以我的经验是,尽量别把学生看成研究者,而是把他们看成产品经理、开发者和创业者。

我想给大家介绍一下 HAI 有一些课程,真的是非常科学的。比如知识图、理论神经科学、机器学习和因果推理。然后另一方面,还有算法的政治、伦理学、公共政策、技术变革、数字公民社会、设计人工智能来培养人类的福祉。

202005260310-snOAwDMw9O.jpg

在 HAI 课程列表里,不乏 AI 造福社会

计算机与安全、道德、公共政策等课程

所以,我很好奇,你有什么创新的方式,来将这两方面很不相干的学科领域结合起来?

李飞飞:我的学生大多是来自计算机科学背景的硕士和博士生。当他们加入到我们 AI 医疗保健团队中时,只有一项基本要求——在讨论代码与算法之前,先融入医护人员的日常生活。

他们需要进入 ICU、病房、手术室甚至是医护人员 / 患者家中,了解这些人的生活方式并跟他们的家人面对面接触。

所以,这只是一个小小的例子。但是 HAI 在各方面都在做这个事情。

技术是中立的吗?

Azeem Azhar:我听到有两类说法,有些人说,技术在伦理上是中立的,它就像一颗行星绕着一颗恒星转一样。

但还有一些人说,技术在某种意义上说,是依赖路径的,是在特定的结构和接触、偏见、特权和观点中演化出来的。因此,技术从来都不是中立的。

你认为这两种观点中,哪一种更正确?

李飞飞:所以恒星不是人类制造的,而科技是。

所以我确实相信,有一句话:没有独立的机器价值。机器的价值是人类的价值。科学规律有其自身的逻辑和美感,没有人类的偏见。但是技术的发明创新和技术的应用是非常依赖人的,我们都有这个道德责任。

Azeem Azhar:比如当你在成立这个研究所的时候,你有着来自于斯坦福的背景,你自己也是一个多元文化的人,那么你怎么看待斯坦福等这些背景?

李飞飞:我想说,还是责任感。从早期的斯坦福大学领导层开始,我们就认识到责任感的重要性。

这就是为什么 HAI 得到了这么多的支持。因为我们清醒地认识到,我们的角色不仅仅是在技术上的创新,而是要利用技术为人类社会带来繁荣,包括艺术、音乐、人文科学,以及社会科学、医学、教育等。

ImageNet:彻底转变图像识别

Azeem Azhar:再聊聊你的项目 ImageNet。我认为它对当下人工智能投资和应用的热潮中是非常关键的。ImageNet 提醒了人们,数据对于 AI 发展的重要性。你有没有想过,这可能是你在 2006 年开始做这个的时候带来的影响?

李飞飞:我觉得完成 ImageNet 的项目过程更让我兴奋,我和其他大多数科学家一样,对于知识都有追求和好奇心,不仅限于关注我们提出的想法会产生多大的影响。

Azeem Azhar:这很了不起。从本质上说,你做了很多繁重的工作来对图像进行分类,才创造了一个干净的数据集,人们才可以把他们的算法应用在上面。

202005260311-jQbmNtSMDE.jpg

ImageNet 数量之大,质量之高都是空前的

而在 2012 年之前的几年里,每年大约有 3 亿美元的资金投入到人工智能创业公司,ImageNet 对人工智能创业环境产生了巨大的影响。

李飞飞:首先,我很惭愧受到这些褒奖,也很感谢你把这些功劳归功于 ImageNet,我想历史和时间最终会判断我们的贡献,但我们的确为这些工作感到很自豪。

Azeem Azhar:现在回想 2011 年、2012 年的图像识别技术发展,但也远没有我们今天的图像识别那么厉害。现在您作为这个领域的科学家,如何解读这些年来的变化?

李飞飞:ImageNet 正是诞生于「彻底转变图像识别」的这个愿望,我们当时提出的想法和很多科学发现没有太大区别, 我们非常希望能够建立一个能够真正推动视觉智能研究的北极星(NorthStar),让我们能够定义用何种办法解决大规模物体分类,并且解决这个问题。

我们也的确成功地找出了这个办法,当然,我们也是站在巨人的肩膀上,并不是凭空想出了这个办法。正因为有着前三十年认知神经科学的研究和计算机视觉的研究。

李飞飞眼中的通用人工智能(AGI)

Azeem Azhar:对于大众和媒体,近来经常提及通用人工智能,或者说强人工智能,对你来说 AGI 有什么意义?

李飞飞:当我最初读人工智能奠基人图灵的《机器会思考吗》,AGI 强人工智能这个概念,也是自人工智能诞生之初就有诉求。所以我觉得强人工智能的诞生是自然而然的。

Azeem Azhar:我很好奇的是,当我们在思考 AGI 强人工智能时,会不会陷入人类中心主义的陷阱?比如第一种是我们通过工程化的方式实现人工智能;第二种是我们推动机器理解我们的规则,导致机器智能的边界,其实就是人类智慧的边界。

李飞飞:所以,我觉得应该允许科学家做更大胆的尝试。牛顿在看星星的时候,人类还没有用上电力,但是我们要尊重历史过程中所有的努力。

202005260312-aKdI3mk6TG.jpg

AI 通常被分为弱人工智能、通用人工智能(即强人工智能)和超人工智能

从人类智能的角度来说,更让我兴奋的是,我们的工作,让人工智能、脑科学和认知科学产生了融合。所以在斯坦福大学我们 HAI 的三大原则之一就是:通过人类启发智能。这些发展也都是双向的,我们推进对人类认知和人脑的理解,也从中学到更多的东西来提高我们对人工智能的发展。

Azeem Azhar:算法能做的事情比人类要多得多,但现在还处于初期。当你展望 15 年、20 年、30 年后,你认为我们的人工智能系统的决策能力会怎样?

李飞飞:首先对于科学的好奇心,是我们继续推动创造创新的智能机器的动力。想要让机器智能更加接近人类智能的话,就是我们本身作为人类,具备人性,能帮助机器更好地与人类交互。如果机器能够理解人类,能够像人类一样思考。

但是同样,这种发展不能没有边界。人类一直创新的方式就是,突破自己的极限。比如,我们没有汽车、马车跑得快,但是我们能够创造这些工具扩展和增强我们的能力,甚至超越我们的能力。

有时创新也不只是突破,创新是复制出人类类似的能力,通过替代人力解决问题。但不管是哪一方面,在我们推进这项技术的同时,边界必须要有。

Azeem Azhar:谢谢,李飞飞博士,谢谢你愿意抽出时间来参与我们的节目。

本文经授权转载自“HyperAI超神经”微信公众号,作者:神经小兮。感谢原作者的分享。

往期回顾:

末日掩体大受追捧,现实版《流浪地球》地下城能否躲避疫情危机?

2020年“邵逸夫奖”公布,理论天体、光遗传学、表示论领域先驱获奖

武汉病毒所所长王延轶首次回应质疑:完全是无中生有

[关于转载]:本文原载于“HyperAI超神经”微信公众号,转载本文请联系原作者获取授权。谢谢您的合作。

扫码微信阅读
[关于转载]:本文转载于神经小兮,仅用于学术分享,有任何问题请与我们联系:report@aminer.cn。