所有文章 > 正文

李飞飞等提出深度进化RL;周志华团队开源深度森林DF21 | 智谱・AI 人工智能发展月报(2021 年 2 月)

作者: 学术头条

时间: 2021-03-03 10:12

文末留言送福利。

本报告依托科技情报大数据挖掘与服务系统平台 AMiner、新闻事件分析挖掘和搜索系统 NewsMiner,以及人工智能主流新闻网站及公众号,从 AI 学术会议、重大科研进展、人物动态、最新报告发布等角度,分析挖掘了每月人工智能领域所发生的、对领域技术发展产生重大推动作用的事件,旨在帮助 AI 领域研究人员和业内人士及时追踪最新科研动态、洞察前沿热点。


本月恰逢春节假期,统计发现人工智能领域共计发布 419 篇新闻、162 个事件,分别较上月下降 15% 和 13%。本月出现 6 个关注热点高峰,如图 1 所示。尤其,2 月 21 日因谷歌开源自动化寻找最优 ML 模型新平台 Model Search ,以及 18 日因 NASA、牛津、微软等多家机构提出 MLTRL 框架等热点事件而出现关注度高峰。

图 1 人工智能领域 2021 年 2 月新闻趋势

从受关注子领域来看,本月最受关注的人工智能子领域是智能芯片,其次是智能机器人机器学习,居于前三,分别占比 40.8%、22.07% 和 21.13%,具体信息分布如图 2 所示。

图 2 本月人工智能子领域相关新闻事件分布


本月值得关注的 AI 事件有:


学术会议方面,人工智能顶级会议 AAAI 2021 于 2 月 2 日 - 9 日线上召开,受到最多关注,本次会议共收到有效提交论文 7911 篇,接收率为 21.4%。


研究报告方面,清华 - 中国工程院知识智能联合研究中心发布《智慧人才发展报告》,ARK Invest 发布 Big Ideas 2021,提供了本年度最具颠覆性的 15 个研究。


AI 领域科研重要进展有:首款国产量子计算机操作系统 “本源司南” 在安徽发布;微软亚洲研究院提出新的自然语言生成预训练 BANG;谷歌开源自动化寻找最优 ML 模型新平台 Model Search 等。


AI 人物方面,西北大学李学龙教授入选 ACM Fellow;清华大学朱文武团队夺冠 AAAI 2021 国际深度元学习挑战赛;谭欢博士荣获 IEEE RAS 青年科学家奖等。


一、AI 顶会动态


AAAI 2021(第 35 届 )线上举办


人工智能顶级会议 AAAI 2021 于 2021 年 2 月 2 日 - 9 日线上召开。本次 AAAI 2021 共收到有效提交论文 7911 篇,最终录取量为 1696 篇,接收率为 21.4%。本届 AAAI 2021 由微众银行首席人工智能官杨强教授担任大会主席。


AAAI 2021 的 12 篇获奖论文华人占据 5 席。三篇最佳论文分别是:


(1)Informer: Beyond Efficient Transformer for Long Sequence Time-Series Forecasting,论文一作为北京航空航天大学计算机科学与工程学院 Haoyi Zhou。

图 3 周号益的学者画像(来源:AMiner)


论文链接:https://www.aminer.cn/pub/5fd8acf991e0119b22c1f38d/


(2)Exploration-Exploitation in Multi-Agent Learning: Catastrophe Theory Meets Game Theory,论文一作为新加坡科技设计大学 Stefanos Leonardos。


论文链接:https://www.aminer.cn/pub/5fcf50dd91e011f4c80bac68


(3)Mitigating Political Bias in Language Models Through Reinforced Calibration,论文一作:达特茅斯学院计算机科学系博士生 Ruibo Liu,本科毕业于华中科技大学电气与电子工程学院。

图 4  Ruibo Liu 的学者画像(来源:AMiner)


论文链接:https://www.aminer.cn/pub/601cb7309e795ee647cc9829


在三篇 Runner-Up 论文中,也同样有两篇由华人学者获得,其中一篇来自北航、微软研究院的合作团队,论文标题为 Self-Attention Attribution: Interpreting Information Interactions Inside Transformer,一作是来自北航的 Yaru Hao。


论文链接:https://www.aminer.cn/pub/5ea2b8bf91e01167f5a89d92


另一篇来自哈佛大学、卡内基・梅隆大学的合作团队,论文《Dual-Mandate Patrols: Multi-Armed Bandits for Green Security》,一作是来自哈佛计算机科学系的 Lily Xu。


论文链接:https://www.aminer.cn/pub/5f60a74b91e0113805870332


本届大会颁发了首届杰出审稿人奖,其中微软亚洲研究院的两位清华毕业校友 Xiting Wang吴方照获得了最佳 SPC。

图 6 吴方照的学者画像(来源:AMiner)
图 7  Xiting Wang 的学者画像(来源:AMiner)

本次 AAAI 2021 一共收到有效提交论文 7911 篇,最终录取的数量为 1696 篇,接收率为 21.4%。另据大会统计,在接收论文中一共有 70.6% 是学生论文。

图 8  AAAI2021 论文接收数据统计 (来源:AI 科技评论)

从论文所属国家和地区来看,中国大陆的论文总数仍然占据榜首,3319 篇的论文提交,627 篇的论文录取,其有 19.0% 的录取率;从提交的数目来看,占据了 1/3,录取数占据了 36%。中国香港和中国台湾分别有 31 篇和 20 篇被录取。

图 9  AAAI2021 论文提交和录取数据统计 — 按地区  (来源:AI 科技评论)

从论文主题领域来看,机器学习、计算机视觉、NLP 以及数据挖掘和应用程序分别占据总提交论文的 80%。机器学习以 2654 篇投稿量排在第一位,其后面三位是计算机视觉、语音 & 自然语言处理、数据挖掘 & 知识管理。

图 10  AAAI2021 论文提交和录取数据统计 — 按领域  (来源:AI 科技评论)

详情链接:https://mp.weixin.qq.com/s/AG64DgfP35Qe-AAlgsvDLg


二、AI 最新报告发布


1. 清华 - 中国工程院知识智能联合研究中心发布《智慧人才发展报告》


该报告依托 AMiner 平台,运用知识图谱技术,通过大数据挖掘和案例研究法,找出我国人才发展的痛点,说明智慧人才生态平台对人才队伍建设的积极促进作用,成为该报告的一大看点。该报告以人工智能领域为例,从人才培养模式、科研和产业人才现状等角度进行深入分析,概括了该领域人才发展问题。同时,分别针对政府、企业、高校等场景的人才需求,分析了传统做法的不足,介绍了智慧解决方案和代表性案例,并从智慧人才的角度,给出了解决对策。


详情链接:https://mp.weixin.qq.com/s/rOlU9u--cM7B0QFJ11Tnug


2. ARK Invest 发布了 2021 年度大创意报告 Big Ideas 2021


近日,ARK Invest 发布了 2021 年度大创意报告 Big Ideas 2021,发布本年度最具颠覆性的 15 个研究。这 15 个研究分为三大板块:科技、制造、生物医药。ARK 团队认为深度学习可能是我们这个时代最重要的软件突破。除了上述内容,Big Ideas 2021 的深度学习部分还使用了单独页面介绍了 GPT-3。报告认为,AI 的每个领域都在进步,而自然语言处理和深度学习正是 AI 领域中发展最快的部分。


详情链接:https://mp.ofweek.com/it/a356714180157


三、各 AI 子领域重要科研进展





四、AI 学者个人动态


1. 西北工业大学教授李学龙入选 ACM Fellow


近日,国际计算机协会(ACM)公布了最新一期 ACM Fellow,其中西北工业大学的李学龙教授入眩作为计算机界顶尖协会,ACM 与美国人工智能协会(AAAI)、电气与电子工程师协会(IEEE),被称为是最权威的计算机协会。能够拿到这三个协会的会士(Fellow)的专家被称为是人工智能界的 “大满贯”。

图 2 李学龙的学者画像(来源:AMiner)

详情链接:https://www.chinaai.com/zixun/6362.html


2. 斯坦福大学马腾宇获得 2021 年斯隆奖学金


2 月 16 日,斯隆基金官宣 2021 年斯隆研究奖的 128 名获得者名单,其中,入选华人科学家 18 名,计算机科学领域 2 名。斯隆研究奖于 1955 年设立,获奖者皆被认为是该领域最有前途的年轻科学家。马腾宇的研究兴趣包括机器学习和算法,例如非凸优化,深度学习及其理论,强化学习,表示学习,分布式优化,凸松弛(例如平方和)和高维统计。他与鬲融等人是最早研究非凸优化问题的一批学者,并曾凭借此项研究获得 2018 ACM 博士论文奖。

图 3 马腾宇的学者画像(来源:AMiner)


名单链接:https://sloan.org/fellowships/2021-Fellows


详情链接:https://mp.weixin.qq.com/s/vePIJAgoa_Jz3MKmraQsuA


3. 李飞飞等提出深度进化 RL


近日,来自斯坦福大学的研究者 Agrim Gupta、Silvio Savarese、Surya Ganguli 和李飞飞提出了一种新型计算框架 —— 深度进化强化学习,该框架能够在环境、形态和控制这三种复杂度维度下同时规模化创建具身智能体,环境中执行巡视、点导航、避障、探索、逃脱、爬坡、斜坡推箱子和控球等任务。DERL 通过模仿达尔文进化论中错综复杂的跨代进化过程来搜索形态空间,通过终身神经学习来评估给定形态通过智能控制解决复杂任务的速度和质量。


论文名称:Embodied Intelligence via Learning and Evolution
论文链接:https://www.aminer.cn/pub/601bcb1b91e011fcd67ef2f0
详情链接:https://mp.weixin.qq.com/s/7p53nGp-OPC7MeBxUkgk8w


4. 吴恩达团队新研究:ImageNet 模型和 CheXpert 性能之间的关系


近日,斯坦福大学吴恩达团队通过在大型胸片数据集 CheXpert 上比较 16 种流行的卷积架构的迁移性能和参数效率,他们探索了 ImageNet 架构和权重两个因素与胸片任务的性能之间的关系。团队发现,无论模型是否经过预训练,基于 ImageNet 的体系结构改进带来的性能提升和 CheXpert 性能之间并无明显关系。
论文名称:CheXpert: A Large Chest Radiograph Dataset with Uncertainty Labels and Expert Comparison
论文链接:https://www.aminer.cn/pub/6006be7591e0111a1b6a2389
详情链接:https://mp.weixin.qq.com/s/BnbsdaW3TH5CvsBv7N_AOg


5. 周志华团队开源深度森林 DF21


2 月 1 日,南京大学人工智能学院周志华教授公开表示:“其经过南京大学 LAMDA 实验室徐轶轩同学的不懈努力,深度森林 DF21 在 Github 和开源中国同时开源。” 深度森林是基于决策树的深度学习模型,使用如随机森林、GBDT 等树模型的应用都可以尝试使用 DF21。模型的全名是:DF21: A Practical Deep Forest for Tabular Datasets。在千万级别的表格型数据集上进行训练,模型占用的内存一下减少到了原来的十分之一左右,这在一定程度上解决了深度森林固有的内存消耗、只能用 CPU 训练等问题。
论文名称:Deep Forest
论文链接:https://arxiv.org/pdf/1702.08835.pdf
周志华教授报告名称:An exploration to non-NN deep models based on non-differentiable modules
报告链接:https://aistats.org/aistats2019/0-AISTATS2019-slides-zhi-hua_zhou.pdf
项目地址:http://www.lamda.nju.edu.cn/deep-forest/
详情链接:https://mp.weixin.qq.com/s/qZETCQDq79-q2I02wh5cXQ


6. 谭欢博士荣获 IEEE RAS 青年科学家奖


近日,IEEE 机器人与自动化协会公布了 2021 年度获奖名单,优必选科技联席首席技术官谭欢博士荣获政府 / 行业类青年科学家奖,是该奖项自 1999 年创办以来,中国内地工业界单位背景的首位获奖者。IEEE 是全球最大的非营利性专业技术学会。谭欢博士发表了 50 多篇学术期刊和会议论文,涵盖了机器人学习、视觉伺服控制、人机交互、自主机器人学、机器人任务规划与协同、认知机器人学等多个领域。
详情链接:https://baijiahao.baidu.com/s?id=1692476849433262246&wfr=spider&for=pc


7. 杜克大学宋凌皓获 EDAA 最佳博士论文奖


2 月 6 日,体系结构领域有好消息传出,杜克大学博士宋凌皓(Linghao Song)收获 EDAA 最佳博士论文奖。宋凌皓 2014 年毕业于上海交通大学,获得信息工程专业学士学位,随后进入美国匹茨堡大学攻读电子和计算机工程硕士。2017 年,他进入杜克大学读博,师从杜克大学电子与计算机工程系教授、计算进化智能中心主任、IEEE Fellow 陈怡然教授。在研究生涯中,宋凌皓主要关注机器学习加速器、计算机架构、深度学习应用等领域。

图 13 宋凌皓的学者画像(来源:AMiner)


论文:Accelerator Architectures for Deep Learning and Graph Processing
论文链接:https://dukespace.lib.duke.edu/dspace/handle/10161/21507
详情链接:https://mp.weixin.qq.com/s/IDcmJUclrC4_8TljchlG-Q


二维码 扫码微信阅读
下载报告
推荐阅读 更多