米兰·(milan)中国官方网站-张钹、朱军团队获得 ICLR 2022 杰出论文奖!
导语:7篇论文得到卓异论文奖,清华、人年夜、浙年夜等海内高校上榜,张钹院士、朱军传授等人互助的论文入选!
7篇论文得到卓异论文奖,清华、人年夜、浙年夜等海内高校上榜,张钹院士、朱军传授等人互助的论文入选!作者|Ailleurs
编纂|陈彩娴今日,ICLR2022于官网上宣布了卓异论文奖评比成果,共有7篇论文获奖,海内上榜高校包括清华年夜学、中国人平易近年夜学、浙江年夜学、重庆年夜学,外洋上榜高校及机构有google研究院、安特卫普年夜学、斯坦福年夜学、康奈尔年夜学、多伦多年夜学、DeepMind等。
本年ICLR共有3391篇投稿,吸收1095篇,吸收率为32.3%,此中包括54篇论文被吸收为Oral,176篇论文被吸收为Spolight,7篇论文因其卓着的层次性、洞察力、创造力及潜于的长期影响力荣获卓异论文奖。此中,华人一作论文共有3篇,张钹院士、朱军传授等人互助的论文得到卓异论文奖。尚有3篇论文得到卓异论文声誉提名。
1华人一作获奖论文张钹院士、朱军传授等人互助的获奖论文为《Analytic-DPM: an Analytic Estimate of the Optimal Reverse Variance in Diffusion Probabilistic Models》。

论文地址:https://openreview.net/pdf?id=0xiJLKH-ufZ
这项事情的获奖理由:
扩散几率模子(Defusion probabilistic model,DPM)是一类功效强盛的天生模子,是呆板进修范畴中一个快速成长的研究课题。本文旨于解决 DPM 模子固有的局限性,即DPM 模子中最优反向方差的计较速率迟缓且成本昂贵。作者起首展示了一个使人惊奇的成果,即 DPM 的最优反向方差及响应的最优 KL 散度都有其患上分函数的解析情势。然后,他们提出了新奇且优雅的无练习推理框架:Analytic-DPM,利用蒙特卡罗要领及预练习的基在患上分模子来预计方差及 KL 散度的阐发情势。
这篇论文于理论孝敬(注解 DPM 的最优反向方差及 KL 散度都具备解析情势)及现实益处(提出合用在各类 DPM 模子的免练习推理)方面都具备主要意义,而且极可能影响将来的 DPM 研究。

图注:张钹
张钹,清华年夜学计较机系传授,中国科学院院士,CCF 会士,2014 CCF 终身成绩奖得到者,中国人工智能范畴奠定人之一。曾经任校学位委员会副主任,现任微软亚洲研究院技能参谋。
张钹院士从事人工智能、人工神经收集、呆板进修等理论研究,以和这些理论运用在模式辨认、常识工程与呆板人等技能研究。于这些范畴,他已经发表 200多篇学术论文及5篇(或者章节)专著(中英文版)。他的专著得到国度教委高档黉舍出书社颁布的优异学术专著特等奖。他的科研结果别离得到 ICL欧洲人工智能奖、国度天然科学三等奖、国度科技前进三等奖、国度教委科技前进1、二等奖、电子工业部科技前进一等奖以和国防科工委科技前进一等奖奖励。此外,他介入创立智能技能与体系国度重点试验室,在1990‐1996年担当该试验室主任。1987‐1994年任国度 863 高技能规划智能呆板人主题专家组专家。
于已往30多年中,他提出问题求解的商空间理论,于商空间数学模子的基础上,提出了多粒度空间之间彼此转换、综合与推理的要领。提出问题分层求解的计较繁杂性阐发以和降低繁杂性的要领。该理论与响应的新算法已经经运用在差别范畴,如统计开导式搜刮、路径计划的拓扑降维法、基在瓜葛矩阵的时间计划以和多粒度信息交融等,这些新算法均能显著降低计较繁杂性。该理论现已经成为粒计较的的重要分支之一。于人工神经收集上,他提出基在计划及基在点集笼罩的进修算法。这些自顶向下的布局进修要领比传统的自底向上的搜刮要领于很多方面具备显著优胜性。
张钹院士于清华执教六十余年,已经经是桃李满全国,于其研究范畴同样成为了绝对于的权势巨子。虽已经年过花甲,却仍精力矍铄,如今的他还有于对峙以第一作者的身份写作论文,使人敬仰。

图注:朱军
朱军,清华年夜学计较机系传授,清华年夜学人工智能研究院基础理论研究中央主任,北京智源人工智能研究院呆板进修首席科学家 。获腾讯科学摸索奖,入选MIT TR35中国前锋者 、亚洲第二位IEEE AI 10 to Watch学者、国度 万人规划 领甲士才,中国首位PAMI副主编,担当IEEE TPAMI的副主编及编委。担当ICML2014地域结合主席, ICML、NIPS、IJCAI、AAAI等范畴主席20余次。
朱军传授的研究事情缭绕呆板进修基础理论、高效算法及运用睁开,看重理论与现实问题联合。已经持续多年于呆板进修顶级国际集会及期刊ICML、NIPS、IJCAI、AAAI、 JMLR、PAMI等发表论文100余篇。研究事情获得国度973规划、天然科学基金优青基金及重点基金等项目的撑持,入选“清华年夜学221基础研究人材撑持规划”。
另外一项华人一作获奖论文来自斯坦福年夜学 :《Comparing Distributions by Measuring Differences that Affect Decision Making》。

论文地址:https://openreview.net/forum?id=KB5onONJIAU
这项事情的获奖理由:本文提出了一类新的差异,可以比力基在最优丧失的决议计划使命的两种几率漫衍。作者证实,与各类基准上的竞争性基准比拟,所提出的要领具备更好的测试能力。委员会认为 ,该要领不仅思维巧妙,具备非凡的经验意义,它答应用户经由过程决议计划丧失来比力漫衍时直接指定他们的偏好,这象征着可注释性程度将获得提高。
论文作者Shengjia Zhao是斯坦福年夜学计较机科学系的博士生,研究标的目的为猜测模子及自治代办署理、几率深度进修、不确定性量化等。他与北年夜2016级图灵班本科生许逸伦等人的互助论文曾经被ICLR2020“满分”吸收。

图注:Shengjia Zhao
其导师为Stefano Ermon,他曾经获IJCAI2018“计较机与思惟奖”,于几率推理、呆板进修及决议计划方面的研究具备主要影响。他的另外一位天才学生宋飏的一作论文曾经获ICLR2021卓异论文奖,宋飏14岁保送清华年夜学,本科就读在数学物理专业,曾经追随朱军等人做研究,后于2016年赴斯坦福年夜学读博。
第三篇华人一作获奖论文为《Neural Collapse Under MSE Loss: Proximity to and Dynamics on the Central Path》,作者Xiaoyan Han是康奈尔年夜学的博士生。

论文地址:https://arxiv.org/abs/2106.02073
这项事情的获奖理由:
本文对于当下深度收集练习范式中场景的“神经瓦解”征象提出了新的理论看法。本文演示了一种新的均方偏差(MSE)丧失分化要领,以阐发神经瓦解下丧失的每一个构成部门,而不是数学上更难阐发的交织熵丧失。经由过程研究沿中央路径的重整梯度流,作者推导出猜测神经瓦解的切确动力学要领。本文为理解深度收集的经验练习提供了新奇而富有开导性的理论看法。

图注:Xiaoyan Han
2华人一作声誉提名论文本次得到卓异论文声誉提名的论文之一《PiCO: Contrastive Label Disambiguation for Partial Label Learning》,一作是来自浙江年夜学计较机科学与技能学院的博士生Haobo Wang。

论文地址:https://arxiv.org/abs/2201.08984
这项事情的获奖理由:
本文研究了部门标签进修(PLL),旨于经由过程于一个联贯的框架中解决PLL暗示进修及标签消歧的两个要害挑战,削减PLL及有监视的对于等物之间的机能差距。作者提出了一个联合了对于比进修及基在原型的标签消歧的新框架PiCO。本文给出了有趣的理论注释,以证实其框架从指望最年夜化(EM)的不雅点。实证成果特别使人印象深刻,由于PiCO于PLL中显著优在今朝开始进的技能,甚至到达了与彻底监视进修相称的成果。
附:得到卓异论文奖及声誉提名的论文完备名单查看地址https://blog.iclr.cc/2022/04/20/announcing-the-iclr-2022-outstanding-paper-award-recipients/
雷峰网(公家号:雷峰网)
雷峰网版权文章,未经授权禁止转载。详情见转载须知。





