CVPR,2021,NAS国际竞赛,百度全方位助力AI竞技

日期:2021-03-03 08:31:35   来源:互联网   编辑:小优   阅读人数:662

CVPR作为计算机视觉领域和模式识别领域的世界级学术顶会,不仅是展示前沿科技成果的学术会议,也是探索学术应用的一大平台。今年,百度联合澳大利亚悉尼科技大学和美国北卡罗来纳大学举办CVPR 2021 NAS workshop,同时于3月1日正式启动CVPR 2021 NAS国际竞赛,面向全球者开放报名通道。

人脸识别、语音识别、机器翻译…每一项人工智能应用的背后都离不开AI技术算法模型,而神经网络结构对最终模型的效果起着至关重要的作用。为降低传统神经网络结构对人工经验和背景知识的依赖,近年来神经网络结构搜索(NAS)技术成为学术界和工业界研究的热点。为了解决神经网络结构搜索的搜索效率和效果问题,此次竞赛以轻量级神经网络结构搜索技术为研究课题,为全球者切磋交流、打造前沿AI模型结构搜索技术提供了绝佳机会。

CVPR,2021,NAS国际竞赛,百度全方位助力AI竞技(图1)

双赛道并行 探索NAS技术革新之道

早期的神经网络结构搜索通过将每个神经网络在训练数据上都训练到收敛,评估其效果,会耗费大量的算力资源,阻碍了在实际业务中的应用。因此,业界开始逐渐研究使用基于可微分框架和超网络的轻量级搜索算法,但相关方法在灵活性和搜索效果上存在一定问题。

从实际技术研究中的关键问题出发,本次大赛特意设置了双赛道:超网络一致性赛道和模型性能预测赛道。参赛者可以任意选择或同时参加两个赛道。获胜的队伍会被邀请在CVPR NAS workshop上宣讲队伍的技术方案。

赛道一:超网络一致性track

由于算法的高效性,OneshotNAS逐渐成为研究人员的研究热点。通过参数共享的方式,研究人员不再需要独立训练并评估每个子网络的性能而是只需要训练一个大的超网络,通过继承超网络参数的方式快速评估每个子网络的性能,从而可以非常高效的进行模型结构自动搜索。然而,独立训练子网络的性能、性能排序与子网络继承超网络参数的性能、性能排序之间有很大的偏差,从而导致搜索得到结构性能差无法使用。本赛道旨在解决超网络的一致性问题。基于超网络性能与独立训练子网络性能最一致的队伍将获得冠军。

赛道二:模型性能预测track

在不训练的情况下,准确的预测任意模型结构性能非常重要。基于此,不仅可以深度的分析模型结构的性能优劣,同时还能够预测出满足任意硬件延时约束下的最优的模型结构。本赛事提供了部分(小样本)模型结构与模型精度之间对应关系的bench mark,参赛选手既可以通过黑盒的方式直接进行训练,也可以使用白盒的方式进行参数估计。最终预测泛化性能最好的模型队伍将获得冠军。

技术、平台、免费算力 百度全方位助力AI竞技

此次百度联合悉尼科技大学和美国北卡罗来纳大学等高校举办CVPR 2021 NAS workshop,并在CVPR2021举办的NAS国际竞赛是第一届轻量级神经网络自动搜索竞赛。

作为人工智能技术领域的领军者与深耕者,百度在NAS领域拥有强大的技术优势和深厚技术积累。目前,百度在NAS领域已原创性地提出了GP-NAS(CVPR)和SA-NAS(IJCV)等多个AutoDL算法,并使用研发的AutoDL技术先后七次在CVPR与ECCV等国际比赛中夺得世界第一。

百度在NAS领域还孵化了模型压缩工具PaddleSlim。这是基于飞桨PaddlePaddle打造的开源模型压缩工具库,囊括了深度学习模型压缩领域常用的量化、剪枝、蒸馏、模型结构搜索等方法,并且打造了CV和NLP领域的模型压缩方案。

百度飞桨作为中国首个自主研发、功能完备、开源开放的产业级深度学习平台,为本次竞赛参赛者提供了平台和GPU算力等技术支持,助力AI人才破除参赛桎梏。除了“以赛促学”通过竞赛挖掘AI人才外,百度以飞桨为创新基座构建起涵盖学习、实践、比赛、认证、就业在内的全周期服务体系,已培养AI人才超100万。未来5年,百度还将培养超过500万人工智能技术与产业人才。

本文相关词条概念解析:

模型

模型是所研究的系统、过程、事物或概念的一种表达形式,也可指根据实验、图样放大或缩小而制作的样品,模型一般用于展览或实验或铸造机器零件等用的模子。对于现实世界的事物、现象、过程或系统的简化描述,或其部分属性的模仿。在一般的意义下是指模仿实物或设计中的构造物的形状制成的雏型,其大小可以分为缩小型、实物型和放大型。

网友评论
相关阅读
赛后虎子说了,哪顶得住嘛

赛后虎子说了,哪顶得住嘛

虎子哥嘟囔着小嘴,又吞下了一场败仗。是谁把我们的虎子哥欺负成

狂野西部,联盟前三战绩都在西区,费城和篮网掉链子,湖人在短时间内

狂野西部,联盟前三战绩都在西区,费城和篮网掉链子,湖人在短时间内

北京时间4月22日,NBA比赛继续进行,今天,联盟安排了多组

恒大5-0大胜对手,吴少聪86分钟绝平,恒大本来1-0领先,无缘开门红

恒大5-0大胜对手,吴少聪86分钟绝平,恒大本来1-0领先,无缘开门红

北京时间4月20日,中超新赛季首轮,恒大2-2战平广州富力。

球迷开放日,至今已达九载,纯粹蓝白感恩有你

球迷开放日,至今已达九载,纯粹蓝白感恩有你

在过去的九年时光里。珠三角南粤大地上战斗着一支蓝血军团。蓝白

如果恒大未来在门将进行引援补强,未来成为恒大离队热门,正式离开球队

如果恒大未来在门将进行引援补强,未来成为恒大离队热门,正式离开球队

广州恒大前段时间再次成为了中超转会市场上的焦点,因为很多媒体

感动,拒绝索要高薪,宁愿只拿着一份老将底薪也要留队

感动,拒绝索要高薪,宁愿只拿着一份老将底薪也要留队

众所周知,这赛季湖人队之所以在引援方面处处受阻,主要原因还是

杜峰的这一举动,同时侮辱性极强,巩晓彬将进行强势回应

杜峰的这一举动,同时侮辱性极强,巩晓彬将进行强势回应

四强之战,本以为是半斤对八两不相上下,应该是非常焦灼精彩的比

决胜时刻,卡莱里得球单刀杀入禁区,可惜空门的机会被武磊浪费掉,让主教练颇为无奈,联赛还有最后的六轮

决胜时刻,卡莱里得球单刀杀入禁区,可惜空门的机会被武磊浪费掉,让主教练颇为无奈,联赛还有最后的六轮

北京时间6月26日,西甲联赛继续进行,西班牙人皇家贝蒂斯。全

有整整10位超级巨星在此次事件中被解雇,可能已经在今天就找好了下家

有整整10位超级巨星在此次事件中被解雇,可能已经在今天就找好了下家

近日,WWE开启了2021年第一场“解雇狂潮”有整整10位超

游出了1分44秒47的成绩,斯科特游疯了,2016年奥运会直接夺冠

游出了1分44秒47的成绩,斯科特游疯了,2016年奥运会直接夺冠

英国奥运游泳选拔赛,男子200自赛场诞生了一个好成绩,曾被孙