走近华为“天才少年”钟钊:入职两年两度突破业界学界极限( 二 )
AutoML,简单来讲,就是用人工智能的方式来写 AI 算法,用 AI 来设计 AI。在钟钊入职之前,华为诺亚方舟实验室已经在进行 AutoML 方向的相关研究。入职后 1 年,钟钊就带队解决了这个难题,次年又自研出了端到端的像素级 AutoML 流水线。
文章插图
图注:团队合影
除了 AutoML 这项研究,钟钊在移动端视觉模型上,也有不少建树。
一直以来,设计用于移动端视觉模型主要有两种方法:一种是手工设计轻量级的网络结构,如 ShuffleNet、MobileNetV3 等已取得一定的进展。不过钟钊团队研究发现这些模型的卷积核之间仍然存在冗余,限制了模型的速度。
另一种是方法进行模型压缩,通过剪枝、蒸馏等手段获得一个与大模型结构相似的小模型。但这种方法又会使精度下降,难以满足高端手机的要求。
钟钊加入华为后,带领团队提出过一种根据图像的内容自适应生成卷积核的动态方法。这种方法可以在保持精度的情况下显著降低计算量,对于不同的 CNN 网络可以降低 37%-71.3% 不等。此外在数据增强方面,钟钊在华为也研究了一种对抗性自动数据增强方法,发表在 2020年 ICLR 上。
文章插图
论文链接:https://arxiv.org/abs/1912.11188
但他在其自述中仍谦虚地表示:社会在发展,人类在进步,技术的极限也可以不断被突破,AutoML的研究和应用任重道远。
钟钊用“种子”和“森林”来描述自己的兴趣与成果,他觉得对人工智能算法的兴趣,在本科时已经在心里埋下了一颗小小的种子。
但仅有兴趣是不够的,种子要想长成大树,从汲取养分、向下扎根、破土而出再到枝繁叶茂、绿树成荫等等,每一步都不容易。而且,在大自然残酷的优胜劣汰法则下,要让一颗种子长成参天大树,生生不息繁衍成一片森林,必将还要经受住更猛烈的暴风雨洗礼。
在钟钊看来,实现 AutoML 的初步商用落地,只是终极目标中的一个阶段性目标,未来十年,随着技术的迭代成熟,算力的进一步增长,团队成员们希望 AutoML 能真正实现自动化,解放生产力,更长远的目标,就是 AutoML 能够真正脱离专家干预,超越人类设计。
用钟钊的话来说就是:这就是他想要做的能work的research!
参考资料:
- http://app.huawei.com/paper/newspaper/newsPaperPage.do?method=showNewHwrPaperInfo&sortId=1&newsInfo=92216
- https://www.zhihu.com/question/336418328/answer/758978491
- https://scholar.google.com/citations?user=igtXP_kAAAAJ
文章插图
雷峰网
【 走近华为“天才少年”钟钊:入职两年两度突破业界学界极限】
- 苹果|库克压力确实大,在众多国产厂家对标下,iPhone13迎来“真香价”!
- 华为|别不信!魅族如今处境,雷军早有预料,小米也早已体验
- 华为|问界M5风光无限,赛力斯SF5暗自神伤,华为或许低估了造车这事?
- 京东正式上线“年礼无忧”服务
- 央视公开“支持”倪光南?柳传志该醒悟了
- 华为鸿蒙系统|华为偷偷上架新机,鸿蒙系统+5000mAh大电池,仅售1399元
- 5G|关于5G,华为赢了
- 华为|华为任正非最新信件曝光:春天很快就会到来!
- 小米 11 Ultra 内测 NFC“读写勿扰”与“解锁后使用”功能
- 造车|苹果造车一波三折,缺了一家“富士康”