微软、浙大研究者提出剪枝框架OTO,无需微调即可获得轻量级架构( 二 )


微软、浙大研究者提出剪枝框架OTO,无需微调即可获得轻量级架构
文章图片
表2:CIFAR10的ResNet50实验 。
在ResNet50的ImageNet实验中 , OTO减少了64.5%的参数 , 实现了65.5%的浮点数减少 , 与baseline的Top-1/5精度相比只有1.4%/0.8%的差距 。
微软、浙大研究者提出剪枝框架OTO,无需微调即可获得轻量级架构
文章图片
表3:ResNet50的ImageNet 。
微软、浙大研究者提出剪枝框架OTO,无需微调即可获得轻量级架构】总体而言 , OTO在所有的压缩基准实验中获得了SOTA结果 , 展现了模型的巨大潜力 。 研究者表示 , 未来的研究将关注合并量化和各种任务的应用上 。