• GluonCV v0.4:更多更快

    GluonCV 0.3 版提供大量超越原论文精度的模型。0.4 版在此基础上引入了: 新应用:全新的人体关键点检测模型 更快的部署:新增 Int8 部署和经济适用型的删减版 ResNet(Pruned ResNet)系列 更强的预训练模型:ResNext, SE_ResNext 模型系列(各种 80%~81+% 准确度的 ImageNet 预训练模型) 支持 FPN 的 ...

  • GluonNLP v0.6:让可复现的BERT模型走到你身边

    BERT 模型正在自然语言处理领域大杀特杀!例如,BERT 模型在包含9种任务的 GLUE 基准测试上将得分从 72.7 提高到了 80.5 ——这是最新的重大突破 [6]。 虽然 BERT 模型很好很强大,GluonNLP 小分队却没有找到任何开源代码能够同时: 提供可扩展的GPU预训练 复现各种任务上的结果 支持模型输出和部署 为了解决以上所有的痛点,GluonNLP...

  • GluonCV复现Wasserstein GAN

    简介 本篇博客将讨论GluonCV 0.3版本中新加入了Wasserstein GAN,包含了Wgan的一些实现细节和我踩到的一些坑。 Wgan介绍 Wgan是在Dcgan的基础上,使用wasserstein距离替代KL距离。 使用wasserstein距离的好处是,即使当两个概率分布是没有重合的时候,同样能衡量出一个距离,而这种情况下,dcgan中使用的KL距离是会为0,导致梯度消失...

  • GluonCV 0.3: 超越经典

    半年前我们开始了 GluonCV 项目,希望提供一个可靠的可以重复各个论文结果的深度学习计算机视觉库。过去几个月里小伙伴们挖掘了大量论文和实现中的隐藏细节,并对模型训练的各个细节进行了大量的实验。我们兴奋地发现,我们不仅仅能重复结果,而且能超越它们。 现在,我们高兴地宣布 GluonCV 的新的0.3版。在这个版本里我们加入了5个新算法和38个新训练好的模型。并且对28个0.2版的模型进行...

  • GluonNLP 0.3.3 新功能及重现报告

    谨以此文纪念为 GluonNLP 的模型重现赴汤蹈火,积极踩坑的小哥们。 GluonNLP 第一弹中炼丹师小A的遭遇和深度学习那些坑扎了许多朋友的心,比如知乎网友RickZ评论称 “正在被中文数据预处理教做人🙃”。在第一弹发布后,我们 GluonNLP 的小哥们马上又投入到紧张的论文复 (cai) 现 (keng) 工作中。今天,我们新发布的 GluonNLP 0.3.3 为大家带来了...

  • MXNet Gluon 上实现跨卡同步 Batch Normalization

    很多用户在论坛上,GitHub 上,甚至是不同的深度学习平台上,都要求提供跨卡同步(Cross-GPU Synchronized) Batch Normalization 或称为同步BN (SyncBN)。 我们团队率先提供了 MXNet 的实现。 写在前面:为什么要跨卡同步 Batch Normalization 现有的标准 Batch Normalization 因为使用数据并行(Da...

  • GluonCV 0.2 — 计算机视觉工具包第二版

    简介 今年四月我们发布了基于Gluon的计算机视觉工具包GluonCV,里面包含了图像识别,图像分割,和物体检测的最新算法复现和预训练模型。 经过丹师们两个月的努力,我们终于完成了GluonCV的第二个版本。这个版本主要包括以下几个亮点: 重新训练过的图像识别模型,精度从75.8%提升到了77.2%,以及新的ResNet变种V1b。 物体检测算法Faster-RCNN。 ...

  • FashionAI服装属性标签大赛参赛经验

    我在初赛结束前一个月从论坛上看到了帖子实战阿里天池竞赛——服饰属性标签识别,正好当时并无太多事情要忙,于是下载了代码和数据集,准备小试一下。 两个月后,比赛终于落下帷幕。尽管最后只取得了初赛78,复赛52的成绩,但在比赛的过程中的亲身经历还是让我对于参数的修改,超参的选择和网络结构的选择等诸多内容有了更深的了解。所以准备写个帖子总结一下,方便以后自己回顾,顺便也希望借此能够和大家多多交流。...