1、胡瀚 微软亚洲研究院 视觉计算组 https:/ancientmooner.github.io/ 2020.12.20 DataFun年终大会 计算机视觉中的自监督学习 与Transformer注意力建模 2020年计算机视觉研究的三大突破 自监督学习:首次超越有监督预训练 TransformerTransformer应用于主流视觉问题(物体检测): CV和NLP在建模上有望统一 用于视图合成的神经辐射场:低层视觉的突破性进展 视觉中的自监督学习 Yann LeCun的“蛋糕” 一个关于蛋糕的故事(2019年图灵奖演讲) Credit by Yann LeCun 自监督学习为什么重要? 婴儿就
2、是这么学到这个世界是怎么工作的 Credit by Yann LeCun Linda Smith, Michael Gasser. The Development of Embodied Cognition: Six Lessons from Babies, 2005 一个关于ImageNet的故事 AlexNet (NIPS2012) ImageNet竞赛 40% 一个关于ImageNet的故事 AlexNet 有监督有监督预训练+微调的范式(2014年) 下游任务微调 语义分割 物体检测 细粒度识别 基于ImageNet图像分类的特征预训练 两个故事的结合 Facebook AI Rese
3、arch MoCo 2019.11 在7个下游任务上,无监督预 训练首次超越有监督预训练 无监督预训练+微调 自监督学习时代! 能利用无限的训练数据 向人类视觉靠近 是如何到达这里的? Deep Clustering Rotation Prediction Gidaris et al, ICLR2018 Caron et al, ECCV2018 Credit mostly by Andrew Zisserman Image GPT Chen et al, ICML2020 是如何到达这里的? FAIR MoCo 2019.11 Exemplar 2014.6 德国弗莱堡大学 Memory bank 伯克利 2018.5 图片1图片2图片3 任务:训练网络去区分每一个图片 在7个下游任务上,无监督预 训练首次超越有监督预训练微软亚研 Deep metric transfer 2018.12
1、下载报告失败解决办法 2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。 3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。 4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。
2020年终大会-计算机视觉:11-1.pdf
2020年终大会-计算机视觉:11-5.pdf
2020年终大会-计算机视觉:11-4.pdf
2020年终大会-计算机视觉:11-3.pdf
2020年终大会-广告算法:10-2.pdf
2020年终大会-用户增长:1-2.pdf
2020年终大会-数据产品:8-2.pdf
2020年终大会-推荐算法:3-2.pdf
2020年终大会-知识图谱:2-4.pdf
2020年终大会-知识图谱:2-3.pdf
三个皮匠报告专业的行业报告下载站,每日更新,欢迎大家关注!
copyright@2008-2013 长沙景略智创信息技术有限公司版权所有 网站备案/许可证号:湘B2-20190120
专属顾问
机构入驻、侵权投诉、商务合作
三个皮匠报告官方公众号
验证即登录,未注册将自动创建三个皮匠报告账号
使用 微信 扫一扫登陆