📄深度学习论文精读

type
status
slug
summary
tags
category
icon
password
Date
深度学习论文精读
录制完成的论文
日期
标题
时长
视频（播放数）
封面
Mar 30, 2023
GPT-4
1:20:38
https://www.bilibili.com/video/BV1vM4y1U7b5
Mar 23, 2023
大模型时代下做科研的四个思路
1:06:29
https://www.bilibili.com/video/BV1oX4y1d7X6
Mar 10, 2023
Anthropic LLM
1:01:51
https://www.bilibili.com/video/BV1XY411B7nM
Jan 20, 2023
Helm 全面语言模型评测
1:23:37
https://www.bilibili.com/video/BV1z24y1B7uX
Jan 11, 2023
多模态论文串讲·下
1:03:29
https://www.bilibili.com/video/BV1fA411Z772
Dec 29, 2022
Instruct GPT
1:07:10
https://www.bilibili.com/video/BV1hd4y187CR
Dec 19, 2022
Neural Corpus Indexer 文档检索
55:47
https://www.bilibili.com/video/BV1Se411w7Sn
Dec 12, 2022
多模态论文串讲·上
1:12:27
https://www.bilibili.com/video/BV1Vd4y1v77v
Nov 14, 2022
OpenAI Whisper 精读
1:12:16
https://www.bilibili.com/video/BV1VG4y1t74x
Nov 7, 2022
在讲 OpenAI Whisper 前先做了一个剪视频小工具
23:39
https://www.bilibili.com/video/BV1Pe4y1t7de
Oct 23, 2022
Chain of Thought 论文、代码和资源
33:21
https://www.bilibili.com/video/BV1t8411e7Ug
Sep 17, 2022
CLIP 改进工作串讲（下）
1:04:26
https://www.bilibili.com/video/BV1gg411U7n4
Sep 2, 2022
CLIP 改进工作串讲（上）
1:14:43
https://www.bilibili.com/video/BV1FV4y1p7Lm
Jul 29, 2022
ViLT 论文精读
1:03:26
https://www.bilibili.com/video/BV14r4y1j74y
Jul 22, 2022
理由、论据和担保【研究的艺术·四】
44:14
https://www.bilibili.com/video/BV1SB4y1a75c
Jul 15, 2022
如何讲好故事、故事里的论点【研究的艺术·三】
43:56
https://www.bilibili.com/video/BV1WB4y1v7ST
Jul 8, 2022
DALL·E 2 逐段精读
1:27:54
https://www.bilibili.com/video/BV17r4y1u77B
Jul 1, 2022
明白问题的重要性【研究的艺术·二】
1:03:40
https://www.bilibili.com/video/BV11S4y1v7S2/
Jun 24, 2022
跟读者建立联系【研究的艺术·一】
45:01
https://www.bilibili.com/video/BV1hY411T7vy/
Jun 17, 2022
Zero 逐段精读
52:21
https://www.bilibili.com/video/BV1tY411g7ZT/
Jun 10, 2022
DETR 逐段精读
54:22
https://www.bilibili.com/video/BV1GB4y1X72R/
Jun 3, 2022
Megatron LM 逐段精读
56:07
https://www.bilibili.com/video/BV1nB4y1R7Yz/
May 27, 2022
GPipe 逐段精读
58:47
https://www.bilibili.com/video/BV1v34y1E7zu/
May 5, 2022
Pathways 逐段精读
1:02:13
https://www.bilibili.com/video/BV1xB4y1m7Xi/
Apr 28, 2022
视频理解论文串讲（下）
1:08:32
https://www.bilibili.com/video/BV11Y411P7ep/
Apr 21, 2022
参数服务器（Parameter Server） 逐段精读
1:37:40
https://www.bilibili.com/video/BV1YA4y197G8/
Apr 14, 2022
视频理解论文串讲（上）
51:15
https://www.bilibili.com/video/BV1fL4y157yA/
Mar 31, 2022
I3D 论文精读
52:31
https://www.bilibili.com/video/BV1tY4y1p7hq/
Mar 24, 2022
斯坦福 2022 年 AI 指数报告 精读
1:19:56
https://www.bilibili.com/video/BV1s44y1N7eu/
Mar 17, 2022
AlphaCode 论文精读
44:00
https://www.bilibili.com/video/BV1ab4y1s7rc/
Mar 10, 2022
OpenAI Codex 论文精读
47:58
https://www.bilibili.com/video/BV1iY41137Zi/
Mar 3, 2022
GPT, GPT-2, GPT-3 精读
1:29:58
https://www.bilibili.com/video/BV1AF411b7xQ/
Feb 24, 2022
Two-Stream 逐段精读
52:57
https://www.bilibili.com/video/BV1mq4y1x7RU/
Feb 10, 2022
CLIP 逐段精读
1:38:25
https://www.bilibili.com/video/BV1SL4y1s7LQ/
Feb 6, 2022
你（被）吐槽过论文不够 novel 吗？
14:11
https://www.bilibili.com/video/BV1ea41127Bq/
Jan 23, 2022
AlphaFold 2 精读
1:15:28
https://www.bilibili.com/video/BV1oR4y1K7Xr/
Jan 18, 2022
如何判断（你自己的）研究工作的价值
9:59
https://www.bilibili.com/video/BV1oL411c7Us/
Jan 15, 2022
Swin Transformer 精读
1:00:21
https://www.bilibili.com/video/BV13L4y1475U/
Jan 7, 2022
指导数学直觉
52:51
https://www.bilibili.com/video/BV1YZ4y1S72j/
Jan 5, 2022
AlphaFold 2 预告
03:28
https://www.bilibili.com/video/BV1Eu411U7Te/
Dec 20, 2021
对比学习论文综述
1:32:01
https://www.bilibili.com/video/BV19S4y1M7hm/
Dec 15, 2021
MoCo 逐段精读
1:24:11
https://www.bilibili.com/video/BV1C3411s7t9/
Dec 9, 2021
如何找研究想法 1
5:34
https://www.bilibili.com/video/BV1qq4y1z7F2/
Dec 8, 2021
MAE 逐段精读
47:04
https://www.bilibili.com/video/BV1sq4y1q77t/
Nov 29, 2021
ViT 逐段精读
1:11:30
https://www.bilibili.com/video/BV15P4y137jb/
Nov 18, 2021
BERT 逐段精读
45:49
https://www.bilibili.com/video/BV1PL411M7eQ/
Nov 9, 2021
GAN 逐段精读
46:16
https://www.bilibili.com/video/BV1rb4y187vD/
Nov 3, 2021
零基础多图详解 图神经网络（GNN/GCN）
1:06:19
https://www.bilibili.com/video/BV1iT4y1d7zP/
Oct 27, 2021
Transformer 逐段精读（视频中提到的文献 1)
1:27:05
https://www.bilibili.com/video/BV1pu411o7BE/
Oct 22, 2021
ResNet 论文逐段精读
53:46
https://www.bilibili.com/video/BV1P3411y7nn/
Oct 21, 2021
撑起计算机视觉半边天的 ResNet
11:50
https://www.bilibili.com/video/BV1Fb4y1h73E/
Oct 15, 2021
AlexNet 论文逐段精读
55:21
https://www.bilibili.com/video/BV1hq4y157t1/
Oct 14, 2021
9年后重读深度学习奠基作之一：AlexNet
19:59
https://www.bilibili.com/video/BV1ih411J7Kz/
Oct 6, 2021
如何读论文
06:39
https://www.bilibili.com/video/BV1H44y1t75x/
所有论文
包括已经录制完成和之后将要介绍的论文。选取的原则是10年内深度学习里有影响力文章（必读文章），或者近期比较有意思的文章。当然这十年里重要的工作太多了，不可能一一过一遍。在选取的时候我会偏向一些之前 直播课 中没讲到过的。 欢迎大家在 讨论区 里提供建（点）议（歌）。
总论文数 67，录制完成数 32
（这里引用采用的是 semanticscholar，是因为它提供 API 可以自动获取，不用手动更新。）
计算机视觉 - CNN
年份
名字
简介
Files
2012
AlexNet
深度学习热潮的奠基作
https://camo.githubusercontent.com/0e0d91b710f0690ad4394fc69ca058a175a79f4c538f5d035ca6c57bbea7ffbc/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246616264316333343234393534333231373162656237636138666439353531656631336362643066662533466669656c64732533446369746174696f6e436f756e74
2014
VGG
使用 3x3 卷积构造更深的网络
https://camo.githubusercontent.com/0db23464624a2d6a960c1095969792fe2e6561b081131c5776ef332509af6a08/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246656234326366383830323764653531353735306632333062323362316130353764633738323130382533466669656c64732533446369746174696f6e436f756e74
2014
GoogleNet
使用并行架构构造更深的网络
https://camo.githubusercontent.com/47b1c641ad5c6308036023012a9192d95d49619d2ef99ff294b4ce4e1452e502/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246653135636635306161383966656538353335373033623966393531326663613562666334333332372533466669656c64732533446369746174696f6e436f756e74
2015
ResNet
构建深层网络都要有的残差连接。
https://camo.githubusercontent.com/f2a68f04ac772be775d99b979d647dbde89a4e9c3ffd32e4aad049cb0030db69/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246326330336466386234386266336661333930353433343562616661626665666631356266643131642533466669656c64732533446369746174696f6e436f756e74
2017
MobileNet
适合终端设备的小CNN
https://camo.githubusercontent.com/f7024f361fdc6b2808fc4826ad920df61240da4ae77491c318eaec72eef3bca1/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246333634376436643066313531646330353632363434396565303963633762636535356265343937652533466669656c64732533446369746174696f6e436f756e74
2019
EfficientNet
通过架构搜索得到的CNN
https://camo.githubusercontent.com/d308c56e468cfbd02c27315968a323465425f55157f92e2d1da16d62e3d1cc09/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246346632656461383037376463376136396262326234653061316130383663663035346164623366392533466669656c64732533446369746174696f6e436f756e74
2021
Non-deep networks
让不深的网络也能在ImageNet刷到SOTA
https://camo.githubusercontent.com/d2618a94711df2b08ec9d689baf1d6bcb33aab1ce546e0aab07ba6cbfc3c8470/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246306437663630383637373230373962633365323433623762333735613963613161353137626138622533466669656c64732533446369746174696f6e436f756e74
计算机视觉 - Transformer
年份
名字
简介
Files
2020
ViT
Transformer杀入CV界
https://camo.githubusercontent.com/270a76b19293ef0a54e173f041005e7ea6aef174ad44c0cf93c456e5c3557f37/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246376231356661316238643431336662653134656637613937663635316634376635616666333930332533466669656c64732533446369746174696f6e436f756e74
2021
Swin Transformer
多层次的Vision Transformer
https://camo.githubusercontent.com/1d8d68057bf7c05d4178c84013cb0581d77fddd9042c35fcf453385806025bd9/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633862323566616235363038633365303333643334623434383365633437653638626131303962372533466669656c64732533446369746174696f6e436f756e74
2021
MLP-Mixer
使用MLP替换self-attention
https://camo.githubusercontent.com/a4cfc5f992c40f44d593e15152f1a3d1267f342d12a7bec3c2408b4516b3622f/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246326465663631663535366639613535373661636530383931313439366237633765346639373061342533466669656c64732533446369746174696f6e436f756e74
2021
MAE
BERT的CV版
https://camo.githubusercontent.com/bb62e24984b1685f5d08df17bb7591943daf3c4a8d7e085d76f97c555905c6bb/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633139363261386366333634353935656432383338613039376539616137636431353964333131382533466669656c64732533446369746174696f6e436f756e74
生成模型
年份
名字
简介
Files
2014
GAN
生成模型的开创工作
https://camo.githubusercontent.com/908346d4716ac3be2047331e9f936a82546fc12b8ed36fe0247d509b265c574d/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246353465333235616565366232643437366262626238383631356163313565323531633665383231342533466669656c64732533446369746174696f6e436f756e74
2015
DCGAN
使用CNN的GAN
https://camo.githubusercontent.com/4861138921b2086c1ef810f538bb69db996874e4bf85769f6e7cbefa111c805e/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246383338386631626532363332396661343565353830376539363861363431636531373065613037382533466669656c64732533446369746174696f6e436f756e74
2016
pix2pix
https://camo.githubusercontent.com/d46795803ff950fffb37f7060ed4ee0e41e7f22b6e509e738d69f0d0396d04d2/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246386163626539306435623835326461646561373831303334353435316139393630386565353463372533466669656c64732533446369746174696f6e436f756e74
2016
SRGAN
图片超分辨率
https://camo.githubusercontent.com/0c7658f612b9ea76590ab1a829973ac5bf25a7bf397a5cdf1b242fdab7f5ade6/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246646630633534666536316630666662396630653336613137633230333864396131393634636261332533466669656c64732533446369746174696f6e436f756e74
2017
WGAN
训练更加容易
https://camo.githubusercontent.com/4aeef8cdb9780d2320602613570eb4ff09f37179cb10e918f5bb107ab5c64774/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246326638356237333736373639343733643262656435366638353566313135653233643732373039342533466669656c64732533446369746174696f6e436f756e74
2017
CycleGAN
https://camo.githubusercontent.com/7ded752a04fd50b31476f00eac180722114070a7bd4be678d93e8dcfea0d7cf6/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633433643935346366383133336536323534343939663364363865343532313830363765343934312533466669656c64732533446369746174696f6e436f756e74
2018
StyleGAN
https://camo.githubusercontent.com/f642614f44d699729db795775d701f1c9e54065c31881c60ac098ed871e674ea/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246636562326562656630623431653331633161323162323863323733343132333930306330303565322533466669656c64732533446369746174696f6e436f756e74
2019
StyleGAN2
https://camo.githubusercontent.com/a8d3d3df2e37b72472bdfad22e2a28a3ad4e7607ab8808acff260cac00734d55/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246663365336431663836613533346133363534643065653236333134326534346634653263363165392533466669656c64732533446369746174696f6e436f756e74
2020
DDPM
Diffusion Models
https://camo.githubusercontent.com/b94d0da113efc577723f7f92370b50172cb3f47c06963268e452ae62ef0be625/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246323839646233626537626637376530366537353534316261393332363964653364363034616337322533466669656c64732533446369746174696f6e436f756e74
2021
Improved DDPM
改进的 DDPM
https://camo.githubusercontent.com/928f86b3d90ccc90ca18885d7b5d8a42ff490e29cdfae8fdd59fe0f5fe4d9f43/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246646531386261613439363438303463663437316438356135613039303439383234326432653739662533466669656c64732533446369746174696f6e436f756e74
2021
Guided Diffusion Models
号称超越 GAN
https://camo.githubusercontent.com/840c47b111598816d6e932a6b2af3414622029a49319657be8cecbe944918e6c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246363465613866313830643036383265366331386431656236383861666462323032376330323739342533466669656c64732533446369746174696f6e436f756e74
2021
StyleGAN3
https://camo.githubusercontent.com/9c167d5ed856b2fc79e3b20293eae56e2cb815a5ff19d89babab998e87e64e1a/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633166663038623539663030633434663334646664646535356364353333373037333361326331392533466669656c64732533446369746174696f6e436f756e74
2022
DALL.E 2
CLIP + Diffusion models，文本生成图像新高度
https://camo.githubusercontent.com/3266cb9276f3df57dfd4550ed4382c06e8db87e3e519b5e1279535ee68e4a3ae/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633537323933383832623235363165316261303330313739303264663966633266323839646561322533466669656c64732533446369746174696f6e436f756e74
计算机视觉 - Object Detection
年份
名字
简介
已录制
Files
2014
R-CNN
Two-stage
https://camo.githubusercontent.com/d1b6b203282465ed8f15ee882591abe1e59dd9d81c24f61855037f166403c80a/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246326634646630386439303732666332616331383162376663656436613234353331356365303563382533466669656c64732533446369746174696f6e436f756e74
2015
Fast R-CNN
https://camo.githubusercontent.com/eb42797b52aafc3e53c8ce565dd925777bb04b5ec12d1ae506814e7652db9d26/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246376666646263333538623633333738663037333131653838336464646163633966616565616634622533466669656c64732533446369746174696f6e436f756e74
2015
Faster R-CNN
https://camo.githubusercontent.com/325da6258e816a508d2a5372c9a63439c0078cfb029a7b5270f7a77aa61c5266/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246343234353631643835383566663865626365376435643037646538646266376161653565373237302533466669656c64732533446369746174696f6e436f756e74
2016
SSD
Single stage
https://camo.githubusercontent.com/86d39887df55261f9bb2c47271db817b23cb53110eb036e0b45dbab02f052b91/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246346437613931393734333361636266623234656630653964306633336564313639396534613562302533466669656c64732533446369746174696f6e436f756e74
2016
YOLO
https://camo.githubusercontent.com/744b54671ec176e80e2c94c9e3cfeb5705cd81b9f5cd98d4b82fbd977f015639/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246663865373961633065613334313035366566323066323631363632386233653936343736346366642533466669656c64732533446369746174696f6e436f756e74
2017
Mask R-CNN
https://camo.githubusercontent.com/e5c7dd606a7370666de90d3b2a7ecc227a5b93243c6f8bb756237bf40d966ecb/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246656139396135353335333838313936643064343462653562346437646430323032396134336262322533466669656c64732533446369746174696f6e436f756e74
2017
YOLOv2
https://camo.githubusercontent.com/f517f543df6c29357729d674593fbcd897d83f21f9a473fbdb427699002a4a8c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246376433396436396232333432343434366630343030656636303362326533653232643033303964362533466669656c64732533446369746174696f6e436f756e74
2018
YOLOv3
https://camo.githubusercontent.com/d3e8918bc498f5992e0fe8d88fcd35fe70ebc5bb31d49d59b08c1581b766f326/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246653438343566623165363234393635643466303336643766643332653864636464323430383134382533466669656c64732533446369746174696f6e436f756e74
2019
CenterNet
Anchor free
https://camo.githubusercontent.com/9537f8f1c271233953ce6e5a197e151ea9e03ff4ff89fc55c8e2a63decc3f98c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246366132653266643162356262313132323464616566393862336662366430323966363861373366322533466669656c64732533446369746174696f6e436f756e74
2020
DETR
Transformer
✅
https://camo.githubusercontent.com/242c84b3e38f949593bfdcb56dac3345966814f306d6d4ff62dce7dd87d6d9e5/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246393632646332396664633366626463353933306131306162613131343035306238326665356133652533466669656c64732533446369746174696f6e436f756e74
计算机视觉 - 对比学习
年份
名字
简介
Files
2018
InstDisc
提出实例判别和memory bank做对比学习
https://camo.githubusercontent.com/2d2d59010ef94fcdeb4b7e5fee4051300a6a01a76e260358da57855d993fd27e/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246313535623737383264626437313339383261343133336466336165653761646664306236623330342533466669656c64732533446369746174696f6e436f756e74
2018
CPC
对比预测编码，图像语音文本强化学习全都能做
https://camo.githubusercontent.com/1eb2190ac9a68ff3bffb859a6c39b5bb7602eb2670daa9b519911ee9e0baaacc/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246623232376633653463306463393665356163353432366238353438356137306632313735613230352533466669656c64732533446369746174696f6e436f756e74
2019
InvaSpread
一个编码器的端到端对比学习
https://camo.githubusercontent.com/b6ed13c4ce47fa35f4efea00fdcd61d53433bb3323c7a860adf7217b1af4fd49/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246653462646536666533336236633263663964313634376163306230343166376431626132396335622533466669656c64732533446369746174696f6e436f756e74
2019
CMC
多视角下的对比学习
https://camo.githubusercontent.com/6772bed1c06db60f926f3afa608adaf1aa116872c8a5dcc5a41b8adb8c91e3aa/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246393766346430393137353730356265343637376436373566613237653535646566616334343830302533466669656c64732533446369746174696f6e436f756e74
2019
MoCov1
无监督训练效果也很好
https://camo.githubusercontent.com/3c2cb302292ef799cae60c888c318834a3395080000a991ee7c019046b19313f/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246656334363833306134623237356664303164346465383262666663616265366461303836313238662533466669656c64732533446369746174696f6e436f756e74
2020
SimCLRv1
简单的对比学习 (数据增强 + MLP head + 大batch训练久)
https://camo.githubusercontent.com/c50045bda7b5c2e98c2266d753bacd86a78c142cb8adfc82ad84490633ef47ec/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246333437333365616636363030373531363334376134306164356439626265316363396461636236622533466669656c64732533446369746174696f6e436f756e74
2020
MoCov2
MoCov1 + improvements from SimCLRv1
https://camo.githubusercontent.com/fe2623c87d48dabf68c62a4eddd7116ca1acd9dcc14ef1b75e7a335dfc9e12bd/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246613162386138646632383162626165633134386138393739323761343965613437656133313531352533466669656c64732533446369746174696f6e436f756e74
2020
SimCLRv2
大的自监督预训练模型很适合做半监督学习
https://camo.githubusercontent.com/1931577f52227a782d103612d0d92cbe1fa503daefa0443c34378942e5d2e0a4/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246336537663566343338326163366639633466656636313937646432316162663734343536616364312533466669656c64732533446369746174696f6e436f756e74
2020
BYOL
不需要负样本的对比学习
https://camo.githubusercontent.com/59ca3d024e789a41be7cabc0cea2303135df98a94d36ae3e06b608cf3e26948d/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246333866393330393265636538656565393737316536316331656461663131623132393363616531622533466669656c64732533446369746174696f6e436f756e74
2020
SWaV
聚类对比学习
https://camo.githubusercontent.com/88eb8eae50b59d2e3e23284fc641006fb82996ce3dd13e8c2eadf147166e770c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246313031363164383364323966633936386334363132633965396532623631613266633235383432652533466669656c64732533446369746174696f6e436f756e74
2020
SimSiam
化繁为简的孪生表征学习
https://camo.githubusercontent.com/88c53651cf289e9014f56e06001c8cf9d8feacd0082c8b53ba980165612cfdf1/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246306532336432663134653765353665383135333866346136336531313638396438616331656239642533466669656c64732533446369746174696f6e436f756e74
2021
MoCov3
如何更稳定的自监督训练ViT
https://camo.githubusercontent.com/c4e2f4b93a5c8e5d9b15d87db4aaaa1911297a8894f7e6eb7da682972b848b6f/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246373339636561636661666231633465616131373530393335316236343763373733323730623361652533466669656c64732533446369746174696f6e436f756e74
2021
DINO
transformer加自监督在视觉也很香
https://camo.githubusercontent.com/59b19099134f14dcf4f9d607a055c3b75ded98d18cdbff0351ea5897bfae065b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246616434613039333863343865363162373832373836396534616333626166666430616566616233352533466669656c64732533446369746174696f6e436f756e74
计算机视觉 - 视频理解
年份
名字
简介
Files
2014
DeepVideo
提出sports1M数据集，用深度学习做视频理解
https://camo.githubusercontent.com/ce35979053d425cee48c96a6cf0711c14330761bd21c8ee99061ef41dd650265/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246366434633963393233653966313435643163303161326465326166633338656332336334343235332533466669656c64732533446369746174696f6e436f756e74
2014
Two-stream
引入光流做时序建模，神经网络首次超越手工特征
https://camo.githubusercontent.com/dcd03aba8b8914d35f9b601118511872b2bb4ba464d5dddea0a84d2c3a1334ab/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246363764636363396138353662363062646334643035386438333635376130383962386164343438362533466669656c64732533446369746174696f6e436f756e74
2014
C3D
比较深的3D-CNN做视频理解
https://camo.githubusercontent.com/db66d371129405e83c9931454a0ea4100bc1ac55e76ede83eed0822149b7ccad/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246643235633635643236316561306536613435386265346335306334306666653562633530386637372533466669656c64732533446369746174696f6e436f756e74
2015
Beyond-short-snippets
尝试使用LSTM
https://camo.githubusercontent.com/e407ca39b1f664705c761975f9e48a6545d45f55518b9e5e94da9add8f378eeb/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246353431386232613438323732306530313364343837613338356332366661653066303137633661362533466669656c64732533446369746174696f6e436f756e74
2016
Convolutional fusion
做early fusion来加强时空间建模
https://camo.githubusercontent.com/d49464d3156734fe0e9df11f3381c2a589ec76f5500e1f0c99abf3b60c3c3a0b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246396439616365643132306535333034383436303931363463383336646136343534383639333438342533466669656c64732533446369746174696f6e436f756e74
2016
TSN
超级有效的视频分段建模，bag of tricks in video
https://camo.githubusercontent.com/961488dd647194ca08468666b9bdefc5a5c1b23a8093c9e3eef534617bb49753/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246656133643764653663303838306531343435356239616362323866316263313233343332313435362533466669656c64732533446369746174696f6e436f756e74
2017
I3D
提出Kinetics数据集，膨胀2D网络到3D，开启3D-CNN时代
https://camo.githubusercontent.com/104c7fb1f3ef13851053aa499625263f0df5bb9bef8568740e061296810ecbda/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246623631613366386238306262643434663234353434646339313566353266643330626264663438352533466669656c64732533446369746174696f6e436f756e74
2017
R2+1D
拆分3D卷积核，使3D网络容易优化
https://camo.githubusercontent.com/6d55f5cadc07eadc25a52f08b01d69327db663d2b25cac0d9283f683d48699d3/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246383963333035303532326130626239383230633332646337343434653030336566306433653265342533466669656c64732533446369746174696f6e436f756e74
2017
Non-local
引入自注意力做视觉问题
https://camo.githubusercontent.com/a8e1ceea572461c7d82aa28c736e8de0935cc68ce393bd657bc77f21635f83af/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246383839393039343739376538326335633138356130383933383936333230656637376636306536342533466669656c64732533446369746174696f6e436f756e74
2018
SlowFast
快慢两支提升效率
https://camo.githubusercontent.com/1ae77d62d9c1c84ed5375d19fab9b61b77c5af6bdd4a48660271490744070f29/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246386234376239633363333562326232613738626666373832323630356233303430663837643639392533466669656c64732533446369746174696f6e436f756e74
2021
TimeSformer
视频中第一个引入transformer，开启video transformer时代
https://camo.githubusercontent.com/b2a5d50106af5e94a4187eb059993c1c8dbaa8aec8fc5b940a002f10815921fe/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633134336561396533306231663264393361396330363032353338343534323366396536306531662533466669656c64732533446369746174696f6e436f756e74
多模态学习
年份
名字
简介
Files
2021
CLIP
图片和文本之间的对比学习
https://camo.githubusercontent.com/9ddc23e16a2cd84a077e4adbde8d212cc2fac03a7c9419b59492f0cceaf404d3/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246366638373066376630326138633539633365323366343037663365663030646431646366386663342533466669656c64732533446369746174696f6e436f756e74
2021
ViLT
第一个摆脱了目标检测的视觉文本模型
https://camo.githubusercontent.com/1c7de0ad9971b8765ec9e7d62a18e45083e855ffdf475d912ff252a0c91b0a1e/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246303833393732326662353336396330616261666638353135626663303832393965666337393061312533466669656c64732533446369746174696f6e436f756e74
2021
ViLD
CLIP蒸馏帮助开集目标检测
https://camo.githubusercontent.com/b1ee7c8e2d9d8a8375496cccdcd92665e3319515f392afdaad7001f8362fb305/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246636639623864613236643962393265373562613439363136656432613130333366353966636531342533466669656c64732533446369746174696f6e436f756e74
2021
GLIP
联合目标检测和文本定位
https://camo.githubusercontent.com/3ed6517cc321e7757bfe30a41a7265b0013147964d3cb2465f1151151533eb54/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246353334316234313233383363343366346136393361643633656334343839653365633736383863382533466669656c64732533446369746174696f6e436f756e74
2021
CLIP4Clip
拿CLIP直接做视频文本retrieval
https://camo.githubusercontent.com/40a798bb668eeaac249e1ac9e267f831eddb60febd1898edd16957af9108ce8a/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246323831616438336530366437333164356436383661636630376364373031353736663131383863342533466669656c64732533446369746174696f6e436f756e74
2021
ActionCLIP
用多模态对比学习有监督的做视频动作分类
https://camo.githubusercontent.com/556cb1a5e73647d2e0f3631a8bd227f3a5594688dc39171e3abfe7228dbea6d6/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246646330353234306130363332366235623136363466376538633935633333306230386364303334392533466669656c64732533446369746174696f6e436f756e74
2021
PointCLIP
3D变2D，巧妙利用CLIP做点云
https://camo.githubusercontent.com/568781b2afc85067814a2188311f05361b33246f8e44924ace9528c0e427c0d5/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246663363653962613366636563333632623730323633613765643633643934303439373534393661302533466669656c64732533446369746174696f6e436f756e74
2022
LSeg
有监督的开集分割
https://camo.githubusercontent.com/9e0d15aea198ed05e769415f07f7cc02a3c2c5dd02538eb094eeea82a1be756d/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246636339383236633232326163316538316234623337346464396530646631333066323938623165382533466669656c64732533446369746174696f6e436f756e74
2022
GroupViT
只用图像文本对也能无监督做分割
https://camo.githubusercontent.com/d0b00d549007f85ac5093e393deafb50dd77af578d80e3b1a3c1d3ca1bc118c3/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246306235663237613537363663356431333934613632383261643934666563323164363230626436622533466669656c64732533446369746174696f6e436f756e74
2022
CLIPasso
CLIP跨界生成简笔画
https://camo.githubusercontent.com/2359d039b20f823fc0408fb7a59f72c97c1b63ffc982e07d3e886eaaed2774ee/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246396465633831393737386265626165346134363863373831336637363338353334633832366635322533466669656c64732533446369746174696f6e436f756e74
2022
DepthCLIP
用文本跨界估计深度
https://camo.githubusercontent.com/b4e2fd5cda291bbb44af973b59d6b825ec7c7c147c0246f7086be5a4f0f036cb/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246396430616665353838303166653965353533373930326538353364366539653338353334306139322533466669656c64732533446369746174696f6e436f756e74
自然语言处理 - Transformer
年份
名字
简介
Files
2017
Transformer
继MLP、CNN、RNN后的第四大类架构
https://camo.githubusercontent.com/8a7edbeb5d41a2e16a8835b243b8c5c19e37bf46238a6210862497ee68eccee4/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246323034653330373338373066616533643035626362633266366138653236336439623732653737362533466669656c64732533446369746174696f6e436f756e74
2018
GPT
使用 Transformer 解码器来做预训练
https://camo.githubusercontent.com/6bb3871f750a45878db912b0ef06e70d94a401cfb1a265e90e93fc2b1e1f8a0c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246636431383830306130666530623636386131636331396632656339356235303033643061353033352533466669656c64732533446369746174696f6e436f756e74
2018
BERT
Transformer一统NLP的开始
https://camo.githubusercontent.com/0f6907b6bfd9ba46451f6dd46f38c86564e5064a9204f0f41228740660ca36d2/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246646632623065323664303539396365336537306466386139646130326535313539346530653939322533466669656c64732533446369746174696f6e436f756e74
2019
GPT-2
更大的 GPT 模型，朝着zero-shot learning迈了一大步
https://camo.githubusercontent.com/11c35b82c80d9c332fa4da84082ee9c7a753c710b80dc6002118ddb0f27c127c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246393430356363306436313639393838333731623237353565353733636332383635306431346466652533466669656c64732533446369746174696f6e436f756e74
2020
GPT-3
100倍更大的 GPT-2，few-shot learning效果显著
https://camo.githubusercontent.com/c6800b5f2eba4977aa8d9428b5fd52dec8ff20bd8ee4b9ee66d1658064e387cd/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246366238356236333537396139313666373035613865313061343962643864383439643931623166632533466669656c64732533446369746174696f6e436f756e74
系统
年份
简介
名字
Files
2014
支持千亿参数的传统机器学习模型
参数服务器
https://camo.githubusercontent.com/cf11ac2fc646c61acda2eaa62d7d7639a6f9d5ddcad7e7e23d8fe5b361a2dff6/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246306465306333323430626461373937326264306133633833363965626334623466326534663963322533466669656c64732533446369746174696f6e436f756e74
2018
流水线（Pipeline）并行
GPipe
https://camo.githubusercontent.com/1969fe630b27640399db0a6f5758326ff1410f79e15db5dd30945c03fddf9e7b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246633138363633666561313063386133303364303435666432633166333363616366396237336361332533466669656c64732533446369746174696f6e436f756e74
2019
张量（Tensor）并行
Megatron-LM
https://camo.githubusercontent.com/7f5d547bcf1888ecc6b9351a18347ad9f64eefc77afdf5f4cb2747bfe0ec6b9b/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246383332336335393165313139656230396232386232396664366337626337366264383839646637612533466669656c64732533446369746174696f6e436f756e74
2019
参数分片
Zero
https://camo.githubusercontent.com/5711629adc578e9912785b95ad114bb5a417493dda5b22642f1f922564d7a2d0/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246303063393537373131623132343638636233383432346361636364663532393162623335343033332533466669656c64732533446369746174696f6e436f756e74
2022
将Jax拓展到上千TPU核上
Pathways
https://camo.githubusercontent.com/9197295500a3ac9aad52e81e6440c4e8d6db07cf26a2bf5ae60b60a2c1d40f73/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246353132653961613837336131636437656236316365316632356361376466366163623765323335322533466669656c64732533446369746174696f6e436f756e74
图神经网络
年份
名字
简介
Files
已录制
2021
图神经网络介绍
GNN的可视化介绍
https://camo.githubusercontent.com/59d938174e11f3f0ff1cc604e34ad9e123556d2775e248b7c6b8982116492fb7/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246326330653034343038383261343262653735323236386430623634323433323433643735326137342533466669656c64732533446369746174696f6e436f756e74
✅
优化算法
年份
名字
简介
Files
已录制
2014
Adam
深度学习里最常用的优化算法之一
https://camo.githubusercontent.com/28cec6a9f84a1b6d1659b538ec7cc3ae37161079981d02ef1fd94bca7ef909ec/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246613663623336363733363739316263636363356338363339646535613866393633366266383765382533466669656c64732533446369746174696f6e436f756e74
2016
为什么超大的模型泛化性不错
https://camo.githubusercontent.com/31c8cf991ab74c0aaa59aada183bf4c984efab986ff252b86b608a4b090396d3/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246353464646230306661363931373238393434666438626563656139306133373364323135393763662533466669656c64732533446369746174696f6e436f756e74
2017
为什么Momentum有效
Distill的可视化介绍
https://camo.githubusercontent.com/8a9ad4b4444cdffff0010002c03135fbed9098263eeb8f861fe235a514c82c7e/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246336538636366396433643834336339383535633564373661623636643365373735333834646137322533466669656c64732533446369746174696f6e436f756e74
新领域应用
年份
名字
简介
Files
2016
AlphaGo
强化学习出圈
https://camo.githubusercontent.com/a73c6a1d841faebc927e5ac8e317c770ea318693d88da3b3bfa8bff5b68c46bc/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246383436616564643836396130306330396234306631663166333536373363623232626338373439302533466669656c64732533446369746174696f6e436f756e74
2020
AlphaFold
赢得比赛的的蛋白质3D结构预测
https://camo.githubusercontent.com/f727bca28eb4b4f0016f7eb00aabc5fdc0993f06a839ff8625aa2621053c14bf/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246336130383364383433663839316233353734343934633338353639396332313736366365386237612533466669656c64732533446369746174696f6e436f756e74
2021
AlphaFold 2
原子级别精度的蛋白质3D结构预测
https://camo.githubusercontent.com/d501cf573035a9c2a641a16f5eea91a657891128d11b7a4db141dd647b06db21/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246646333326139383462363531323536613865633238326265353233313065366264333364393831352533466669656c64732533446369746174696f6e436f756e74
2021
Codex
使用注释生成代码
https://camo.githubusercontent.com/c11ea7c57bdb7f14c8e1b49a4f8517fd6f844cfd8ca9a2bc6a95931021215b25/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246616362646266343966396263336631353162393364396361396130363030396634663665623236392533466669656c64732533446369746174696f6e436f756e74
2021
指导数学直觉
分析不同数学物体之前的联系来帮助发现新定理
https://camo.githubusercontent.com/1a1bf2f8ef92bd921720c8c0866ccc1995f7db8cdeb42bfdd7b39eee67cbcad7/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246663637326238666234333036303666656530626233363866313636303335333163653165393063342533466669656c64732533446369746174696f6e436f756e74
2022
AlphaCode
媲美一般程序员的编程解题水平
https://camo.githubusercontent.com/0dda88e71ff17d4875db9cf7e62f51a51089b19bac0eaea6591ffb4353483c3c/68747470733a2f2f696d672e736869656c64732e696f2f62616467652f64796e616d69632f6a736f6e3f6c6162656c3d6369746174696f6e2671756572793d6369746174696f6e436f756e742675726c3d68747470732533412532462532466170692e73656d616e7469637363686f6c61722e6f7267253246677261706825324676312532467061706572253246356362653237386236356138313630326138363431383462626361333764653931343438613566352533466669656c64732533446369746174696f6e436f756e74
Footnotes 1. 1 斯坦福100+作者的200+页综述，2 对LayerNorm的新研究，3 对Attention在Transformer里面作用的研究 ↩
 
paper-reading
mli • Updated May 23, 2024
notion image
milvus-io / bootcampConverted Core ML Model Zoo