感慨Github真的是“创新”的源泉～
当你阅读文献时，有个想法，想立刻尝试一下，但一想从头搭建环境、算法实现、测试调优…退缩之意会不会立马萌生？
这里有个很棒的库，可以直接将自己处理好的数据集，用现成实现的算法来着手实验，一键运行，竟然这样的好事？
那么来看下这个Repo！
目前已经有36.8K stars, 3.8k forks!
一. 纸上谈兵
这是神经网络和相关算法的 PyTorch 实现的集合，并且这些代码实现都有解释，并且将它们呈现为并排格式的注释。 你不但能够快速上手实验，还能够更好地理解这些算法。
目前，已经完成了60 篇 deep learning papers的算法实现并且附带代码注释，包括著名的 Transformers (original, xl, switch, feedback, vit, …), 优化器 Optimizers (adam, adabelief, sophia, …), 对抗生成网络GANS(cyclegan, stylegan2, …), 🎮 强化学习Reinforcement Learning (ppo, dqn), capsnet, distillation等等。
并且附带了相应的文献
比如“Attention is all you need”
以上这些资源，只要pip install…, 你都可以按自己的意愿，随意使用！
作为交换只需要引用了一下即可，毕竟饮水思源嘛。
二. 躬身实践
我们选取其中一个模型，比如基于Denoising Diffusion Probabilistic Models文献的DDPM。
简单来说，这个算法实现就是从数据中得到图像，并逐步添加噪声。 然后训练一个模型来预测每一步的噪声，并使用该模型生成图像。
具体算法和代码实现参照https://nn.labml.ai/diffusion/ddpm/index.html。
直接进入Colab运行即可！
2.1 首先pip安装；
2.2 导入库Import Libs；
2.3 创建环境，设定模型；
2.4 创建配置，比如选择数据集 MNIST，设定epoch；
2.5 设定PyTorch下的模型；
2.6 可以开始Iteration啦！
生成的samples如下！
三. 一家之言
以上，只是简单测试了一下其中的一个模型，其他模型，大家也可以尝试，也可以将自己预处理后的数据集进行实验。
虽然都是现成的算法实现，实验操作起来当然是痛快的起飞，但若是要建立在理解的基础上，该花的时间还是少不了。
此外，这个Repo还提供了两个有意思的链接，一个是当前前沿的研究文献，基本都是深度学习领域的相关文章。
另外一个是可以通过手机端查看深度学习模型的运行状态，也是个挺有意思的工具，有空也不妨一试。
参考文献
[1]https://github.com/labmlai/annotated_deep_learning_paper_implementations
[2]https://nn.labml.ai/
[3]https://papers.labml.ai/paper/2006.11239
Let’s SciChat 你的专属AI学术和工程助手
来扫我吧~
原创文章，作者：门童靖博士，如若转载，请注明出处：https://www.agent-universe.cn/2023/10/10826.html
