深度学习、机器学习路线
来源:知乎
机器学习
个人学习经历:跟着吴恩达的Machine Learning视频课学习,课程是全英文的,学起来还算可以,没有实现视频中的课后作业,只过了一遍基础。
建议:
- 根据自身情况选择一个入门课,最好自己用代码实现课程中的作业,复现经典的算法,不会的参考网上的代码,对之后的学习很有用。
- 阶段性总结,思维导图画起来
- 不要纠结细节的东西,先有个全局认识,细节在之后需要用到再去补
吴恩达系列
全英文,根据自身数学基础情况选一个
基础课
进阶课
- 后续的课程在深度学习部分
网上说吴恩达的机器学习课程在SVM、决策树这些部分讲解得不是很清楚,林轩田的课程要讲得好一点,我个人也感觉当时听得有点迷糊,仅供参考!
台大林轩田系列
台湾腔中文讲解,看过一点,推荐这个的人也挺多
入门课
进阶课
其他
深度学习
个人学习经历:这部分没有系统地看视频,很后悔,当时是跟着《智能计算系统》这本书学的,自己在网上找代码跑,没有动手复现
建议:
① 跟着视频课系统地过一遍,一样的,切记不要纠结某些细节,有些东西在之后看论文的时候能解答你的疑惑;
② 要动手复现经典的网络模型,自己跑模型然后观察模型跑出来的结果和某些参数、网络结构对结果的影响;
③ 学一些可视化的工具(模型学习过程的可视化和结果的可视化)
吴恩达系列
李宏毅系列
斯坦福大学李飞飞教授的课程
-
- 课程每年都会更新,这是我当时收藏的一个
Stanford University CS231n: Convolutional Neural Networks for Visual Recognition
- 斯坦福课程主页
自然语言处理
这个没学过,欢迎补充
TensorFlow
个人学习经历:最开始接触的深度学习框架,没有看视频,跟着一本开源中文书学的,学得很迷。网上很多代码是v1版本的,现在最新的版本是v2,v2和v1的兼容性极其辣鸡,体验非常不好,这是谷歌的锅。后面看论文后发现很多开源的代码都是基于pytorch的,遂转到pytorch。
建议:
- 现在肯定是学习v2版本
- 有志于从事算法的同学,工业界tensorflow还是用得很多的
- 官方可视化工具:TensorBoard
视频课
- 【吴恩达团队Tensorflow2.0实践系列课程第一课】基于TensorFlow2.0的人工智能、机器学习和深度学习简介及基础编程_哔哩哔哩_bilibili
- TensorFlow官方入门实操课程_哔哩哔哩_bilibili
- 【最完整版】深度学习与TensorFlow2入门实战(附源码和课件)_哔哩哔哩_bilibili
- Relph1119/deeplearning-with-tensorflow-notes: 龙曲良《TensorFlow深度学习》学习笔记及代码,采用TensorFlow2.0.0版本 (github.com)
- 我当时跟着书学的,感觉一般,视频没看过,有一定的参考价值。
Pytorch
个人学习经历:没有系统学这个,因为之前学过TensorFlow,框架之间的用法大部分是相通的,直接上手改别人的代码。
建议:
- 两个主流框架选择其中一个,然后深入
- pytorch在学术界 用得很多,看论文之后就会发现这一点
- FaceBook的可视化工具:visdom
视频课
- 深度学习与PyTorch入门实战_哔哩哔哩_bilibili
- 只看过这一个,跟上面tensorflow的一个视频课的老师是同一个—龙良曲
训练实战
阿里云天池:天池大数据众智平台-数据科学家社区
kaggle:
硬件
- Kaggle 的 kernels:https://www.kaggle.com/kernels,每周免费使用 30 个小时;
- 谷歌的 Colab:https://colab.research.google.com/,每个会话有 12 个小时的限制,每周免费时长限制未知。
论文和代码
- https://arxiv.org/:免费获取最新论文的网站
- https://paperswithcode.com/sota:深度学习SOTA(State-Of-The-Art)论文,查找论文的开源代码;
- https://github.com/topics/computer-vision?l=python:可以在这找到代码实现的算法
- https://www.home-for-researchers.com/static/index.html#/: 科研工具
- https://www.arxivdaily.com/: 每日最新论文推荐
- http://www.paperweekly.site/home: 同上
网络结构
- AlexNet: https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks
- ZFNet: https://arxiv.org/abs/1311.2901
- VGG16: https://arxiv.org/abs/1505.06798
- ResNet: https://arxiv.org/abs/1704.06904
- GoogLeNet: https://arxiv.org/abs/1409.4842
- Inception: https://arxiv.org/abs/1512.00567
- Xception: https://arxiv.org/abs/1610.02357
- MobileNet: https://arxiv.org/abs/1704.04861
语义分割
- FCN: https://arxiv.org/abs/1411.4038
- SegNet: https://arxiv.org/abs/1511.00561
- UNet: https://arxiv.org/abs/1505.04597
- PSPNet: https://arxiv.org/abs/1612.01105
- DeepLab: https://arxiv.org/abs/1606.00915
- ICNet: https://arxiv.org/abs/1704.08545
- ENet: https://arxiv.org/abs/1606.02147
生成对抗网络(GAN)
- GAN: https://arxiv.org/abs/1406.2661
- DCGAN: https://arxiv.org/abs/1511.06434
- WGAN: https://arxiv.org/abs/1701.07875
- Pix2Pix: https://arxiv.org/abs/1611.07004
- CycleGAN: https://arxiv.org/abs/1703.10593
目标检测
- RCNN: https://arxiv.org/abs/1311.2524
- Fast-RCNN: https://arxiv.org/abs/1504.08083
- Faster-RCNN: https://arxiv.org/abs/1506.01497
- SSD: https://arxiv.org/abs/1512.02325
- YOLO: https://arxiv.org/abs/1506.02640
- YOLO9000: https://arxiv.org/abs/1612.08242
实例分割
- Mask-RCNN: https://arxiv.org/abs/1703.06870
- YOLACT: https://arxiv.org/abs/1904.02689
AI相关资源
- ML/DL学习笔记(基础+论文) (github.com)
- TensorFlow 最佳学习资源大全(含课程、书籍、博客、公开课等内容) (github.com)
- 机器学习资源大全中文版,包括机器学习领域的框架、库以及软件 (github.com)
- 深度学习入门教程, 优秀文章, Deep Learning Tutorial (github.com)
- 深度学习500问,以问答形式对常用的概率知识、线性代数、机器学习、深度学习、计算机视觉等热点问题进行阐述 (github.com)
- 吴恩达老师的机器学习课程个人笔记 (github.com)