Notice
李沐 动手学机器学习
Learning Track
5.6
学习了数据操作，数据预处理，对数据有了初步认识
5.7
复习了线性代数和微积分相关知识
5.8
学习了矩阵计算，这个分子布局和分母布局的不同有点搞心态哦
学习了自动求导相关知识，了解了计算图，和相关函数
5.9
学习了线性回归的数学问题
5.10
学习了线性回归的代码实现，还是比较困难的，借助LLM理解了代码
对与线性回归的最底层的数学原理暂时没有深入理解，但是至少知道了根据梯度更新参数的过程
(如果当前参数让损失变大，就往相反方向调整一点)
5.17
这周事情好多，我机器学习进度推进就放在了周末，结果昨天没commit，今天中午想着discard jupyter notebook的更改时手贱把所有更改搞没了，现在是十一点整，我有点绝望地看着电脑，然后重写笔记
下午把笔记补回来了，然后学习了多层感知机
5.18
学习了模型选择，欠拟合和过拟合
5.19
学习了权重衰退和丢弃法
5.20
学习了数值稳定性
5.21
完成了从全连接到卷积的学习，包括通道，填充，步长，池化层，LeNet
5.22 - 5.24
学习了现代卷积神经网络，包括AlexNet，VGG，NiN，GoogLeNet和ResNet 学习了批量归一化的知识，同时需指出残差思想的重要性，利于快速更新数据端参数
5.25
学习了硬件相关知识，知道了并行加速之类的问题
5.26 - 5.29
学习了计算机视觉的微调以及基于锚框的目标检测系列算法
5.30 - 5.31
学习了循环神经网络
6.1 - 6.3
学习了现代循环神经网络，包括 GRU LSTM DeepRNN BiRNN 学习了机器翻译的实现，使用seq2seq实现和编码器解码器架构
6.4 - 6.5
学习了注意力机制，Transformer 学习了 BERT 和 BERT fine-tune
6.6
学习回顾了优化算法，完结撒花 🎉🎉🎉
Summary
首先这边感谢我们学院的戴瑞婷导师给我推荐了机器学习的入门课，其次感谢李沐大神的录制，这个动手学机器学习的课程我总共耗时一个月多一点看完，期间手敲了大量的笔记，至于代码实现虽说是在md里敲的，但是也基本都过了一遍，但是有些过于难的还是放弃了。
总体来说，这个课程对于学习了线性代数，微积分和python基础（cs61a）的我来说确实有一点吃力，概率论没学很多问题都是请教llm老师，很多理论推导部分都是请llm帮我解释直观理解的，还有代码实现部分有很多包都没有学过怎么用，通过读文档不会什么找什么的方式坚持啃了下来，收获也算颇丰。
这个课程的学习让我了解了机器学习在干什么，解决什么问题，以及为什么机器学习处于时代风口上，让我初步认识了一些模型和理念，虽然李沐大神常说应用先于理论，很多东西都是实践探知出来的，但是我也清楚地认识到了理论基础的重要性。
后续我会继续在这方面跟着导师努力学习，说句实话，虽然有些地方暂时没有搞懂，但是我对这个研究领域还是颇有兴趣的。
If this article helped you, please share it with others!
Some information may be outdated