Hung-yi Lee ML Lecture1: Introduction of Deep Learning

机器学习

• 机器学习在教授的讲述中被描述为让机器找到一个函数f()，这个函数可以很复杂，但是可以解决许多问题，建立函数原型的过程叫做建立模型，根据函数的好坏进行不断优化的过程叫做训练，这个过程很像人类不断试错找寻更好的解决方案的过程，就像机器在学习一样。
• 机器学习的一般步骤是
  • 建立模型：建立含有未知参数的函数
  • 定义loss函数L()
  • 优化：找到使L()最小的未知参数，一般使用梯度下降法
• 一般来说，使用类神经网络建立函数模型，通过叠加神经网络的层数，来达到更高的测试正确率，这样的方法被称为深度学习，深度学习是机器学习中使用最广泛也最重要的方法之一。
• 过拟合Overfitting指的是，训练出的模型在训练资料上表现好而在测试集上表现不好。

PyTorch

• PyTorch是专门用于机器学习的Python库，封装了数据读取、神经网络、激活函数、微分计算梯度下降等机器学习中常用的操作和对象，是广泛使用的机器学习框架。另外，PyTorch还可以使用GPU的并行计算加速Tensor的计算，使训练效率加快。

Colab

• Colab是谷歌名下类似于jupyter的网页Python应用程序，不仅可以运行Python，提供存储空间，还可以使用云端的计算资源来进行模型训练。（什么年代还在用传统IDE😆）

• !nvidia-smi查看获取的GPU计算资源

HW1 Regression