2024.02.21_学习日记

天气：雨
学习地点：学校
学习时长：6h

学习内容

1. 深度学习
   
   深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少你的网络误差。
   其他正则化方法：数据扩增（翻转放大扭曲），Early stopping
   
   动量梯度下降法：比梯度下降好，可以加快梯度下降
   RMSprop（加速梯度下降）：也能加速梯度下降
   Adam优化算法：动量梯度和RMSprop结合的算法