求导

OO第一单元——表达式求导——总结

大二下的第一个月就要结束了,OO的第一单元也结束了,因此在这里总结一下我的OO的第一单元的情况。 总体 第一单元有三次(不计寒假pre)作业,分别为:多项式求导,带有幂函数、三角函数的表达式求导 和 带嵌套的表达式求导。 我三次作业的结构都不完全一样,其中第一次和后两次完全不一样,第三次基本沿袭第二次。下面,我review一下我每次的结构。 结构 第一次...

梯度出现Nan值的追踪

1. torch.autograd.detect_anomaly()转自点击 , import torch # 正向传播时:开启自动求导的异常侦测 torch.autograd.set_detect_anomaly(True) # 反向传播时:在求导时开启侦测 with torch.autograd.detect_anomaly(): loss....

OO第一单元总结(多项式求导)

一.综述 第一单元的主题为多项式求导,给定多项式函数,输出其导函数。其中第一次作业仅限幂函数,第二次作业添加了三角函数,第三次作业添加了函数之间的嵌套,相比人人皆知的求导规则,又臭又长,每次都不尽相同的格式要求或许才是真正磨人的地方。 二.作业与BUG分析 第一次作业 1.代码思路 第一次作业总体思路是先用正则拆项,然后根据拆得字符串提取系数与指数构造每一...

最大似然估计

参考 从最大似然到 EM 算法浅解最大似然估计学习总结EM 算法及其推广学习笔记 之前已经总结了似然的概念,那么顺其自然的理解就是,求得似然最大值的参数即为想要的参数,也就是参数估计,使用的方法为最大似然估计。 先提出几个问题: 1.最大似然估计求参数的一般流程是怎样的? 2.什么样的场景适合/不适合最大似然估计?为什么 求解步骤: 基于对似然函数 L(θ...