二维的NS-方程: 这个方程一定要拆分成部分才能解出来。 这里面我感觉只要把泊松方程解法搞定，基本快出山写最简单的 "计算流体" 完全没问题 以下是做了个初始的source field,用python numpy 先快速撸了一遍算法。 并且重新实现3d版本在Houdini中，houdini有更好的可视化. velocity advection 是RK...
WGAN论文指出，原始GAN以JS、KL散度作为损失容易导致生成器梯度消失，他们提出了一种新的损失函数——Wasserstein 距离，很大程度上解决了GAN训练难的问题。 原始GAN的损失函数的缺陷 当两个分布之间重叠很小，或者说，两个分布的概率密度同时大于0的区域在整个分布的占比几乎为0时（无穷小，但还不是0），随着分布之间的靠拢，用于衡量分布...
传统的语言模型在预测序列中的下一个单词时只会考虑到前面的有限个单词，RNN与之不同，RNN网络会根据前面已经出现的所有输入来调整整个网络。下图是RNN网络的典型结构： Xt表示在t时刻的输入，ht表示t时刻的隐藏层状态，yt表示t时刻的输出。每一个隐藏层都有许多的神经元，这些神经元将上一层的输入做线性变换（矩阵乘法，也就是乘以权重），然后再使用非线性激活...
batch_size、epoch、iteration是深度学习中常见的几个超参数： （1）batch_size：每批数据量的大小。DL通常用SGD的优化算法进行训练，也就是一次（1 个iteration）一起训练batchsize个样本，计算它们的平均损失函数值，来更新参数。 （2）iteration：1个iteration即迭代一次，也就是用batchs...
定义:机器学习系统通过如何组合输入信息来对从未见过的数据做出有用的预测。 基本术语 标签：标签是我们要预测的事物，即简单线性回归中的(y)变量。 特征：特征是输入变量，即简单线性回归中的(x)变量，特征可以有多个，是一种可量化的指标。 样本：样本是指数据的特定实例(X)，样本分为有标签样本和无标签样本。 模型：模型定义了特征与标签之间的关系。 训练：是指...
在训练模型时，我们可以基于梯度使用不同的优化器（optimizer，或者称为“优化算法”）来最小化损失函数。这篇文章对常用的优化器进行了总结。 BGD BGD 的全称是 Batch Gradient Descent，中文名称是批量梯度下降。顾名思义，BGD 根据整个训练集计算梯度进行梯度下降 [ heta = heta - etaDelta_{ heta...
激活函数有什么用？ 提到激活函数，最想问的一个问题肯定是它是干什么用的？激活函数的主要作用是提供网络的非线性表达建模能力，想象一下如果没有激活函数，那么神经网络只能表达线性映射，此刻即便是有再多的隐藏层，其整个网络和单层的神经网络都是等价的。因此正式由于激活函数的存在，深度神经网络才具有了强大的非线性学习能力。接下来我们就来盘点一下当前有哪些流行的激活函...
1、HOG特征： 方向梯度直方图（Histogram of Oriented Gradient, HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。Hog特征结合SVM分类器已经被广泛应用于图像识别中，尤其在行人检测中获得了极大的成功。需要提醒的是，HOG+SVM进...
在计算机视觉中人们设计了很多算法来提取空间特征，并利用图像梯度信息来识别物体。 其中一种技术叫做 HOG，也即方向梯度直方图（Histogram of Oriented Gradient）。方向梯度直方图听着太高深了，我们先来讲一下这些术语。 直方图就是数据分布的一种图形表现，看起来有点像柱形图，其柱形有不同的高度，每个柱形代表一组处于一定值范围的数据...
Multiple Features （多特征量） 1、字符定义： 2、Multivariate Linear Regression （多元线性回归）： 3、代价函数： 4、梯度下降算法： 梯度下降技巧一——Feature Scaling （特征缩放） 1、定义：将每个特征量缩放到-1和1之间。（与之范围接近即可，如0~3，-2~0.5等） 2、作用...