特征分解 奇异值分解

摘要:
接下来,让我们谈谈我们在知识库上看到的关于特征值分解含义的一些观点:如果矩阵被视为运动,则特征值表示速度,而特征向量表示运动方向。特征值分解针对的是方阵。应用PCA降维和数据压缩。奇异值分解是特征值分解的更一般的情况。奇异值分解的应用包括推荐系统和数据压缩。通过奇异值分解,我们可以得到一些与特征分解相同类型的信息。然而,奇异值分解具有更广泛的应用。

特征分解:将矩阵分 解成一组特征向量和特征值。

方阵 A 的 特征向量(eigenvector)是指与 A 相乘后相当于对该向量进行缩放 的非零向量 v

特征分解 奇异值分解第1张

标量 λ 被称为这个特征向量对应的 特征值(eigenvalue)。(类似地,我们也可以

定义 左特征向量(left eigenvector)v⊤A = λv⊤,但是通常我们更关注 右特征向量 (right eigenvector))

如果V是A的特征向量,那么任何放缩后的 sv (s为任意非零实数)也是A的特征向量,所以A的特征向量我们只考虑单位特征向量。假设矩阵A有n个线性无关的特征向量特征分解 奇异值分解第2张,对应着特征值特征分解 奇异值分解第3张

类似地,我们也可以将特征值连接成一个向量 λ = [λ1, . . . , λn]⊤。 因此 A 的 特征分解(eigendecomposition)可以记作

特征分解 奇异值分解第4张

       所有特征值都是正数的矩阵被称为 正定(positive definite);所有特征值都是非 负数的矩阵被称为 半正定(positive semidefinite)。同样地,所有特征值都是负数的 矩阵被称为 负定(negative definite);所有特征值都是非正数的矩阵被称为 半负定

(negative semidefinite)。半正定矩阵受到关注是因为它们保证 ∀x, x⊤Ax ≥ 0。此外, 正定矩阵还保证 x⊤Ax = 0 ⇒ x = 0。

 接下来说些在知乎上看到的一些对特征值分解含义的一些看法:如果把矩阵看作是运动的话,特征值表示速度的大小,特征向量表示运动的方向

特征值分解是针对于方阵的,应用有PCA降维,数据压缩(比如图片的压缩)。

奇异值分解,是特征值分解更一般的情况。奇异值分解的应用有推荐系统,数据压缩。

通过奇异值分解,我 们会得到一些与特征分解相同类型的信息。然而,奇异值分解有更广泛的应用。每 个实数矩阵都有一个奇异值分解,但不一定都有特征分解。

奇异值分解是类似的,只不过这回我们将矩阵 A 分解成三个矩阵的乘积:
A = UDV⊤

参考资料:

https://www.zhihu.com/question/21874816

免责声明:文章转载自《特征分解 奇异值分解》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇网络编程(socket).WinSocket_recvfrom出错,GetLastError()为10054设计模式之---适配器设计模式下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

opencv 仿射变换 投射变换, 单应性矩阵

仿射 estimateRigidTransform():计算多个二维点对或者图像之间的最优仿射变换矩阵 (2行x3列),H可以是部分自由度,比如各向一致的切变。 getAffineTransform():计算3个二维点对之间的仿射变换矩阵H(2行x3列),自由度为6. warpAffine():对输入图像进行仿射变换 estimateAffine3D...

C# ——遍历控件按顺序存到二维数组

 如上图需要把它们按这个顺序存到二维数组中 先存到一维数组,再用冒泡法排序,然后后存到二维数组 public Control[] tableLayoutPanelControls = new Control[16]; //先存到以为数组 public Control[,] tableLayoutPanelControlss = new Contro...

python科学计算_numpy_线性代数/掩码数组/内存映射数组

1. 线性代数 numpy对于多维数组的运算在默认情况下并不使用矩阵运算,进行矩阵运算可以通过matrix对象或者矩阵函数来进行; matrix对象由matrix类创建,其四则运算都默认采用矩阵运算,和matlab十>分相似: a = np.matrix([[1,2,3],[4,5,6],[7,8,9]]) matrix([[1, 2, 3],[4,...

「雕爷学编程」Arduino动手做(26)——4X4矩阵键盘模块

37款传感器与模块的提法,在网络上广泛流传,其实Arduino能够兼容的传感器模块肯定是不止37种的。鉴于本人手头积累了一些传感器和模块,依照实践出真知(一定要动手做)的理念,以学习和交流为目的,这里准备逐一动手试试做实验,不管成功与否,都会记录下来---小小的进步或是搞不定的问题,希望能够抛砖引玉。 【Arduino】108种传感器模块系列实验(资料+代...

R数据挖掘 第二篇:基于距离评估数据的相似性和相异性

聚类分析根据对象之间的相异程度,把对象分成多个簇,簇是数据对象的集合,聚类分析使得同一个簇中的对象相似,而与其他簇中的对象相异。相似性和相异性(dissimilarity)是根据数据对象的属性值评估的,通常涉及到距离度量。相似性(similarity)和相异性(dissimilarity)是负相关的,统称为临近性(proximity)。 在聚类分析中,聚类...

目标检测的图像特征提取之(一)HOG特征

1、HOG特征:        方向梯度直方图(Histogram of Oriented Gradient, HOG)特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述子。它通过计算和统计图像局部区域的梯度方向直方图来构成特征。Hog特征结合SVM分类器已经被广泛应用于图像识别中,尤其在行人检测中获得了极大的成功。需要提醒的是,HOG+SVM进...