图像检索中类似度度量公式:各种距离(1)

摘要:
在基于内容的图像检索中,相似度度量方法需要计算查询图像和候选图像之间视觉特征的相似度匹配。也就是说,视觉特征被视为矢量空间中的点,并且通过计算两点之间的接近度来测量图像特征之间的相似性。实际行驶距离为“曼哈顿距离”。类似的距离测量称为切比雪夫距离。然后X的“标准化变量”表示为:标准化变量的数学期望值为0,方差为1。这个公式可以看作加权欧几里德距离。该公式成为归一化欧几里德距离。

基于内容的图像检索(Content-Based Image Retrieval)是指通过对图像视觉特征和上下文联系的分析,提取出图像的内容特征作为图像索引来得到所需的图像。

相似度度量方法

在基于内容的图像检索中须要通过计算查询和候选图像之间在视觉特征上的相似度匹配。

因此须要定义一个合适的视觉特征相似度度量方法对图像检索的效果无疑是一个非常大的影响。

提取的视觉特征大都能够表示成向量的形式,其实,经常使用的相似度度量方法都是向量空间模型。也就是把视觉特征看作是向量空间中的点,通过计算两个点之间的接近程度来衡量图像特征间的相似度。

经常使用的度量方法:

街区距离、欧式距离、无穷范数、直方图相交、二次式距离、马氏距离、EMD距离等等。

首先介绍下经常使用的距离:

1. 欧氏距离(EuclideanDistance)

欧氏距离是最易于理解的一种距离计算方法,源自欧氏空间中两点间的距离公式。

(1)二维平面上两点a(x1,y1)与b(x2,y2)间的欧氏距离:

图像检索中类似度度量公式:各种距离(1)第1张

(2)三维空间两点a(x1,y1,z1)与b(x2,y2,z2)间的欧氏距离:

图像检索中类似度度量公式:各种距离(1)第2张

(3)两个n维向量a(x11,x12,…,x1n)与 b(x21,x22,…,x2n)间的欧氏距离:

图像检索中类似度度量公式:各种距离(1)第3张

也能够用表示成向量运算的形式:

图像检索中类似度度量公式:各种距离(1)第4张

(4)Matlab计算欧氏距离

Matlab计算距离主要使用pdist函数。若X是一个M×N的矩阵,则pdist(X)将X矩阵M行的每一行作为一个N维向量。然后计算这M个向量两两间的距离。

样例:计算向量(0,0)、(1,0)、(0,2)两两间的欧式距离:

<span style="font-size:18px;">X= [0 0 ; 1 0 ; 0 2]
D= pdist(X,'euclidean')
结果:
D=
    1.0000   2.0000    2.2361</span><span style="font-size:18px; font-family: Arial; background-color: rgb(255, 255, 255);"></span>

2. 曼哈顿距离(ManhattanDistance)

从名字就能够猜出这样的距离的计算方法了。想象你在曼哈顿要从一个十字路口开车到另外一个十字路口。驾驶距离是两点间的直线距离吗?显然不是,除非你能穿越大楼。实际驾驶距离就是这个“曼哈顿距离”。而这也是曼哈顿距离名称的来源, 曼哈顿距离也称为城市街区距离(CityBlock distance)

(1)二维平面两点a(x1,y1)与b(x2,y2)间的曼哈顿距离

图像检索中类似度度量公式:各种距离(1)第5张

(2)两个n维向量a(x11,x12,…,x1n)与b(x21,x22,…,x2n)间的曼哈顿距离

图像检索中类似度度量公式:各种距离(1)第6张

(3)Matlab计算曼哈顿距离

样例:计算向量(0,0)、(1,0)、(0,2)两两间的曼哈顿距离

X= [0 0 ; 1 0 ; 0 2]

D= pdist(X, 'cityblock')

结果:

D=

12 3

3. 切比雪夫距离 ( Chebyshev Distance )

国际象棋玩过么?国王走一步可以移动到相邻的8个方格中的随意一个。

那么国王从格子(x1,y1)走到格子(x2,y2)最少须要多少步?自己走走试试。你会发现最少步数总是max(| x2-x1 | , | y2-y1 | ) 步。有一种类似的一种距离度量方法叫切比雪夫距离。

(1)二维平面两点a(x1,y1)与b(x2,y2)间的切比雪夫距离

图像检索中类似度度量公式:各种距离(1)第7张

(2)两个n维向量a(x11,x12,…,x1n)与b(x21,x22,…,x2n)间的切比雪夫距离

图像检索中类似度度量公式:各种距离(1)第8张

这个公式的还有一种等价形式是

图像检索中类似度度量公式:各种距离(1)第9张

看不出两个公式是等价的?提示一下:试试用放缩法和夹逼法则来证明。

(3)Matlab计算切比雪夫距离

样例:计算向量(0,0)、(1,0)、(0,2)两两间的切比雪夫距离

X= [0 0 ; 1 0 ; 0 2]

D= pdist(X, 'chebychev')

结果:

D=

12 2

4. 闵可夫斯基距离(MinkowskiDistance)

闵氏距离不是一种距离,而是一组距离的定义。

(1)闵氏距离的定义

两个n维变量a(x11,x12,…,x1n)与b(x21,x22,…,x2n)间的闵可夫斯基距离定义为:

图像检索中类似度度量公式:各种距离(1)第10张

当中p是一个变參数。

当p=1时,就是曼哈顿距离

当p=2时。就是欧氏距离

当p→∞时,就是切比雪夫距离

依据变參数的不同,闵氏距离能够表示一类的距离。

(2)闵氏距离的缺点

闵氏距离,包含曼哈顿距离、欧氏距离和切比雪夫距离都存在明显的缺点。

举个样例:二维样本(身高,体重)。当中身高范围是150~190。体重范围是50~60。有三个样本:a(180,50),b(190,50)。c(180,60)。

那么a与b之间的闵氏距离(不管是曼哈顿距离、欧氏距离或切比雪夫距离)等于a与c之间的闵氏距离,可是身高的10cm真的等价于体重的10kg么?因此用闵氏距离来衡量这些样本间的相似度非常有问题。

简单说来。闵氏距离的缺点主要有两个:(1)将各个分量的量纲(scale),也就是“单位”当作同样的看待了。

(2)没有考虑各个分量的分布(期望,方差等)可能是不同的。

(3)Matlab计算闵氏距离

样例:计算向量(0,0)、(1,0)、(0,2)两两间的闵氏距离(以变參数为2的欧氏距离为例)

X= [0 0 ; 1 0 ; 0 2]

D= pdist(X,'minkowski',2)

结果:

D=

1.00002.0000 2.2361

5. 标准化欧氏距离(Standardized Euclidean distance )

(1)标准欧氏距离的定义

标准化欧氏距离是针对简单欧氏距离的缺点而作的一种改进方案。标准欧氏距离的思路:既然数据各维分量的分布不一样,好吧!那我先将各个分量都“标准化”到均值、方差相等吧。均值和方差标准化到多少呢?这里先复习点统计学知识吧,如果样本集X的均值(mean)为m,标准差(standarddeviation)为s。那么X的“标准化变量”表示为:

并且标准化变量的数学期望为0,方差为1。

因此样本集的标准化过程(standardization)用公式描写叙述就是:

图像检索中类似度度量公式:各种距离(1)第11张

标准化后的值 = ( 标准化前的值 - 分量的均值 ) /分量的标准差

经过简单的推导就能够得到两个n维向量a(x11,x12,…,x1n)与b(x21,x22,…,x2n)间的标准化欧氏距离的公式:

图像检索中类似度度量公式:各种距离(1)第12张

假设将方差的倒数看成是一个权重。这个公式能够看成是一种加权欧氏距离(WeightedEuclidean distance)

(2)Matlab计算标准化欧氏距离

样例:计算向量(0,0)、(1,0)、(0,2)两两间的标准化欧氏距离 (如果两个分量的标准差分别为0.5和1)

X= [0 0 ; 1 0 ; 0 2]

D= pdist(X, 'seuclidean',[0.5,1])

结果:

D=

2.00002.0000 2.8284

6. 马氏距离(MahalanobisDistance)

(1)马氏距离定义

有M个样本向量X1~Xm,协方差矩阵记为S,均值记为向量μ,则当中样本向量X到u的马氏距离表示为:

图像检索中类似度度量公式:各种距离(1)第13张

而当中向量Xi与Xj之间的马氏距离定义为:

图像检索中类似度度量公式:各种距离(1)第14张

若协方差矩阵是单位矩阵(各个样本向量之间独立同分布),则公式就成了:

图像检索中类似度度量公式:各种距离(1)第15张

也就是欧氏距离了。

若协方差矩阵是对角矩阵。公式变成了标准化欧氏距离。

(2)马氏距离的优缺点:量纲无关,排除变量之间的相关性的干扰。

(3)Matlab计算(1 2),( 1 3),( 2 2),( 3 1)两两之间的马氏距离

X = [1 2; 1 3; 2 2; 3 1]

Y = pdist(X,'mahalanobis')

结果:

Y=

2.34522.0000 2.3452 1.22472.4495 1.2247

7. 夹角余弦(Cosine)

有没有搞错。又不是学几何,怎么扯到夹角余弦了?各位看官稍安勿躁。几何中夹角余弦可用来衡量两个向量方向的差异,机器学习中借用这一概念来衡量样本向量之间的差异。

(1)在二维空间中向量A(x1,y1)与向量B(x2,y2)的夹角余弦公式:

图像检索中类似度度量公式:各种距离(1)第16张

(2)两个n维样本点a(x11,x12,…,x1n)和b(x21,x22,…,x2n)的夹角余弦

类似的。对于两个n维样本点a(x11,x12,…,x1n)和b(x21,x22,…,x2n)。能够使用类似于夹角余弦的概念来衡量它们间的相似程度。

图像检索中类似度度量公式:各种距离(1)第17张

即:

图像检索中类似度度量公式:各种距离(1)第18张

夹角余弦取值范围为[-1,1]。夹角余弦越大表示两个向量的夹角越小。夹角余弦越小表示两向量的夹角越大。

当两个向量的方向重合时夹角余弦取最大值1,当两个向量的方向全然相反夹角余弦取最小值-1。

夹角余弦的详细应用能够參阅參考文献[1]。

(3)Matlab计算夹角余弦

样例:计算(1,0)、( 1,1.732)、(-1,0)两两间的夹角余弦

X= [1 0 ; 1 1.732 ; -1 0]

D= 1- pdist(X, 'cosine') % Matlab中的pdist(X,'cosine')得到的是1减夹角余弦的值

结果:

D=

0.5000-1.0000 -0.5000

8. 汉明距离(Hammingdistance)

(1)汉明距离的定义

两个等长字符串s1与s2之间的汉明距离定义为将当中一个变为另外一个所须要作的最小替换次数。

比如字符串“1111”与“1001”之间的汉明距离为2。

应用:信息编码(为了增强容错性。应使得编码间的最小汉明距离尽可能大)。

(2)Matlab计算汉明距离

Matlab中2个向量之间的汉明距离的定义为2个向量不同的分量所占的百分比。

样例:计算向量(0,0)、(1,0)、(0,2)两两间的汉明距离

X = [0 0 ; 1 0 ; 0 2];

D = PDIST(X, 'hamming')

结果:

D=

0.50000.5000 1.0000

9. 杰卡德相似系数(Jaccardsimilarity coefficient)

(1) 杰卡德相似系数

两个集合A和B的交集元素在A。B的并集中所占的比例,称为两个集合的杰卡德相似系数,用符号J(A,B)表示。

图像检索中类似度度量公式:各种距离(1)第19张

杰卡德相似系数是衡量两个集合的相似度一种指标。

(2) 杰卡德距离

与杰卡德相似系数相反的概念是杰卡德距离(Jaccarddistance)。杰卡德距离可用例如以下公式表示:

图像检索中类似度度量公式:各种距离(1)第20张

杰卡德距离用两个集合中不同元素占全部元素的比例来衡量两个集合的区分度。

(3)杰卡德相似系数与杰卡德距离的应用

可将杰卡德相似系数用在衡量样本的相似度上。

样本A与样本B是两个n维向量。并且全部维度的取值都是0或1。

比如:A(0111)和B(1011)。我们将样本看成是一个集合,1表示集合包括该元素,0表示集合不包括该元素。

p:样本A与B都是1的维度的个数

q:样本A是1,样本B是0的维度的个数

r:样本A是0,样本B是1的维度的个数

s:样本A与B都是0的维度的个数

那么样本A与B的杰卡德相似系数能够表示为:

这里p+q+r可理解为A与B的并集的元素个数,而p是A与B的交集的元素个数。

而样本A与B的杰卡德距离表示为:

图像检索中类似度度量公式:各种距离(1)第21张

(4)Matlab计算杰卡德距离

Matlab的pdist函数定义的杰卡德距离跟我这里的定义有一些区别。Matlab中将其定义为不同的维度的个数占“非全零维度”的比例。

样例:计算(1,1,0)、(1,-1,0)、(-1,1,0)两两之间的杰卡德距离

X= [1 1 0; 1 -1 0; -1 1 0]

D= pdist( X , 'jaccard')

结果

D=

0.5000 0.50001.0000

10. 相关系数( Correlation coefficient )与相关距离(Correlation distance)

(1)相关系数的定义

图像检索中类似度度量公式:各种距离(1)第22张

相关系数是衡量随机变量X与Y相关程度的一种方法,相关系数的取值范围是[-1,1]。

相关系数的绝对值越大,则表明X与Y相关度越高。

当X与Y线性相关时,相关系数取值为1(正线性相关)或-1(负线性相关)。

(2)相关距离的定义

图像检索中类似度度量公式:各种距离(1)第23张

(3)Matlab计算(1, 2 ,3 ,4 )与( 3 ,8 ,7 ,6 )之间的相关系数与相关距离

X = [1 2 3 4 ; 3 8 7 6]

C = corrcoef( X' ) %将返回相关系数矩阵

D = pdist( X , 'correlation')

结果:

C=

1.00000.4781

0.47811.0000

D=

0.5219

当中0.4781就是相关系数。0.5219是相关距离。

11. 信息熵(Information Entropy)

信息熵并不属于一种相似性度量。那为什么放在这篇文章中啊?这个。。。

我也不知道。 (╯▽╰)

信息熵是衡量分布的混乱程度或分散程度的一种度量。分布越分散(或者说分布越平均)。信息熵就越大。

分布越有序(或者说分布越集中)。信息熵就越小。

计算给定的样本集X的信息熵的公式:

图像检索中类似度度量公式:各种距离(1)第24张

參数的含义:

n:样本集X的分类数

pi:X中第i类元素出现的概率

信息熵越大表明样本集S分类越分散,信息熵越小则表明样本集X分类越集中。。当S中n个分类出现的概率一样大时(都是1/n),信息熵取最大值log2(n)。

当X仅仅有一个分类时,信息熵取最小值0

免责声明:文章转载自《图像检索中类似度度量公式:各种距离(1)》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇git 本地分支与远程分支 新建/删除/合并安装VCenter 6.7的系统要求下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

Matlab子函数定义稍微转载一下

Matlab子函数定义 (2010-12-21 11:42:47)标签:matlab子函数定义嵌套函数分类:matlab学习 在matlab的函数定义中,如果函数如果函数较长或较多,往往可以将各函数分别写在多个.m文件中,但有时函数可能很短,就几行,可能希望将多个函数定义放在同一个.m文件中,这里就存在一个子函数的定义问题。 在matlab中一个.m文件中...

数学分析里面的蕴含(⇒)究竟是什么意思

前言:数学分析里面A蕴含B,记作:A⇒B(在逻辑学上记作A→B),其真值表例如以下: A B A⇒B T T T T F F F T T F F T(当中T为true。F为false) 分析:通过上面的真值表。我们能够简单得到例如以下的几个结论: 结论1 若A为F,不管B值是T或F。都可得到A⇒B为真。 结论2 要想A⇒B为真,仅仅需验证不...

matlab工具包

1、WebCam MATLAB ® Support Package的USB摄像头使您可以从任何USB视频类(UVC)摄像头兼容到MATLAB带来实时图像。这包括可能内置在笔记本电脑或其他设备中的网络摄像头,以及通过USB端口插入计算机的网络摄像头。 该支持包对R2014a及更高版本有效。...

MATLAB中导入数据:importdata函数

用load函数导入mat文件大家都会。可是今天我拿到一个数据,文件后缀名竟然是‘.data’。该怎么读呢? 我仅仅好用matlab界面Workspace区域的“import data”button手工导入该文件。恩,还好,竟然成功了。顺便提一下,这个“import data”button功能非常强大,连excel文件都能导入。 可是假设在脚本里怎样导入这...

Python三种方法计算皮尔逊相关系数(Pearson correlation coefficient)

文章目录0 皮尔逊系数1 python计算方法1.1 根据公式手写1.2 numpy的函数1.3 scipy.stats中的函数0 皮尔逊系数 在统计学中,皮尔逊相关系数( Pearson correlation coefficient),又称皮尔逊积矩相关系数(Pearson product-moment correlation coefficient,...

面向对象:MATLAB的自定义类 [MATLAB]

  这几天刚刚开始学习MATLAB的面向对象编程。以前做的事情都是用MATLAB写一些简单的脚本或者函数,这方面MATLAB成熟的函数和直截了当的矩阵运算方法和语法都很容易上手,方便人专注于算法本身。前几天写代码的时候想到,在实际用MATLAB进行数值计算时,将数据和函数用一些方法组织起来也会带来很大的便利,否则零散的数据和函数总归看着不舒服。比如,我恰好...