白化
From Ufldl
Line 1: | Line 1: | ||
== 介绍 == | == 介绍 == | ||
- | 我们已经了解了如何使用PCA降低数据维度。在一些算法中还需要一个与之相关的预处理步骤,这个预处理过程称为'''白化'''(一些文献中也叫''' | + | 我们已经了解了如何使用PCA降低数据维度。在一些算法中还需要一个与之相关的预处理步骤,这个预处理过程称为'''白化'''(一些文献中也叫'''sphering''')。举例来说,假设训练数据是图像,由于图像中相邻像素之间具有很强的相关性,所以用于训练时输入是冗余的。白化的目的就是降低输入的冗余性;更正式的说,我们希望通过白化过程使得学习算法的输入具有如下性质:(i)特征之间相关性较低;(ii)所有特征具有相同的方差。 |
Line 76: | Line 76: | ||
ZCA 白化是一种数据预处理方法,它将数据从 <math>\textstyle x</math> 映射到 <math>\textstyle x_{\rm ZCAwhite}</math> 。 事实证明这也是一种生物眼睛(视网膜)处理图像的粗糙模型。具体而言,当你的眼睛感知图像时,由于一幅图像中相邻的部分在亮度上十分相关,大多数临近的“像素”在眼中被感知为相近的值。因此,如果人眼需要分别传输每个像素值(通过视觉神经)到大脑中,会非常不划算。取而代之的是,视网膜进行一个与ZCA中相似的去相关操作 (这是由视网膜上的ON-型和OFF-型光感受器细胞将光信号转变为神经信号完成的)。由此得到对输入图像的更低冗余的表示,并将它传输到大脑。 | ZCA 白化是一种数据预处理方法,它将数据从 <math>\textstyle x</math> 映射到 <math>\textstyle x_{\rm ZCAwhite}</math> 。 事实证明这也是一种生物眼睛(视网膜)处理图像的粗糙模型。具体而言,当你的眼睛感知图像时,由于一幅图像中相邻的部分在亮度上十分相关,大多数临近的“像素”在眼中被感知为相近的值。因此,如果人眼需要分别传输每个像素值(通过视觉神经)到大脑中,会非常不划算。取而代之的是,视网膜进行一个与ZCA中相似的去相关操作 (这是由视网膜上的ON-型和OFF-型光感受器细胞将光信号转变为神经信号完成的)。由此得到对输入图像的更低冗余的表示,并将它传输到大脑。 | ||
- | |||
- | |||
Line 97: | Line 95: | ||
去相关 decorrelation | 去相关 decorrelation | ||
+ | |||
+ | |||
==中文译者== | ==中文译者== | ||
杨海川(yanghaichuan@outlook.com), 王文中(wangwenzhong@ymail.com), 谭晓阳(x.tan@nuaa.edu.cn) | 杨海川(yanghaichuan@outlook.com), 王文中(wangwenzhong@ymail.com), 谭晓阳(x.tan@nuaa.edu.cn) | ||
+ | |||
+ | |||
+ | {{预处理:主成分分析与白化}} | ||
+ | |||
+ | |||
+ | {{Languages|Whitening|English}} |