数据预处理
From Ufldl
for
数据预处理
Jump to:
navigation
,
search
初译:@gausschen 一审:@咖灰茶 == 概要 == 数据预处理在众多深度学习算法中都起着重要作用,实际情况中,将数据做归一化和白化处理后,很多算法能够发挥最佳效果。然而除非对这些算法有丰富的使用经验,否则预处理的精确参数并非显而易见。在本页中,我们希望能够揭开预处理方法的神秘面纱,同时为预处理数据提供技巧(和标准流程) {{quote | 提示:当我们开始处理数据时,首先要做的事是观察数据并获知其特性。本部分将介绍一些通用的技术,在实际中应该针对具体数据选择合适的预处理技术。例如一种标准的预处理方法是对每一个数据点都减去它的均值(也被称为移除直流分量,局部均值消减,消减归一化),这一方法对诸如自然图像这类数据是有效的,但对非平稳的数据则不然。 }} == 数据归一化 == 数据预处理中,标准的第一步是数据归一化。虽然这里有一系列可行的方法,但是这一步通常是根据数据的具体情况而明确选择的。特征归一化常用的方法包含如下几种: * 简单缩放 * 逐样本均值消减(也称为移除直流分量) * 特征标准化(使数据集中所有特征都具有零均值和单位方差) === 简单缩放 === 在简单缩放中,我们的目的是通过对数据的每一个维度的值进行重新调节(这些维度可能是相互独立的),使得最终的数据向量落在<math>[0, 1]</math>或<math>[-1, 1]</math>的区间内(根据数据情况而定)。这对后续的处理十分重要,因为很多''默认''参数(如PCA-白化中的epsilon)都假定数据已被缩放到合理区间。 '''例子:'''在处理自然图像时,我们获得的像素值在<math>[0, 255]</math>区间中,常用的处理是将这些像素值除以255,使它们缩放到<math>[0, 1]</math>中. === 逐样本均值消减 === 如果你的数据是''平稳''的(即数据每一个维度的统计都服从相同分布),那么你可以考虑在每个样本上减去数据的统计平均值(逐样本计算)。 '''例子:'''对于图像,这种归一化可以移除图像的平均亮度值(intensity)。很多情况下我们对图像的照度并不感兴趣,而更多地关注其内容,这时对每个数据点移除像素的均值是有意义的。'''注意:'''虽然该方法广泛地应用于图像,但在处理彩色图像时需要格外小心,具体来说,是因为不同色彩通道中的像素并不都存在平稳特性。 === 特征标准化 === 特征标准化指的是(独立地)使得数据的每一维具有零均值和单位方差。这是归一化中最常见的方法并被广泛地使用(例如,在使用支持向量机(SVM)时特征标准化常被建议为预处理的一部分)。在实际应用中,特征标准化的具体做法是:首先计算每一个维度上数据的均值(使用全体数据计算),之后在每一个维度上都减去该均值。下一步便是在数据的每一维度上除以该维度上数据的标准差。 '''例子''':处理音频数据时,常用Mel倒频系数[http://en.wikipedia.org/wiki/Mel-frequency_cepstrum MFCCs]来表征数据。然而MFCC特征的第一个分量(表示直流分量)数值太大,常常会掩盖其他分量。这种情况下,为了平衡各个分量的影响,通常对特征的每个分量独立地使用标准化处理。 == PCA/ZCA白化== 在做完简单的归一化后,白化通常会被用来作为接下来的预处理步骤,它会使我们的算法工作得更好。实际上许多深度学习算法都依赖于白化以获得好的特征。 在进行PCA/ZCA白化时,首先使特征零均值化是很有必要的,这保证了<math> \frac{1}{m} \sum_i x^{(i)} = 0 </math>。特别地,这一步需要在计算协方差矩阵前完成。(唯一例外的情况是已经进行了逐样本均值消减,并且数据在各维度上或像素上是平稳的。) 接下来在PCA/ZCA白化中我们需要选择合适的<tt>epsilon</tt>(回忆一下,这是规则化项,对数据有低通滤波作用)。 选取合适的<tt>epsilon</tt>值对特征学习起着很大作用,下面讨论在两种不同场合下如何选取<tt>epsilon</tt>: === 基于重构的模型 === 在基于重构的模型中(包括自编码器,稀疏编码,受限Boltzman机(RBM),k-均值(K-Means)),经常倾向于选取合适的<tt>epsilon</tt>以使得白化达到低通滤波的效果。(译注:通常认为数据中的高频分量是噪声,低通滤波的作用就是尽可能抑制这些噪声,同时保留有用的信息。在PCA等方法中,假设数据的信息主要分布在方差较高的方向,方差较低的方向是噪声(即高频分量),因此后文中<tt>epsilon</tt>的选择与特征值有关)。一种检验<tt>epsilon</tt>是否合适的方法是用该值对数据进行ZCA白化,然后对白化前后的数据进行可视化。如果<tt>epsilon</tt>过低,白化后的数据就会显得比原始数据噪声大;相反,如果<tt>epsilon</tt>过高,白化后的数据就显得比原始数据模糊。一种直观上得到<tt>epsilon</tt>大小的方法是以图形方式画出数据的特征值,如下图的例子所示,你可以看到一条"长尾",它对应于数据中的高频噪声部分。你需要选取合适的<tt>epsilon</tt>,使其能够在很大程度上过滤掉这条"长尾",也就是说,选取的<tt>epsilon</tt>应大于大多数较小、反映数据中噪声的特征值。 [[File:ZCA_Eigenvalues_Plot.png]] 在基于重构的模型中,损失函数有一项是用于惩罚那些与原始输入数据差异较大的重构结果(译注:以自动编码机为例,要求输入数据经过编码和解码之后还能尽可能的还原输入数据)。如果<tt>epsilon</tt>太小,白化后的数据中就会包含很多噪声,而模型要拟合这些噪声,以达到很好的重构结果。因此,对于基于重构的模型来说,对原始数据进行低通滤波就显得非常重要。 {{Quote| 提示:如果数据已被缩放到合理范围(如<math>[0, 1]</math>),可以从<math>epsilon = 0.01</math>或<math>epsilon = 0.1</math>开始调节<tt>epsilon</tt>。 }} === 基于正交化ICA的模型 === 对基于正交化ICA的模型来说,保证输入数据尽可能地白化(即协方差矩阵为单位矩阵)非常重要。这是因为:这类模型需要对学习到的特征做正交化,以解除不同维度之间的相关性(详细内容请参考[[Independent Component Analysis | ICA]]一节)。因此在这种情况下,<tt>epsilon</tt>要足够小(比如<math>epsilon = 1e-6</math>)。 {{Quote| 提示:我们也可以在PCA白化过程中同时降低数据的维度。这是一个很好的主意,因为这样可以大大提升算法的速度(减少了运算量和参数数目)。确定要保留的主成分数目有一个经验法则:即所保留的成分的总方差达到总样本方差的99%以上。(详细内容请参考[[PCA#Number_of_components_to_retain | PCA]]) }} {{Quote| 注意: 在使用分类框架时,我们应该只基于练集上的数据计算PCA/ZCA白化矩阵。需要保存以下两个参数留待测试集合使用:(a)用于零均值化数据的平均值向量;(b)白化矩阵。测试集需要采用这两组保存的参数来进行相同的预处理。}} == 大图像 == 对于大图像,采用基于PCA/ZCA的白化方法是不切实际的,因为协方差矩阵太大。在这些情况下我们退而使用1/f 白化方法(更多内容后续再讲)。 == 标准流程 == 在这一部分中,我们将介绍几种在一些数据集上有良好表现的预处理标准流程 === 自然灰度图像 === 灰度图像具有平稳特性,我们通常在第一步对每个数据样本分别做均值消减(即减去直流分量),然后采用PCA/ZCA白化处理,其中的<tt>epsilon</tt>要足够大以达到低通滤波的效果。 === 彩色图像 === 对于彩色图像,色彩通道间并不存在平稳特性。因此我们通常首先对数据进行特征缩放(使像素值位于<math>[0, 1]</math>区间),然后使用足够大的<tt>epsilon</tt>来做PCA/ZCA。注意在进行PCA变换前需要对特征进行分量均值归零化。 === 音频 (MFCC/频谱图) === 对于音频数据 (MFCC 和频谱图),每一维度的取值范围(方差)不同。例如MFCC的第一分量是直流分量,通常其幅度远大于其他分量,尤其当特征中包含时域导数(temporal derivatives)时(这是音频处理中的常用方法)更是如此。因此,对这类数据的预处理通常从简单的数据标准化开始(即使得数据的每一维度均值为零、方差为1),然后进行PCA/ZCA白化(使用合适的<tt>epsilon</tt>)。 === MNIST 手写数字 === MNIST数据集的像素值在 <math>[0, 255]</math>区间中。我们首先将其缩放到<math>[0, 1]</math>区间。实际上,进行逐样本均值消去也有助于特征学习。''注:也可选择以对MNIST进行PCA/ZCA白化,但这在实践中不常用。''
Template:Languages
(
view source
)
Template:Quote
(
view source
)
Return to
数据预处理
.
Views
Page
Discussion
View source
History
Personal tools
18.221.66.31
Talk for this IP address
Log in
ufldl resources
UFLDL Tutorial
Recommended Readings
wiki
Main page
Recent changes
Random page
Help
Search
Toolbox
What links here
Related changes
Special pages