自我学习
From Ufldl
(→特征学习) |
|||
| Line 32: | Line 32: | ||
假定有大小为<math>\textstyle m_l</math>的已标注训练集 <math>\textstyle \{ (x_l^{(1)}, y^{(1)}), | 假定有大小为<math>\textstyle m_l</math>的已标注训练集 <math>\textstyle \{ (x_l^{(1)}, y^{(1)}), | ||
| - | (x_l^{(2)}, y^{(2)}), \ldots (x_l^{(m_l)}, y^{(m_l)}) \}</math>（下标<math>\textstyle l</math>表示“带类标”），我们可以为输入数据找到更好的特征描述。例如，可以将<math>\textstyle x_l^{(1)}</math>输入到稀疏自编码器，得到隐藏单元激活量<math>\textstyle a_l^{(1)}</math>。接下来，可以直接使用<math>\textstyle a_l^{(1)}</math>来代替原始数据<math>\textstyle x_l^{(1)}</math> | + | (x_l^{(2)}, y^{(2)}), \ldots (x_l^{(m_l)}, y^{(m_l)}) \}</math>（下标<math>\textstyle l</math>表示“带类标”），我们可以为输入数据找到更好的特征描述。例如，可以将<math>\textstyle x_l^{(1)}</math>输入到稀疏自编码器，得到隐藏单元激活量<math>\textstyle a_l^{(1)}</math>。接下来，可以直接使用<math>\textstyle a_l^{(1)}</math>来代替原始数据<math>\textstyle x_l^{(1)}</math> （“替代表示”,Replacement Representation）。也可以合二为一，使用新的向量<math>\textstyle (x_l^{(1)}, a_l^{(1)})</math>来代替原始数据<math>\textstyle x_l^{(1)}</math> （“级联表示”,Concatenation Representation）。 |
