微调多层自编码算法

From Ufldl

Jump to: navigation, search
(使用反向传播法进行微调)
(使用反向传播法进行微调)
Line 43: Line 43:
{{Quote|
{{Quote|
-
注:我们可以认为输出层softmax分类器是附加上的一层,但是其推导需要分别处理。具体地说,网络“最后一层”的特征会进入softmax分类器。所以,第二步中的导数由 <math>\delta^{(n_l)} = - (\nabla_{a^{n_l}}J) \bullet f'(z^{(n_l)})</math> 计算,其中 <math>\nabla J = \theta^T(I-P)</math>。
+
注:我们可以认为输出层softmax分类器是附加上的一层,但是其求导过程需要分别处理。具体地说,网络“最后一层”的特征会进入softmax分类器。所以,第二步中的导数由 <math>\delta^{(n_l)} = - (\nabla_{a^{n_l}}J) \bullet f'(z^{(n_l)})</math> 计算,其中 <math>\nabla J = \theta^T(I-P)</math>。
}}
}}

Revision as of 13:09, 30 March 2013

Personal tools