我只是在学习自动编码器,我正在从这个网站上阅读:http://deeplearning.net/tutorial/dA.html 我不明白b'是什么意思。
所以我尝试用捆绑的重量构建自动编码器。
例如
编码 : hid = s(x*w+b(
x : ( 1000, 2000 (
W : ( 2000, 500 (
B : ( 500, 1 (
-> 隐藏 : ( 1000 , 500 (
当我解码编码的数据时,
解码 : y=s(hid*w'+b'(
w' : (500, 2000(
所以隐藏*W'将是(1000,2000( 我必须添加 b',它的形状应该是 (2000,1(,但我只有形状为 ( 500, 1( 的 b。
我在这里做错了什么?
我找到了一些代码,他们只是随机制作了具有输入数量形状的bais,即(2000,1(并对其进行了优化。
我刚刚找到了答案,为了方便起见,我发布了它。 解码AE时,您可能希望制作形状为(n_input(的偏置矢量。 所以在我的例子中,我必须创建一个新的偏向量b*:(2000,1(并使用此b*重建输入并一起优化权重和b*
。