重建自动编码器时 b' 是什么意思?



我只是在学习自动编码器,我正在从这个网站上阅读:http://deeplearning.net/tutorial/dA.html 我不明白b'是什么意思。

所以我尝试用捆绑的重量构建自动编码器。

例如

编码 : hid = s(x*w+b(

x : ( 1000, 2000 (

W : ( 2000, 500 (

B : ( 500, 1 (

-> 隐藏 : ( 1000 , 500 (

当我解码编码的数据时,

解码 : y=s(hid*w'+b'(

w' : (500, 2000(

所以隐藏*W'将是(1000,2000( 我必须添加 b',它的形状应该是 (2000,1(,但我只有形状为 ( 500, 1( 的 b。

我在这里做错了什么?

我找到了一些代码,他们只是随机制作了具有输入数量形状的bais,即(2000,1(并对其进行了优化。

我刚刚找到了答案,为了方便起见,我发布了它。 解码AE时,您可能希望制作形状为(n_input(的偏置矢量。 所以在我的例子中,我必须创建一个新的偏向量b*:(2000,1(并使用此b*重建输入并一起优化权重和b*

相关内容

  • 没有找到相关文章

最新更新