循环模型动态图(Recurrent Neural Network, RNN)是一种特殊的神经网络模型,适用于处理序列数据,如时间序列数据、文本数据等。在循环模型动态图中,信息被存储在一个隐藏层的状态中,并且这个状态在序列的每个时间步都会被更新。以下是一个简单的RNN动态图:
[ X ] [ X ] [ X ] [ X ] [ X ]
[ -> ] [ -> ] [ -> ] [ -> ] [ -> ]
[ H(t-1) ] [ H(t-1) ] [ H(t-1) ] [ H(t-1) ] [ H(t-1) ]
| | | |
v v v v
[ H(t-1) ] + [ Wx ] [ W ] + [ W ] + [ W ] + [ Wo ]
| | | |
v v v v
[ H(t) ] = [ S ] [ H ] [ H ] [ H ] [ H ] [ H ]
解释:

[ X ]表示输入序列的第t个数据点。[ -> ]表示循环连接,信息从上一时间步传递到当前时间步。[ H(t-1) ]表示上一时间步的隐藏状态。[ Wx ]是输入权重矩阵,用于将输入序列映射到隐藏层。[ W ]是隐藏层权重矩阵,用于将隐藏层状态映射到隐藏层状态。[ Wo ]是输出权重矩阵,用于将隐藏层状态映射到输出。[ S ]是激活函数,例如tanh或ReLU。[ H ]是sigmoid函数,用于将隐藏层状态缩放到[0, 1]区间。[ H(t) ]是当前时间步的隐藏状态。
请注意,这是一个简化的RNN动态图,实际的RNN模型可能包含更多的层和参数。