循环神经网络（RNN）中，隐状态 h_t 的更新依赖当前输入 x_t 和上一时刻隐状态 h_(t-1)，其激活函数常用(____)函数。
循环神经网络（RNN）中，隐状态 $h_t$ 的更新依赖当前输入 $x_t$ 和上一时刻隐状态 $h_{t-1}$，其激活函数常用(____)函数。
题目解答
答案
循环神经网络（RNN）中，隐状态的更新通常使用tanh作为激活函数。tanh函数（双曲正切函数）能够将输入值压缩到(-1, 1)之间，有助于缓解梯度消失问题，并且其导数在0附近较大，适合循环神经网络的训练需求。
答案： tanh
解析
本题考查循环神经网络（RNN）中隐状态更新所使用的激活函数相关知识。解题思路是了解RNN隐状态更新的原理以及常见激活函数的特点，根据这些特点来确定适合RNN隐状态更新的激活函数。
在循环神经网络中，隐状态 $h_t$ 的更新公式通常为 $h_t = \sigma(W_{hh}h_{t - 1}+W_{xh}x_t + b)$，其中 $\sigma$ 是激活函数，$W_{hh}$ 是上一时刻隐状态到当前时刻隐状态的权重矩阵，$W_{xh}$ 是当前输入到当前时刻隐状态的权重矩阵，$b$ 是偏置项。
常见的激活函数有Sigmoid函数、ReLU函数和tanh函数等。Sigmoid函数的表达式为 $\sigma(x)=\frac{1}{1 + e^{-x}}$，其输出范围是 $(0, 1)$，在输入值较大或较小时，导数趋近于0，容易导致梯度消失问题。ReLU函数的表达式为 $\sigma(x)=\max(0, x)$，虽然在一定程度上缓解了梯度消失问题，但在输入为负数时，导数为0，可能会导致神经元“死亡”。
而tanh函数（双曲正切函数）的表达式为 $\tanh(x)=\frac{e^{x}-e^{-x}}{e^{x}+e^{-x}}$，它能够将输入值压缩到 $(-1, 1)$ 之间，并且其导数在0附近较大，在RNN的训练过程中，能够更好地传递梯度，有助于缓解梯度消失问题，所以在RNN中隐状态的更新常用tanh函数作为激活函数。