jax.nn.sparse_plus

jax.nn.sparse_plus#

jax.nn.sparse_plus(x)[source]#

稀疏 plus 函数。

计算函数

\[\begin{split}\mathrm{sparse\_plus}(x) = \begin{cases} 0, & x \leq -1\\ \frac{1}{4}(x+1)^2, & -1 < x < 1 \\ x, & 1 \leq x \end{cases}\end{split}\]

这是 softplus 激活函数的孪生函数，确保输入小于 -1 时输出为零，输入大于 1 时输出为线性，同时在 -1 和 1 之间保持平滑、凸、单调性。