jax.nn.initializers.truncated_normal#

jax.nn.initializers.truncated_normal(stddev=0.01, dtype=<class 'jax.numpy.float64'>, lower=-2.0, upper=2.0)[source]#

构建一个初始化器，返回截断正态分布的随机数组。

参数:

  • stddev (RealNumeric) – 可选；未截断分布的标准差。请注意，此函数不应用方差缩放初始化器中完成的标准差校正，用户如果希望使用，则需要通过 stddev 参数自行应用此校正。

  • dtype (DTypeLikeInexact) – 可选；初始化器的默认 dtype。

  • lower (RealNumeric) – 浮点数，表示截断的下界。在输出乘以 stddev 之前应用。

  • upper (RealNumeric) – 浮点数，表示截断的上界。在输出乘以 stddev 之前应用。

返回:

一个初始化器，返回的数组的值遵循截断正态分布，均值为 0，标准差为 stddev，范围为 \(\rm{lower * stddev} < x < \rm{upper * stddev}\)。

返回类型:

初始化器

>>> import jax, jax.numpy as jnp
>>> initializer = jax.nn.initializers.truncated_normal(5.0)
>>> initializer(jax.random.key(42), (2, 3), jnp.float32)  
Array([[ 2.9047365,  5.2338114,  5.29852  ],
       [-3.836303 , -4.192359 ,  0.6022964]], dtype=float32)