jax.nn.initializers 模块#

常见的神经网络层初始化器，与 Keras 和 Sonnet 中使用的定义一致。

初始化器#

本模块提供常见的神经网络层初始化器，与 Keras 和 Sonnet 中使用的定义一致。

初始化器是一个函数，它接受三个参数：(key, shape, dtype)，并返回一个具有 shape 维度和 dtype 数据类型的数组。参数 key 是一个 PRNG 密钥（例如来自 jax.random.key()），用于生成随机数以初始化数组。

constant(value[, dtype])

构建一个初始化器，它返回填充有常量 value 的数组。

delta_orthogonal([scale, column_axis, dtype])

构建一个用于 delta 正交核的初始化器。

glorot_normal([in_axis, out_axis, ...])

构建一个 Glorot 正态初始化器（又称 Xavier 正态初始化器）。

glorot_uniform([in_axis, out_axis, ...])

构建一个 Glorot 均匀初始化器（又称 Xavier 均匀初始化器）。

he_normal([in_axis, out_axis, batch_axis, dtype])

构建一个 He 正态初始化器（又称 Kaiming 正态初始化器）。

he_uniform([in_axis, out_axis, batch_axis, ...])

构建一个 He 均匀初始化器（又称 Kaiming 均匀初始化器）。

lecun_normal([in_axis, out_axis, ...])

构建一个 Lecun 正态初始化器。

lecun_uniform([in_axis, out_axis, ...])

构建一个 Lecun 均匀初始化器。

normal([stddev, dtype])

构建一个初始化器，它返回实数正态分布的随机数组。

ones(key, shape[, dtype, out_sharding])

一个初始化器，它返回一个填充有常数一的数组。

orthogonal([scale, column_axis, dtype])

构建一个初始化器，它返回均匀分布的正交矩阵。

truncated_normal([stddev, dtype, lower, upper])

构建一个初始化器，它返回截断正态随机数组。

uniform([scale, dtype])

构建一个初始化器，它返回实数均匀分布的随机数组。

variance_scaling(scale, mode, distribution)

根据权重张量形状调整其缩放比例的初始化器。

zeros(key, shape[, dtype, out_sharding])

一个初始化器，它返回一个填充有常数零的数组。