jax.nn.initializers 模块#

常见的神经网络层初始化器,与 Keras 和 Sonnet 中使用的定义一致。

初始化器#

此模块提供常见的神经网络层初始化器,与 Keras 和 Sonnet 中使用的定义一致。

初始化器是一个函数,它接受三个参数:(key, shape, dtype) 并返回维度为 shape 和数据类型为 dtype 的数组。参数 key 是 PRNG 键(例如来自 jax.random.key()),用于生成随机数以初始化数组。

constant(value[, dtype])

构建一个初始化器,该初始化器返回充满常数 value 的数组。

delta_orthogonal([scale, column_axis, dtype])

为 delta 正交内核构建初始化器。

glorot_normal([in_axis, out_axis, ...])

构建 Glorot normal 初始化器(又名 Xavier normal 初始化器)。

glorot_uniform([in_axis, out_axis, ...])

构建 Glorot uniform 初始化器(又名 Xavier uniform 初始化器)。

he_normal([in_axis, out_axis, batch_axis, dtype])

构建 He normal 初始化器(又名 Kaiming normal 初始化器)。

he_uniform([in_axis, out_axis, batch_axis, ...])

构建 He uniform 初始化器(又名 Kaiming uniform 初始化器)。

lecun_normal([in_axis, out_axis, ...])

构建 Lecun normal 初始化器。

lecun_uniform([in_axis, out_axis, ...])

构建 Lecun uniform 初始化器。

normal([stddev, dtype])

构建一个初始化器,该初始化器返回实数正态分布随机数组。

ones(key, shape[, dtype])

一个返回充满 1 的常数数组的初始化器。

orthogonal([scale, column_axis, dtype])

构建一个初始化器,该初始化器返回均匀分布的正交矩阵。

truncated_normal([stddev, dtype, lower, upper])

构建一个初始化器,该初始化器返回截断正态分布随机数组。

uniform([scale, dtype])

构建一个初始化器,该初始化器返回实数均匀分布随机数组。

variance_scaling(scale, mode, distribution)

初始化器,使其尺度适应权重张量的形状。

zeros(key, shape[, dtype])

一个返回充满零的常数数组的初始化器。