Pallas 变更日志#
这是 jax.experimental.pallas
特有的更改列表。有关 JAX 整体变更日志,请参阅此处。
随 jax 0.5.0 发布#
新功能
在 TPU 上为
jax.experimental.pallas.debug_print()
添加了向量支持。
随 jax 0.4.37 发布#
新功能
为 Triton 后端上的
dot
降低添加了DotAlgorithmPreset
精度参数的支持。
随 jax 0.4.36 (2024 年 12 月 6 日) 发布#
随 jax 0.4.35 (2024 年 10 月 22 日) 发布#
移除
移除了之前已弃用的别名
jax.experimental.pallas.tpu.CostEstimate
和jax.experimental.tpu.run_scoped()
。两者现在都在jax.experimental.pallas
中可用。
新功能
添加了一个成本估算工具
pl.estimate_cost()
,用于从 JAX 参考函数自动构建内核成本估算。
随 jax 0.4.34 (2024 年 10 月 4 日) 发布#
更改
jax.experimental.pallas.debug_print()
不再要求所有参数都为标量。参数的限制是后端特定的:非标量参数目前仅在 GPU 上使用 Triton 时受支持。jax.experimental.pallas.BlockSpec
不再支持之前已弃用的参数顺序,其中index_map
在block_shape
之前。
弃用
jax.experimental.pallas.gpu
子模块已被弃用,以避免与jax.experimental.pallas.mosaic_gpu
混淆。要使用 Triton 后端,请导入jax.experimental.pallas.triton
。
新功能
jax.experimental.pallas.pallas_call()
现在接受scratch_shapes
,这是一个 PyTree,用于指定内核所需的后端特定临时对象,例如缓冲区、同步原语等。checkify.check()
现在可以用于在调用 pallas_call 并使用pltpu.enable_runtime_assert(True)
上下文管理器时插入运行时断言。
随 jax 0.4.33 (2024 年 9 月 16 日) 发布#
随 jax 0.4.32 (2024 年 9 月 11 日) 发布#
更改
内核函数不允许闭包常量。相反,所有需要的数组都必须作为输入传递,并带有正确的块规范 (#22746)。
新功能
改进了索引映射函数签名错误的错误消息,以包括索引映射的名称和源位置。
随 jax 0.4.31 (2024 年 7 月 29 日) 发布#
更改
jax.experimental.pallas.BlockSpec
现在期望在index_map
之前 传递block_shape
。旧的参数顺序已被弃用,将在未来的版本中移除。jax.experimental.pallas.GridSpec
不再具有in_specs_tree
和out_specs_tree
字段,并且in_specs
和out_specs
树现在将值存储为 BlockSpec 的 pytree。以前,in_specs
和out_specs
被展平了 (#22552)。由于
jax.experimental.pallas.GridSpec
的方法compute_index
是私有的,因此已被移除。同样,get_grid_mapping
和unzip_dynamic_bounds
已从BlockSpec
中移除 (#22593)。修复了解释模式以使用涉及填充的 BlockSpec (#22275)。解释模式中的填充将使用 NaN,以帮助调试越界错误,但这在自定义内核模式下运行时不存在,不应依赖此行为。
以前可以导入许多旨在作为私有的 API,如
jax.experimental.pallas.pallas
。现在不可能了。
新功能
添加了 BlockSpec 的文档:网格和 BlockSpec。
改进了
jax.experimental.pallas.pallas_call()
API 的错误消息。为 TPU 添加了
lax.shift_right_arithmetic
(#22279) 和lax.erf_inv
(#22310) 的降低规则。为 Pallas TPU 自定义内核添加了对形状多态性的初始支持
(#22084).为 checkify 添加了 TPU 支持。 (#22480)
当块大小与 TPU 要求不匹配时,添加了更清晰的错误消息。以前,错误来自 Mosaic 后端,并且没有有用的 Python 堆栈跟踪。
添加了对具有 1D 块的 TPU 降低的支持,并放宽了对至少 2 个维度的块大小的要求:最后 2 个维度必须分别可被 8 和 128 整除,除非它们跨越整个相应的数组维度。以前,仅当最后两个维度中的块维度分别小于 8 和 128 时,才允许跨越整个数组的块维度。
随 JAX 0.4.30 (2024 年 6 月 18 日) 发布#
新功能
为解释模式下的
jax.experimental.pallas.pallas_call()
添加了 checkify 支持 (#21862)。改进了对 TPU 内核的 PRNG 密钥的支持 (#21773)。