FP32

Definition / 释义

FP32 指“32 位浮点数”（通常对应 IEEE 754 单精度浮点格式），常用于计算机图形、科学计算与深度学习中，表示一种数值表示与计算精度标准。（也常用来与 FP16、BF16 等低精度格式对比。）

Pronunciation / 发音

/ˌɛf piː ˌθɜːrti ˈtuː/

Examples / 例句

The model was trained in FP32 for better numerical stability.
为了更好的数值稳定性，这个模型使用 FP32 进行训练。

Although FP32 offers higher precision, switching to mixed precision can significantly speed up GPU training while keeping accuracy nearly the same.
尽管 FP32 精度更高，但改用混合精度往往能显著加速 GPU 训练，同时让准确率几乎不受影响。

Etymology / 词源

FP32 是缩写：FP = floating point（浮点），32 表示 32-bit（32 位）。在工程与计算领域，它通常默认指 IEEE 754 单精度（single-precision）浮点数，用来区分于 FP64（双精度）等格式。

Related Words / 相关词

• BF16
• FP16
• FP64
• Floating-Point
• IEEE 754
• Precision
• Quantization
• Single-Precision

Literary Works / 文学与著作例证

• Computer Architecture: A Quantitative Approach（Hennessy & Patterson）——讨论浮点表示与硬件实现时常涉及单精度/双精度等概念（与 FP32 对应）。
• Numerical Recipes（Press 等）——在数值计算误差与浮点运算章节中会涉及单精度浮点的使用与局限。
• CUDA C Programming Guide（NVIDIA）——在 GPU 编程与性能优化语境下常出现 FP32/FP16 等精度术语。
• Deep Learning（Goodfellow, Bengio, Courville）——在数值计算与训练稳定性相关讨论中可见对浮点精度的提及（工程语境常用 FP32 表述）。
• Programming Massively Parallel Processors（Kirk & Hwu）——讲解 GPU 计算与数据类型时常涉及单精度浮点（与 FP32 对应）。