Mixed Precision

释义 Definition

混合精度：在计算中（尤其是深度学习训练/推理），同时使用多种数值精度（常见如 FP16/BF16 与 FP32）来计算与存储，以在尽量保持精度与稳定性的前提下，提升速度、降低显存/内存占用与能耗。（也常写作 mixed-precision）

发音 Pronunciation (IPA)

/ˌmɪkst prɪˈsɪʒən/

例句 Examples

Mixed precision can make training faster.
混合精度可以让训练更快。

By using mixed precision with loss scaling, the model trained stably on large batches while reducing GPU memory usage.
通过配合损失缩放使用混合精度，模型在大批量数据上仍能稳定训练，同时降低了 GPU 显存占用。

词源 Etymology

该词由 mixed（混合的） + precision（精度） 组合而来。随着 GPU 与张量核心等硬件的发展，机器学习中逐渐形成“用低精度做大部分计算、用高精度保关键数值稳定性”的实践，于是 mixed precision 成为固定术语。

相关词 Related Words

• Accuracy
• Precision
• Fp16
• Bf16
• Fp32
• Quantization
• Loss Scaling
• Tensor Core
• Numerical Stability
• Throughput

文献与作品 Literary / Notable Works

• Mixed Precision Training（Micikevicius et al., 2017，常被引用的论文，系统讨论混合精度训练与 loss scaling）
• NVIDIA CUDA Programming Guide（相关章节涉及半精度/张量核心与混合精度计算实践）
• Dive into Deep Learning（《动手学深度学习》英文版/开源教材在训练加速部分常提到 mixed precision）