1. 从浮点到定点为什么我们需要另一种数字表示法在嵌入式开发、数字信号处理DSP或者一些对计算性能与功耗极其敏感的领域里如果你还在为浮点运算的“奢侈”而头疼那么定点数Fixed-Point Representation绝对是你绕不开的必修课。我最初接触定点数是在一个音频处理项目上当时用的是一颗没有硬件浮点单元FPU的微控制器。项目要求实时处理音频流做滤波、混音一用浮点数CPU占用率直接飙升帧率根本稳不住。团队里一位老工程师丢过来一句“试试定点数吧把小数点‘固定’住来算。” 这句话成了我理解定点数的起点。简单来说浮点数就像科学计数法小数点的位置可以动态变化由指数决定能表示极大和极小的数精度也高但计算开销大。而定点数则像是我们手动约定好在这个系统中所有数字的小数点都固定在第N位之后。比如我们约定所有数字都是Q15格式1位符号位15位小数位那么一个16位的整数其最低的15位就被我们“看作”是小数部分。这样做的好处是所有的加、减、乘运算在硬件层面都可以直接用高效的整数指令来完成速度极快功耗也低。但天下没有免费的午餐。定点数的“坑”也由此而来动态范围受限、精度固定、乘除法后需要额外的移位操作来处理溢出和精度取舍。这些正是我们实现乘法时必须精打细算的地方。网络上热门的“bevformer”这类复杂的视觉模型其底层在部署到边缘设备时也常常涉及大量的定点化Quantization操作目的就是将浮点模型转换为定点模型以适配算力有限的硬件。“could not find acceptable representation”这个错误提示虽然可能来自不同的上下文如HTTP内容协商但它恰恰隐喻了定点数设计的核心挑战如何在有限的位数有限的“表示能力”内为我们的数据找到一个最“可接受”的、平衡了范围与精度的表示格式。这就是我们今天要深入探讨的围绕定点数乘法的那些事儿。2. 定点数格式的约定Q格式与你的“数字世界观”在开始乘法之前我们必须统一语言也就是明确我们使用的定点数格式。最常见的描述方法是Q格式Qm.n或Qn。Qm.n 格式明确指定整数位和小数位。m代表整数部分的位数包括符号位n代表小数部分的位数。总位数total_bits m n。例如Q1.15表示一个16位数其中1位是符号位也是整数位15位是小数位。它能表示的范围大约是 [-1, 1 - 2⁻¹⁵]精度是 2⁻¹⁵。Qn 格式在嵌入式领域更常用它通常隐含了总位数如16位或32位。n代表小数部分的位数。例如对于16位数Q15 1位符号位0位整数位15位小数位。数值范围 ≈ [-1, 1) 精度 2⁻¹⁵。这是最常用的格式之一因为很多物理量如音频样本、传感器归一化值都落在这个范围。Q14 2位符号/整数位14位小数位。数值范围 ≈ [-2, 2) 精度 2⁻¹⁴。Q31 对于32位数通常指1位符号位31位小数位。如何理解一个整数在定点格式下的真实值假设我们有一个16位有符号整数x_int 0x4000(十进制16384)。我们约定它采用Q15格式。 那么它代表的实际值real value是x_real x_int / 2^15 16384 / 32768 0.5。为什么格式约定如此重要因为定点数的运算是基于其底层整数进行的但运算结果的小数点位置会发生变化。我们必须时刻清楚每个变量、每个中间结果的“小数点”在哪里才能正确解释其物理意义并处理溢出。这就好比做木工所有的测量和切割都必须基于同一把尺子的刻度定点格式就是我们的“尺子”。3. 定点数乘法的核心整数运算与移位艺术定点数的乘法本质上是两个整数相乘但需要对结果进行校正以符合我们约定的新小数点位置。这是最核心也最容易出错的部分。3.1 乘法原理与结果格式推导设我们有两个定点数A_real A_int / 2^a格式为Q(a的整数位).a 为简化我们用小数位数a代表格式B_real B_int / 2^b格式为Q(b的整数位).b它们的真实值乘积是C_real A_real * B_real (A_int / 2^a) * (B_int / 2^b) (A_int * B_int) / 2^(ab)而我们的乘积C 如果希望用一个新的定点格式Q(c的整数位).c来表示其真实值应为C_real C_int / 2^c因此我们有C_int / 2^c (A_int * B_int) / 2^(ab)C_int (A_int * B_int) / 2^(ab - c)这个公式是定点乘法的灵魂(A_int * B_int)是直接的整数乘法结果它的位数是位宽(A) 位宽(B)例如16位乘16位得到32位结果。2^(ab-c)是缩放因子。为了得到目标格式c下的整数C_int 我们必须将中间乘积右移(ab-c)位除法相当于右移。最常见的场景同格式输入同格式输出很多时候我们处理的数据是同一格式并且希望结果也保持同一格式。例如两个Q15格式的数相乘希望结果也是Q15。 此时a b c 15。 那么C_int (A_int * B_int) / 2^(1515-15) (A_int * B_int) / 2^15。 这意味着两个Q15数相乘的32位中间结果需要算术右移15位才能得到正确的Q15格式结果。注意这里必须使用算术右移保留符号位而不是逻辑右移因为我们处理的是有符号数。3.2 实操示例手算与C语言实现让我们用一个具体例子来感受一下。假设我们在做音频处理两个归一化的音频样本范围[-1, 1)相乘。 设A_real 0.75,B_real -0.5 格式均为Q15。步骤1将真实值转换为定点整数Q15格式A_int round(0.75 * 2^15) round(0.75 * 32768) 24576B_int round(-0.5 * 2^15) round(-0.5 * 32768) -16384在16位有符号整数中A_int 0x6000B_int 0xC000。步骤2执行整数乘法temp_32b A_int * B_int 24576 * (-16384) -402,653,184这是一个32位数。在二进制补码中它就是这两个16位数直接相乘的结果。步骤3移位校正核心步骤我们需要将结果转换回Q15格式。根据公式移位位数shift a b - c 15 15 - 15 15。C_int (int16_t)(temp_32b 15);// 算术右移15位-402,653,184 15的计算-402,653,184 / 32768 -12288所以C_int -12288。步骤4将定点结果转换回真实值验证C_real C_int / 2^15 -12288 / 32768 -0.375而0.75 * (-0.5) -0.375。完全正确C代码片段示例#include stdint.h // 定义Q15格式的乘法 int16_t q15_mul(int16_t a, int16_t b) { // 1. 使用32位中间变量防止溢出 int32_t temp (int32_t)a * (int32_t)b; // 2. 加舍入因子可选见下文然后算术右移15位 temp 1 14; // 加0.5Q15格式的0.5是2^14用于四舍五入 // 3. 移位并返回16位结果 return (int16_t)(temp 15); } // 更通用的版本指定输入输出的小数位数 int32_t fixed_mul(int32_t a, int32_t b, int frac_bits_a, int frac_bits_b, int frac_bits_out) { int64_t temp (int64_t)a * (int64_t)b; // 使用更大位宽 int shift frac_bits_a frac_bits_b - frac_bits_out; // 处理舍入 if (shift 0) { // 需要右移先加舍入因子 int64_t round (int64_t)1 (shift - 1); temp temp (temp 0 ? round : -round); // 处理负数的舍入 temp temp shift; } else if (shift 0) { // 需要左移罕见意味着输出精度要求更高 temp temp (-shift); } // else shift 0, 不需要移位 return (int32_t)temp; }4. 溢出、精度与舍入乘法中的三大陷阱及应对策略定点数乘法不能简单地“乘完移位”我们必须像守护黄金一样守护结果的正确性。以下是三个最主要的陷阱。4.1 溢出Overflow中间结果的“容器”太小这是最致命的问题。两个N位数相乘中间结果最多需要2N位来精确表示。如果你用一个N位变量如int16_t来存放两个int16_t相乘的结果溢出几乎必然发生。解决方案使用足够宽的中间类型这是铁律。int16_t * int16_t必须用int32_t接收。int32_t * int32_t必须用int64_t接收。在C语言中要特别注意隐式类型提升。饱和处理Saturation移位回目标位宽后结果可能仍然超出范围。例如两个接近1的Q15数相乘结果接近1仍在Q15范围内。但两个很大的Q14数相乘结果可能超出int16_t能表示的范围。此时需要饱和处理如果结果大于最大值则钳位到最大值如果小于最小值则钳位到最小值。许多DSP指令集如ARM Cortex-M的SSAT/USAT直接提供了硬件饱和指令。// 带饱和处理的Q15乘法 int16_t q15_mul_sat(int16_t a, int16_t b) { int32_t temp (int32_t)a * (int32_t)b; temp 1 14; // 舍入 temp 15; // 饱和到Q15范围 [-32768, 32767] 对应真实值约 [-1, 0.9999] if (temp 32767) temp 32767; if (temp -32768) temp -32768; return (int16_t)temp; }4.2 精度损失Precision Loss移位就是截断右移操作会丢弃低有效位LSBs直接截断会引入偏差总是向负无穷方向取整。例如真实结果是0.999截断后可能变成0.996在迭代运算如滤波器中这种偏差会累积。解决方案舍入Rounding。 最常见的舍入是四舍五入。实现方法是在右移前给中间结果加上一个“舍入因子”。这个因子是1 (shift-1)。例如需要右移15位就在移位前加上114。这相当于加了0.5以目标精度为单位然后再截断就实现了四舍五入。银行家舍入法向偶数舍入在DSP中更常用因为它统计偏差更小但实现稍复杂。对于大多数应用四舍五入已经足够好。4.3 动态范围与格式选择在范围与精度间走钢丝这是定点数设计的根本矛盾。小数位n越多精度越高2^{-n}越小但能表示的整数范围就越小[-2^{m}, 2^{m})其中m total_bits - n - 1。乘法会放大这个问题两个数的乘积其动态范围最大值/最小值之比和精度要求都会变化。策略分析数据流对你的算法中所有变量的可能取值范围进行分析。找到最大值和最小值。预留保护位Guard Bits在中间计算阶段故意使用更宽的位宽如32位中间结果或更小的n即更大的整数范围来存储数据为后续运算留出“保护位”防止溢出。在最终输出时再转换回目标格式。缩放Scaling如果发现某个中间变量极易溢出可以在运算前主动对它进行缩小右移。例如将一个Q15数先右移2位变成Q13格式再做乘法牺牲一点精度来换取安全范围。这需要细致的权衡。5. 实战进阶复杂运算链中的乘法管理在实际的DSP算法如FIR滤波器、FFT、控制器的PID运算中我们面对的是一长串的乘加运算。这时定点数的设计就上升到了系统级。5.1 乘累加MAC运算的定点实现FIR滤波器的核心就是乘累加y[n] sum( h[i] * x[n-i] )。假设系数h[i]和输入x[n]都是Q15格式。每次乘法产生一个32位的Q30格式结果因为151530位小数。累加将多个Q30格式的数相加。累加器的位宽必须足够宽以防止溢出。如果滤波器阶数是N最坏情况下所有乘积同号且最大累加结果可能放大N倍。因此累加器通常需要32 ceil(log2(N))位。最终输出累加完成后你可能需要将结果例如Q30格式转换回Q15格式输出。这涉及到移位和可能的饱和。// 一个简化的FIR定点实现思路 int16_t fir_fixed(const int16_t *x, const int16_t *h, int order) { int32_t acc 0; // 累加器至少32位根据order可能需要更宽 for (int i 0; i order; i) { // 注意这里直接用了32位乘法结果是Q30 acc (int32_t)x[i] * (int32_t)h[i]; } // 将累加器从Q30转换回Q15并舍入 // acc是多个Q30的和其小数位数仍然是30。 // 要得到Q15需要右移 30-15 15位。 acc 1 14; // 加舍入因子 acc 15; // 饱和处理到Q15范围 if (acc 32767) acc 32767; if (acc -32768) acc -32768; return (int16_t)acc; }5.2 混合精度与格式转换一个系统里往往不止一种定点格式。传感器原始数据可能是Q12 系数是Q15 中间运算用Q31 最后输出Q10。你必须在代码中清晰地管理这些格式转换。提升精度将低精度格式转换为高精度格式通常通过左移实现。例如Q15转Q31a_q31 (int32_t)a_q15 16。降低精度将高精度格式转换为低精度格式通过右移和舍入实现并注意饱和。一个实用的建议在代码中为定点数变量使用有意义的类型别名或结构体同时存储其值和格式小数位数。虽然会增加一些开销但对于复杂算法和后期维护其价值巨大。typedef struct { int32_t value; // 整数值 int frac_bits; // 小数位数 } fixed_point_t; fixed_point_t fixed_mul_ex(fixed_point_t a, fixed_point_t b, int target_frac_bits) { fixed_point_t result; int64_t temp (int64_t)a.value * b.value; int shift a.frac_bits b.frac_bits - target_frac_bits; // ... 舍入和移位操作 result.value (int32_t)(temp shift); result.frac_bits target_frac_bits; return result; }6. 调试与验证确保你的定点乘法万无一失定点数bug非常隐蔽因为整数运算本身不会报错只是结果不对。建立可靠的验证流程至关重要。单元测试与黄金参考用浮点数实现一个功能完全相同的版本“黄金参考模型”。用大量的随机输入或边界值输入同时运行定点版本和浮点版本比较结果。允许微小的误差由定点化精度决定但必须确保没有系统性偏差或溢出。动态范围监控在关键节点添加代码来记录变量的最大值和最小值。运行一段时间后检查这些值是否在你预设的格式范围内。如果频繁接近或超出边界就需要调整格式或增加保护位。可视化差异对于信号处理应用将定点处理和浮点处理的输出信号都绘制出来直观地查看差异。在时域和频域通过FFT进行对比。使用仿真器或调试器单步跟踪定点乘法的每一步查看中间乘积的64位值、移位后的值确保它们符合你的预期。检查标志位如溢出标志。7. 从理论到芯片编译器优化与内联汇编当你对原理了然于胸后可以追求极致的性能。现代编译器如GCC、Clang、IAR对于定点乘法有很好的优化能力特别是当它识别出你的移位模式时。使用本地整数类型明确使用int16_tint32_tint64_t。帮助编译器对于常量的移位编译器会优化为高效的指令。对于Q15乘法(a*b)15 在ARM Cortex-M系列上编译器可能会生成SMULBB和ASR等指令的组合。内联汇编在性能瓶颈处或者需要用到芯片特有的DSP扩展指令如ARM的SMMUL、SMLAL时可以使用内联汇编。这些指令通常能单周期完成乘法并完成舍入、饱和等操作。但这是一把双刃剑牺牲了可移植性必须谨慎使用并附上详细注释。// 示例ARM Cortex-M3/M4 使用DSP指令进行Q15乘加近似伪代码 // 使用 __SSAT 进行饱和__SMMUL 进行带舍入的乘法 int16_t arm_q15_mul(int16_t a, int16_t b) { int32_t result; result __SMMUL(a, b); // 这条指令做 (a*b) 32然后取高32位需要查手册确认具体行为 // 实际上__SMMUL是32位乘法返回高32位常用于Q31格式。 // 对于Q15更常用的是 __SMULBB 配合移位。 // 此处仅为说明内联汇编/内在函数的用法概念。 return (int16_t)__SSAT(result, 16); // 饱和到16位 }最后我想分享一个最深刻的教训不要过早优化。在项目初期先用浮点数实现算法确保逻辑正确。然后通过分析和 profiling找到计算热点。再针对这些热点精心设计定点数格式和运算。盲目地将所有浮点替换为定点只会带来无尽的调试痛苦。定点数是一种在资源约束下追求效率的工具而驾驭它需要的是对数据流、精度和范围的深刻理解与周密设计。当你成功地将一个复杂的浮点算法稳定、高效地运行在一块没有FPU的芯片上时那种成就感是使用现成高性能处理器无法比拟的。