浮点数计算误差分析

April 17, 2022

版本说明 # 内容: 浮点数计算误差分析 时间: 2022/02/28 版本: V 0.1 浮点数计算误差分析 # 通过分析汇编代码，分析浮点数运行产生的误差 测试程序 # 例子 1 # #include <stdio.h>int main() { int a = 33800; long long b = 13*sizeof(short)*(a); printf("[%lld]\n",b); } 例子 2 # #include <stdio.h>int main() { int a = 33800; long long b = 13*1000*sizeof(short)* (double)(a/1000.0); printf("[%lld]\n",b); } 例子1输出878800 例子2输出878799 为何会产生差异呢，只能从汇编代码入手，一点一点分析浮点计算的过程 例子1汇编代码 # 例子1不涉及浮点数，因此汇编代码比较简单，先通过例子1的汇编代码进行了解。 ...