C++ 科学计数法和精度问题

C++ 科学计数法和精度问题
（来源于C++入门经典第三版）

// Program 2.8 Experimenting with floating point output
#include <iostream> // fixed scientific
#include <iomanip> // setprecision()using std::setprecision;
using std::fixed;
using std::scientific;
using std::cout;
using std::endl;int main() {float value1 = 0.1f;float value2 = 2.1f;value1 -= 0.09f;                        // Should be 0.01value2 -= 2.09f;                        // Should be 0.01cout << value1 - value2 << endl; cout << setprecision(14) << fixed;      // Change to fixed notationcout << value1 - value2 << endl;        // Should output zerocout << setprecision(2) << scientific;  // Set scientific notationcout << value1 - value2 << endl;        // Should output zeroreturn 0;
}

输出

7.45058e-009
0.00000000745058
7.45e-009

C++ 科学计数法和精度问题相关推荐

POI设置EXCEL单元格格式为文本、小数、百分比、货币、日期、科学计数法和中文大写...
再读本篇文章之前,请先看我的前一篇文章,前一篇文章中有重点讲到POI设置EXCEL单元格格式为文本格式,剩下的设置小数.百分比.货币.日期.科学计数法和中文大写这些将在下面一一写出以下将要介绍的每一 ...
NPOI_Excel中设置小数、百分比、货币、日期、科学计数法和金额大写
NPOI_Excel中设置小数.百分比.货币.日期.科学计数法和金额大写在操作Excel时候一些特殊值的转换是在所难免的,下面就给出转换方法大同小异,代码如下: HSSFWorkbook hssfW ...
Python float输出指数形式和小数形式切换（即科学计数法和完整数值切换）
Python float输出指数形式和小数形式切换(即科学计数法和完整数值切换) (本文数字全部瞎编,仅作举例之用,请勿相信. 另,本人Python初学者,写个文章作为笔记,也希望可以对他人有所帮助, ...
科学计数法和有效数字
我们先来看下面两个数字 0.60和0.06的有效数字分别是多少呢? 答案是 0.60的有效数字为2个 0.06的有效数字为1个有效数字的定义: 第一个非零数字以及之后的所有数字(包括零)都是有效数字 ...
R语言：切换科学计数法和更换小数点位数
options(scipen = 100) # 小数点后100位不使用科学计数法 options(digits = 3) # 保留小数点后三位
科学计数法和普通数字的相互转换
// 科学计数法转成普通数字 BigDecimal bd = new BigDecimal("3.40256010353E14");String str = bd.toPlai ...
java科学计数法转换为数字型字符串
很多童鞋遇到过将科学技术发转换为数字型字符串的问题,一般通过BigDecimal来转换,但这样变量为科学计数法的可以正常转换,但变量为正常类型就会出现问题(会出现很长的数值),为保证科学计数法和普通数 ...
Js 对小数的处理(科学计数法 , 显示精度)
对数字进行格式化输出,是非常有意义的一件事情,例如许多时候,我们希望一个数字能够输出为指定格式的字符串,拿25.9878来说,我们可能会希望它能保留两位小数来说出,即结果为25.99,或者对于0.34 ...
python 数值型字符串实现四舍五入 decimal_Python将科学计数法数值转换为指定精度浮点数...
Python将科学计数法数值转换为指定精度浮点数 In [20]:money = 1190000.0 In [21]: traded_maket_value = 13824000000 In [22] ...

C++ 科学计数法和精度问题

C++ 科学计数法和精度问题相关推荐

最新文章

热门文章