1、以β为基的系数(β进制数)
(看到上面的概念是不是很晕,随便带入一个二进制或者十进制的例子大家就懂了)
(1234.5678)10=1✖103+1✖103+2✖102+3✖101+4✖100+5✖10-1+6✖10-2+7✖10-3+8✖10-4

2、浮点数表示(计算机中的)

3、误差和有效数字
【误差来源:模型误差;观测误差;截断误差(方法误差);舍入误差】

在继续下面讨论之前先说明几个概念:

  • x——精确数;x*——近似值
  • x*的绝对误差(简称误差):E(x)=x-x*
  • 绝对误差限:
  • x*的相对误差:Er(x)=(x-x*)/x
  • 相对误差限:
    有效数字


    (可能这么说概念有点迷糊了,说个例子感受一下)

    若x*是x经“四舍五入”得到的,那么它定是有效数,例如
    e=2.7182818284…
    现在分别截取前几位:
    ①2.7
    ②2.71
    ③2.718
    ④2.7182
    ①② 和 ③④有效数字分别是二位和四位
    【若②为2.72那么则为3位有效数字,④为2.7183则为5位有效数字】

4、传播误差
①避免“-”运算时,有效位丢失 → lg
②避免“÷”运算时,除数→0

5、数值稳定性(一定条件下误差可控与否)

使用书籍:《数值计算方法》(黄云清等编著)

数值计算方法【学习笔记】——引论相关推荐

  1. 高等数值计算方法学习笔记第4章第一部分【数值积分(数值微分)】

    高等数值计算方法学习笔记第4章第一部分[数值积分(数值微分)] 一.数值积分概论 1.数值求积的基本思想(牛-莱公式找不到原函数,用矩形近似) 2.代数精度的概念 1.上述四个公式的代数精度(梯形,左 ...

  2. 高等数值计算方法学习笔记第4章第二部分【数值积分(数值微分)】

    高等数值计算方法学习笔记第4章第二部分[数值积分(数值微分)] 四.龙贝格求积公式(第三次课) 1.梯形法的递推化 (变步长求积法) 2.龙贝格算法 五.高斯求积公式 1.一般理论(1定义1例题) 2 ...

  3. 高等数值计算方法学习笔记第6章【解线性代数方程组的迭代方法(高维稀疏矩阵)】

    高等数值计算方法学习笔记第6章[解线性代数方程组的迭代方法(高维稀疏矩阵)] 一.引言 1.例题(说明迭代法的收敛性研究的重要性) 2.定义(迭代法,迭代法收敛)&解误差 二.基本迭代法 1. ...

  4. 数值计算方法绪论笔记(误差,有效数字)

    数值计算方法绪论笔记 基础:代数.几何.分析(纯粹数学) 数学特征: 概念的抽象性 逻辑的严密性 结论的确定性 应用的广泛性 数值计算方法 -> 数学计算的应用 科学计算 计算数学(基础):数值 ...

  5. 数值优化学习笔记(一)凸集、凸函数信息

  6. 数值计算方法【学习笔记】——函数基本逼近之插值逼近

    1.函数逼近 函数逼近其本质思想就是使用简单的函数近似地替代一个复杂的函数地方法.理论及其实现. 其中"近似地替代"就是我们所说的逼近. 从逼近论的观点:局部逼近和整体逼近 局部逼 ...

  7. 《机器学习实战》学习笔记(八):预测数值型数据 - 回归

    欢迎关注WX公众号:[程序员管小亮] [机器学习]<机器学习实战>读书笔记及代码 总目录 https://blog.csdn.net/TeFuirnever/article/details ...

  8. 数值计算方法(停更笔记)

    数值计算方法是通过计算机计算数学公式的一门科目,在以后的工作学习中,可能会常用这些方法.包括线性方程.非线性方程.数值积分.数值微分.微分方程的解.最小二乘法--在学习过程中就整理好这些方法的代码实现 ...

  9. python数值类型的操作_Python学习笔记,数值类型及操作

    数值类型及操作 int类型数值大小不限: 整数的进制 1,整数类型正常为10进制 2,开头加0b or 0B 为二进制 3,加0o or 0O 为8进制 4,加0x 为16进制 浮点运算中存在不确定尾 ...

  10. python计算机器人运动学分析_V-rep学习笔记:机器人逆运动学数值解法(The Jacobian Transpose Method)...

    机器人运动学逆解的问题经常出现在动画仿真和工业机器人的轨迹规划中:We want to know how the upper joints of the hierarchy would rotate ...

最新文章

  1. 反射机制(1)认识Class类
  2. 中文NER任务实验小结:BERT-MRC的再优化
  3. mysql为什么添加索引_当我添加新索引时,为什么MySQL中索引的基数保持不变?
  4. 在计算机中能不能隐藏图片,意想不到的加密方法-怎么把任意文件隐藏在图片里...
  5. 宏基E5572g 键盘排线插拔 拆机局部
  6. matlab control包,免费试用Instrument Control Toolbox
  7. 提神醒脑 MVP、MVVM 关系精讲
  8. CSS3变形、渐变、动画的基本使用
  9. 流量分析(wireshark使用)
  10. MySQL的SQL解析器是干什么的?底层原理是什么?
  11. SMTP命令 发送邮件 DOS命令
  12. MYSQL 获取当前日期及日期格式,和常用时间转换函数
  13. 集合 01集合的概念
  14. C/C++/SFML编写俄罗斯方块小程序 附代码和下载链接
  15. 马海峰,杨家海,计算机应用,一种非同频远程数据持有检测方法
  16. JVM<一>内存管理[三]垃圾回收器
  17. oracle判断字符串以什么开头_oracle 如何查找特定字母开头的某个字段?
  18. 【SolidWorks宏】VBA操作SolidWorks程序对象
  19. doxygen安装(doxygen的编译依靠cmake)
  20. ios APP 安全渗透测试(共46篇)

热门文章

  1. c语言程序设计自学网进阶,谭浩强老师C语言教程程序设计
  2. Filter过滤指定ip地址
  3. java爬虫乱码_网络爬虫的乱码处理
  4. 腾讯java笔试题_腾讯java笔试题
  5. 电信光猫DDNS的设置经历
  6. Jenkins 系列教程-史上最简单Jenkins教程,教你一天学会使用Jenkins利器
  7. js正则表达式 读取html代码中的 json 值,js读取json文件片段中的数据实例
  8. vi编辑器的常用命令
  9. 如何批量将 Txt 文本文档转换为 docx 格式的 Word 文档
  10. Mysql及SQLyog安装教程