【Matlab学习笔记】控制运算精度digits和vpa函数

matlab控制运算精度用的是digits和vpa这两个函数
digits用于规定运算精度，比如：

digits(20);

这个语句就规定了运算精度是20位有效数字。但并不是规定了就可以使用，因为实际编程中，我们可能有些运算需要控制精度，而有些不需要控制。vpa就用于解决这个问题，凡是用需要控制精度的，我们都对运算表达式使用vpa函数。例如：
digits(5);
a=vpa(sqrt(2));
这样a的值就是1.4142，而不是准确的1.4142135623730950488016887242097

vpa函数对其中每一个运算都控制精度，并非只控制结果。

digits(11);

a=vpa(2/3+4/7+5/9);

b=2/3+4/7+5/9;

a的结果为1.7936507936，b的结果为1.793650793650794......也就是说，计算a的值的时候，先对2/3，4 /7，5/9这三个运算都控制了精度，又对三个数相加的运算控制了精度。而b的值是真实值，对它取11位有效数字的话，结果为1.7936507937，与a不同，就是说vpa并不是先把表达式的值用matlab本身的精度求出来，再取有效数字，而是每运算一次，都控制精度。

【Matlab学习笔记】控制运算精度digits和vpa函数相关推荐

matlab数组平方的计算自定义函数_从零开始的matlab学习笔记——（38）简单数论计算函数：取整，gcd，lcm，质数，全排列...
matlab应用--求极限,求导,求积分,解方程,概率统计,函数绘图,三维图像,拟合函数,动态图,傅里叶变换,随机数,优化问题....更多内容尽在个人专栏:matlab学习翻了翻优化工具箱,发现内容 ...
matlab max函数_从零开始的matlab学习笔记——（14）一些有用的函数（上）：最值，平均数，中位数...
matlab应用--求极限,求导,求积分,解方程....更多内容尽在个人专栏:matlab学习上一节说了说符号运算中的多项式,这一节我们来看看几个非常有用的函数最值: 最大值max(),最小值mi ...
MATLAB中控制运算精度
Matlab设置计算精度 #原理 MATLAB中控制运算精度 : format long 只能设置显示精度,并不能控制运算精度. 在MATLAB中,控制运算精度一般使用 digits 和 vpa. # ...
matlab数据显示格式,MATLAB的数据显示格式和控制运算精度
使用format来控制显示格式,但这只是影响结果的显示,不影响其计算与存储.下面以1/3为例,对数据显示进行说明: format|format short 5位定点表示 ...
用matlab计算八木天线增益,matlab控制运算精度函数digits(A)和vpa(B)的使用方法
format这个函数不是用于控制运算精度的,它只能控制结果显示类型.运算的时候还是用matlab自己的精度,具体是多少就不知道了. matlab控制运算精度用的是digits和vpa这两个函数. di ...
控制系统仿真与CAD-薛定宇-第四章matlab学习笔记
控制系统仿真与CAD-薛定宇-第四章matlab学习笔记 04-02传递函数模型 tfdata() 传递函数属性法 04-07典型系统连接计算 pretty 用法 04-08方框图简化 04-09代数 ...
matlab学习笔记3(控制系统仿真)
matlab学习笔记3(控制系统仿真) 1.典型二阶系统 H ( S ) = ω n 2 S 2 + 2 ξ ω n S + ω n 2 H\left(S\right)=\frac{\omega_n^ ...
MATLAB学习笔记（二）
MATLAB学习笔记(二) 一.矩阵运算矩阵分析向量和矩阵的范数运算矩阵的秩矩阵的化零矩阵矩阵的化简rref()函数线性方程组超定线性方程组求解矩阵分解 1.对称正定矩阵的Choles ...
MATLAB学习笔记0：学习须知
阅读前请注意: 1. 该学习笔记是华中师范大学HelloWorld程序设计协会2021年寒假MATLAB培训的学习记录,是基于培训课堂内容的总结归纳.拓展阅读.博客内容由 @K2SO4钾撰写.编辑, ...

【Matlab学习笔记】控制运算精度digits和vpa函数

【Matlab学习笔记】控制运算精度digits和vpa函数相关推荐

最新文章

热门文章