实验室数值处理中的几个问题时间：2022-12-29      阅读：

 什么是有效位数？
    对没有小数位并以若干个零结尾的数值，减去无效零的个数即为有效位数；对其他值，从第一个非零数字向右数得到的位数就是有效位数。
    例26000，如果有二个无效零，则为三位有效位数，写260×102，如果有三个无效零，则为二位有效位数，写26×103。0.26、0.026、0.0026有效位数均为二位，0.00260有效位数为三位。
    如何确定有效位数？
1、测量示值有效位数的确定：其有效位数的与末位所用测量设备的最小分度值相一致，最多取一位估计值。
2、结果报告有效位数的确定：结果报告的有效位数的确定首先要符合相应技术标准，其次以测量允差、不确定度等给出结果适当的有效位数。
3、尤其要注意的是：不确定度原则上只进不舍，自由度只舍不进。测量结果的有效位数的末位，应与测量结果的不确定度相匹配，即测量结果不确定度值与测量结果的末位相一致来确定测量结果的有效位数。

    在计算中如何确定有效位数？
    加减运算：如果参与运算的数不超过10个，运算时以各数中末位的数量级最大的数为准，其他的数均比他多保留一位，多余位数应舍去。
    计算结果的末位的数量级，应与参与运算的数中末位的数量级最大的那个数相同。
    例18.3+1.4546+0.876→18.3+1.45+0.88＝20.63≈20.6
    若需参与下一步运算，则取20.63。
    乘除运算：以有效数字位数最少的那个数为准，其余的数的有效数字比他多保留一位，运算结果的有效数字位数，应与参与运算的数中有效数字最少的那个数相同。
    例1.1×0.3268×0.10300
    →1.1×0.327×0.103＝0.0370≈0.037
    若需参与下一步运算，则取0.0370。
    乘方、开方运算类同。
    数值处理中如何确定进舍？
    一般原则是：4舍6进5凑偶。
1、要舍去的第一位数小于5时舍去。
    例12.1459修约到一位小数得：12.1。
    不能连续修约。
2、要舍去的第一位数大于5，或者等于5，而后面的数字又不全部为0时则进1。
    例10.502修约到个位数为11；12.259修约到一位小数为12.3。
3、要舍去的第一位数是5，而后面的数字又全部为0或没有数字时，要看需保留的数字。取舍原则是：奇进偶不进（0也算偶数）。
    例0.325修约到百分位为0.32；0.335修约到百分位为0.34。
4、负数修约：将数字的绝对值按正数修约，然后加上负号。