RU2476896C2

RU2476896C2 - Calibration method of measuring systems

Info

Publication number: RU2476896C2
Application number: RU2010154788/28A
Authority: RU
Inventors: Всеволод Викторович Чекушкин; Илья Владимирович Пантелеев; Александр Дмитриевич Богатов
Original assignee: ОАО "Муромский завод РИП"
Priority date: 2010-12-30
Filing date: 2010-12-30
Publication date: 2013-02-27
Also published as: RU2010154788A

Abstract

FIELD: measurement equipment.

SUBSTANCE: mutual compensation of measurement error components is implemented in calibration method of measuring systems. In compliance with strategy of maximum identity of graphs of an experimentally taken converting characteristic received on the basis of a set of reference values, approximations are obtained, as per which a function of maximum uniform approximation is reproduced, in the form of a polynom of n power with restricted number of terms m<n+1, which interpolates and extrapolates the values of reference signals.

EFFECT: improving the measurement accuracy and rate at reduction of software and hardware cots.

5 cl, 2 dwg

Description

Изобретение относится к приборостроению.The invention relates to instrumentation.

Известен способ калибровки измерительных систем (патент RU №2262713), в котором путем попеременного ввода в измерительную систему измеряемых и фиксированных эталонных сигналов х_эm, автоматического определения в интервалах между эталонными сигналами реальной рабочей преобразовательной характеристики системы по значениям эталонных сигналов путем интерполяции и экстраполяции значений входного измеряемого сигнала многочленом степени n функции наилучшего равномерного приближения и обеспечивающий в соответствии с опорными эталонными значениями и с обобщенной теоремой Чебышева на интервале измерений по крайней мере n+1 или n+2 точки х∈[х₀; х_n+1], в которых погрешности измерений δ_M принимают поочередно с учетом неустранимых погрешностей равные максимальные значения Δδ_M+(δ_M±Δδ_M) и - (δ_M±δ_M) [1].A known method of calibration of measuring systems (patent RU No. 2262713), in which by alternating input into the measuring system of measured and fixed reference signals x _em , automatically determining in the intervals between the reference signals of the real working conversion characteristics of the system from the values of the reference signals by interpolating and extrapolating the values of the input the measured signal with a polynomial of degree n, the function of the best uniform approximation and providing, in accordance with the reference reference values readings and with the generalized Chebyshev theorem on the measurement interval of at least n + 1 or n + 2 points x∈ [x ₀ ; x _{n + 1} ], in which the measurement errors δ _M take alternately taking into account fatal errors equal maximum values Δδ _M + (δ _M ± Δδ _M ) and - (δ _M ± δ _M ) [1].

В данном способе калибровки измерительных систем по значениям эталонных сигналов измеряемой физической величины х_эm в узлах интерполяции и определения преобразовательной характеристики f(x) между эталонными значениями, соответствующими узлам интерполяции используется полином наилучшего приближения Чебышева степени n с n+1 константами а_i In this method of calibrating measuring systems according to the values of the reference signals of the measured physical quantity x _em at the interpolation nodes and determining the conversion characteristic f (x) between the reference values corresponding to the interpolation nodes, a Chebyshev polynomial of degree n with n + 1 constants a _{i is used}

и заданной максимальной погрешностью метода ее воспроизведения δ_мм=f(x)-L_n(x), когда все n+2 экстремальные значения погрешностей метода δ_MM на интервале измерения х∈[a; b] поочередно меняют знак и равны по абсолютной величине [1-3]. Ограничение числа операций при воспроизведении f(х) и устранение избыточной точности результата при максимальных значениях относительной погрешности, например, измерения напряжений в диапазоне δ_MO∈[50%; 10^-11%] и менее достигается путем ограничения числа членов в (1) с наибольшими степенями ряда исходя из оценки верхнего значения погрешности δ_MM в соответствии с выражениемand a given maximum error of the method of its reproduction δ _mm = f (x) -L _n (x), when all n + 2 extreme values of the errors of the method δ _MM on the measurement interval x∈ [a; b] alternately change sign and are equal in absolute value [1-3]. Limiting the number of operations when reproducing f (x) and eliminating excessive accuracy of the result at maximum values of the relative error, for example, measuring stresses in the range δ _MO ∈ [50%; 10 ^-11 %] and less is achieved by limiting the number of terms in (1) with the highest powers of the series based on the estimate of the upper error value δ _MM in accordance with the expression

где f^[n+1](x) - производная (n+1)-го порядка.where f ^{[n + 1]} (x) is the derivative of the (n + 1) -th order.

При этом для определения преобразовательной характеристики используются все члены ряда а_iхⁱ и константы а_i [2]. Число вычислительных операций для реализации преобразовательной характеристики А будет равно 2n, а с учетом извлечения из памяти n+1 константы 3n+1.Moreover, to determine the conversion characteristics, all members of the series a _i x ⁱ and the constants a _{i are used} [2]. The number of computational operations to implement the conversion characteristic A will be 2n, and taking into account the extraction of n + 1 constants 3n + 1 from the memory.

Недостатком данного способа является то, что не учитываются взаимосвязанные действия в процессе измерений над физическими измеряемыми величинами, связанными с физическими процессами дискретизации, квантования аналого-цифрового преобразования входных измеряемых физических величин, аппроксимацией преобразовательных характеристик, порядком и условиями выполнения этих действий в процессе измерений, условиями технической реализации измерительных и вычислительных систем, связанных с ограниченными разрядными сетками представления измеряемых физических величин, преобразовательных характеристик для заданных диапазонов и погрешностей измерений. Таким образом, при заданных форматах представления физических величин, разрядных сетках операндов не будет обеспечена минимизация погрешности результата измерений.The disadvantage of this method is that it does not take into account the interrelated actions in the process of measuring physical measured quantities associated with physical processes of discretization, quantization of the analog-to-digital conversion of input measured physical quantities, approximation of conversion characteristics, the order and conditions for performing these actions in the measurement process, conditions technical implementation of measuring and computing systems associated with limited bitmap representations from measured physical quantities, conversion characteristics for given ranges and measurement errors. Thus, with the given formats for representing physical quantities and bit grids of operands, the error of the measurement result will not be minimized.

Недостаток способа состоит и в том, что не обеспечены предельные оптимальные соотношения по точностным характеристикам, времени определения преобразовательных характеристик, количеству эталонных значений х_эm, выборок констант а_i из памяти, быстродействия, программно-аппаратурных затрат для диапазона значений погрешностей δ_MO∈[50%; 10^-11%] и менее с устранением невостребованной, избыточной точности результата, поскольку при f^[n+1](x)≠const исключено точное аналитическое определение эталонных значений физической величины или узлов интерполяции Чебышева и нельзя приближенно определять эталонные значения (узлы аппроксимации), если исключать отдельные неэффективные члены а_iхⁱ, константы a_i, слабо влияющие по сравнению с другими членами, константами полинома на график представления преобразовательной характеристики, погрешность результата измерений. То есть когда при определении преобразовательной характеристики f(x), интерполяции функциональной зависимости главным является принцип максимальной идентичности функции преобразования измерительной системы f(x), заданной аналитически, графически или таблично, и приближающего ее полинома.The disadvantage of this method is that it does not provide maximum optimal ratios for accuracy characteristics, the time for determining the conversion characteristics, the number of reference values x _em , samples of constants a _i from memory, speed, software and hardware costs for the range of error values δ _MO ∈ [50 %; 10 ^-11 %] and less with the elimination of the unclaimed, excessive accuracy of the result, since for f ^{[n + 1]} (x) исключ const, an exact analytical determination of the reference values of the physical quantity or Chebyshev interpolation points is excluded and reference values (approximation points) cannot be approximately determined if we exclude individual ineffective terms a _i x ⁱ , constants a _i , which slightly affect compared to other terms, constants of the polynomial on the graph of the representation of the conversion characteristics, the error of the measurement result. That is, when determining the conversion characteristic f (x), interpolation of the functional dependence, the principle is the principle of maximum identity of the transformation function of the measuring system f (x), defined analytically, graphically or tabular, and the approximating polynomial.

Недостатком способа является и увеличение суммарной погрешности измерений, определения преобразовательных характеристик и функциональных зависимостей по сравнению с табличным методом задания функциональной зависимости, поскольку погрешность результата измерений на выходе устройства δ_p увеличивается за счет составляющих погрешностей метода аппроксимации преобразовательной характеристики δ_M полиномом, погрешности дискретизации задания эталонов физических операндов аргумента x_эm, констант a_i, с дискретным квантованным представлением информации из-за ограниченных разрядных сеток вычислительных устройств преобразователей и отбрасыванием разрядов, выходящих за пределы представляемых форматов данных в измерительных системах.The disadvantage of this method is the increase in the total measurement error, determination of the conversion characteristics and functional dependencies compared with the tabular method of setting the functional dependence, since the error of the measurement result at the output of the device δ _p increases due to the component errors of the approximation method of the conversion characteristic δ _M polynomial, sampling error of the reference standards physical argument x _EM operands, the constants a _i, with discrete quantized representation HAND information due to the limited bit grid computing devices converters and discarding bits that go beyond the presented data formats in measuring systems.

Целью изобретения является повышение точности и скорости измерений.The aim of the invention is to improve the accuracy and speed of measurements.

Поставленная цель достигается тем, что в способе калибровки измерительных систем при заданном значении погрешности результата измерений δ_p исключаются неэффективные члены ряда а_iхⁱ приближающего полинома L_n(х), например, с нулевыми, четными или нечетными степенями и (или) константы а_i, в соответствии со стратегией максимальной идентичности функции f(x) с полиномом Ln(x), слабо влияющие на значение погрешности δ_M по сравнению с другими членами ряда а_iхⁱ, с полной или частичной группировкой оставшихся членов полинома по схеме Горнера, выполняется симметрирование, взаимопоглощение слагаемых погрешностей определения преобразовательной характеристики результата δ_р на выходе системы в виде суммы погрешностей метода δ_м, дискретного квантованного представления данных δ_ai набора констант а_i, измеряемой физической величины х, промежуточных преобразований δ_np с ограниченным числом разрядов в форматах представления данных измерительной системы.This goal is achieved by the fact that in the method of calibration of measuring systems for a given value of the error of the measurement result δ _p ineffective members of the series a _i x ^{i of the} approximating polynomial L _n (x) are excluded, for example, with zero, even or odd degrees and (or) constants a _i , in accordance with the strategy of maximum identity of the function f (x) with the polynomial Ln (x), weakly affecting the value of the error δ _M in comparison with other members of the series a _i x ⁱ , with full or partial grouping of the remaining members of the polynomial according to Horner's scheme, weeding symmetry, mutual absorption of the terms of the determination of the conversion characteristic of the result δ _p at the system output as the sum of the errors of the method δ _m , the discrete quantized representation of the data δ _{ai of the} set of constants a _i , the measured physical quantity x, the intermediate transformations δ _np with a limited number of bits in the presentation formats measurement system data.

По второму варианту определение преобразовательной характеристики системы с предельным соотношением точностных характеристик, скорости измерений и программно-аппаратурных затрат включает в себя этапы, в которыхAccording to the second option, the determination of the conversion characteristics of the system with the limiting ratio of accuracy characteristics, measurement speed and software and hardware costs includes stages in which

приближенно определяется воспроизводящий полином с наименьшей степенью n, обеспечивающий заданную максимальную δ_MM или относительную погрешность δ_м0 воспроизведения преобразовательной характеристики системы;the reproducing polynomial with the smallest degree of n is determined approximately, providing a given maximum δ _MM or relative error δ _{m0 of} reproducing the conversion characteristic of the system;

в соответствии со стратегией максимальной идентичности графиков определения преобразовательной характеристики или градуировочной характеристики функции f(x) и приближающего полинома L_n(x) исключаются неэффективные, наименее влияющие на значение погрешности δ_M, члены ряда а_iхⁱ, константы а_i и (или) ограничивается число значимых разрядов представления констант;in accordance with the strategy of maximum identity of the graphs for determining the conversion characteristic or the calibration characteristic of the function f (x) and the approximating polynomial L _n (x), inefficient, least affecting the error δ _M , members of the series a _i x ⁱ , constants a _i and (or ) the number of significant digits of the representation of constants is limited;

методом многомерной оптимизации производят поиск усеченного полинома наилучшего приближения L_n(x) с m<n+1 оставшимися константами а_i, в котором на интервале измерений обеспечивается по крайней мере (m+1) точек, в которых погрешности δ_M принимают с учетом неустранимых погрешностей Δδ_M равные максимальные значения +(δ_MM±Δδ_MM) и -(δ_MM±δ_MM);using multidimensional optimization, a truncated polynomial of best approximation is searched for L _n (x) with m <n + 1 remaining constants a _i , in which at least (m + 1) points are provided on the measurement interval at which errors δ _M are taken into account errors Δδ _M equal maximum values + (δ _MM ± Δδ _MM ) and - (δ _MM ± δ _MM );

в соответствии с заданными погрешностями результата δ_р и полученными значениями погрешностей однократно или многократно уточняют степень полинома n и количество констант m; оставляют степень n без изменения или увеличивают (уменьшают) ее на единицу, уточняют число констант a_i и (или) ограниченное число разрядов их представления для получения заданной погрешности результата с исключением невостребованной избыточной точности определения преобразовательной характеристики или функции f(x) полиномом L_n(x) с наиболее максимальным дискретным числом значащих цифр представления результата М и соответствующим ему минимальным числом операций А или (А+m) получения преобразовательной характеристики.in accordance with the given errors of the result δ _p and the obtained values of the errors, the degree of the polynomial n and the number of constants m are specified once or repeatedly; leave the degree n unchanged or increase (decrease) it by one, specify the number of constants a _i and (or) a limited number of digits of their representation to obtain a given error of the result with the exception of the unclaimed excessive accuracy of determining the conversion characteristic or function f (x) by the polynomial L _n (x) with the maximum discrete number of significant digits representing the result of M and the corresponding minimum number of operations A or (A + m) to obtain a conversion characteristic.

По третьему варианту дополнительно уменьшение погрешности результата δ_pM измерений осуществляется путем взаимопоглощения составляющих погрешностей округления δ_a0, δ_a1,…, δ_an констант a₀, a₁, …, а_n, погрешностей выполнения промежуточных операций δ_np с ограниченным числом разрядов представления их при квантовании и погрешности метода δ_MM, в котором включаются этапы симметричного округления констант а, в усеченном полиноме наилучшего приближения; последующего варьирования всевозможных комбинаций значений констант в пределах нескольких единиц младшего разряда относительно их симметрично округленных фиксированных квантованных значений с представлением в ограниченном, например, 8, 16, разрядном формате данных и поиском полинома с наименьшим значением погрешности δ_p во всем диапазоне измерений.According to the third option, the error of the result of δ _pM measurements is additionally reduced by the mutual _{absorption of the} component rounding errors δ _a0 , δ _a1 , ..., δ _{an of the} constants a ₀ , a ₁ , ..., _n , the errors of intermediate operations δ _np with a limited number of bits representing them during quantization and error of the method δ _MM , in which the stages of symmetric rounding of the constants a are included, in the truncated polynomial of best approximation; subsequent variation of all possible combinations of constant values within several units of the least significant digit relative to their symmetrically rounded fixed quantized values with representation in a limited, for example, 8, 16, bit data format and search for a polynomial with the smallest error value δ _p in the entire measurement range.

По четвертому варианту для определения преобразовательной характеристики с уменьшением погрешности результата измерений δ_pM из-за дискретизации задаваемой физической меры измерений, поиск полинома наилучшего приближения производится по отношению к преобразовательной характеристике измерительной системы или функции f(x), сдвинутой по оси х на половину единицы младшего разряда дискретного представления физической меры измерений.According to the fourth variant, to determine the conversion characteristic with decreasing the error of the measurement result δ _pM due to the discretization of the given physical measure, the polynomial of the best approximation is searched for with respect to the conversion characteristic of the measuring system or function f (x) shifted by half the minor unit along the x axis discharge of a discrete representation of a physical measure of measurement.

По пятому варианту для определения преобразовательной характеристики, цифровых физических эталонов или градуировочных характеристик типа функции sinх для х∈[0°; 90°] в диапазоне погрешностей δ_M∈[50%; 10^-11%] и ниже используется набор усеченных полиномов наилучшего приближения из ряда с n∈[0; 11] и выше с наименьшими дискретными оптимальными минимальными значениями приращений числа операций А или А+m не более 1…3 и соответствующими им приращениями двоичных значащих цифр результата М 1…6 и более.According to the fifth variant, for determining the conversion characteristic, digital physical standards, or calibration characteristics of the type of the function sinx for x∈ [0 °; 90 °] in the error range δ _M ∈ [50%; 10 ^-11 %] and below, a set of truncated polynomials of best approximation from a series with n∈ [0; 11] and above with the smallest discrete optimal minimum values of the increments in the number of operations A or A + m not more than 1 ... 3 and the corresponding increments of binary significant digits of the result M 1 ... 6 or more.

По шестому варианту при определении преобразовательной характеристики для уменьшения числа операций с помощью усеченного полинома производится частичная или полная группировка членов ряда а_iхⁱ в соответствии со схемой Горнера группировки слагаемых а_iхⁱ.According to the sixth option, when determining the conversion characteristic to reduce the number of operations using the truncated polynomial, a partial or complete grouping of members of the series a _i x ⁱ is performed in accordance with Horner's scheme of grouping the terms a _i x ⁱ .

По седьмому варианту определение преобразовательной характеристики или функциональной зависимости заданной таблично осуществляется путем определения значений преобразовательной характеристики или функции между промежуточными дискретными табличными значениями методом кусочно-линейной интерполяции.According to the seventh embodiment, the determination of the conversion characteristic or functional dependence of a given table is carried out by determining the values of the conversion characteristic or function between intermediate discrete table values by the method of piecewise linear interpolation.

По восьмому варианту для повышения быстродействия и снижения программно-аппаратурных затрат в процессе эксплуатации измерительной системы вместо n или n+1 эталонных значений x_эm при калибровке используется только m значений, определяемых неравенством m<n+1.According to the eighth option, in order to increase the speed and reduce hardware and software costs during the operation of the measuring system, instead of n or n + 1 reference values x _em , only m values are used in the calibration determined by the inequality m <n + 1.

Принцип реализации заявляемого способа кратко может быть показан следующим образом. На вход измерительной системы подаются полезные (измеряемые) и эталонные сигналы. В промежутках между подачей эталонных сигналов путем интерполяции значений измеряемого сигнала в соответствии с опорными эталонными значениями осуществляется автоматическое определение реальной преобразовательной характеристики измерительного канала. Предварительно определение преобразовательной характеристики производится путем градуировки измерительной системы - операции определения, фиксирования и официального утверждения функции преобразования средства измерений. Эталонная градуировочная характеристика может задаваться аналитически, строится в виде таблицы по экспериментальному набору эталонных значений [3, стр.67-71], [4].The principle of implementation of the proposed method can be briefly shown as follows. The input of the measuring system is supplied with useful (measured) and reference signals. In the intervals between the supply of reference signals by interpolating the values of the measured signal in accordance with the reference reference values, the actual conversion characteristic of the measuring channel is automatically determined. The conversion characteristic is preliminarily determined by calibrating the measuring system — the operation of determining, fixing, and approving the conversion function of the measuring instrument. The reference calibration characteristic can be set analytically, built in the form of a table according to the experimental set of reference values [3, p. 67-71], [4].

Для определения градуировочной характеристики предварительно на измерительную систему подают набор эталонных воздействий измеряемых физических величин x_эmi, по этим значениям воспроизводятся цифровые эквиваленты N_экв, что соответствует табличному представлению. После чего для воспроизведения данной таблицы аналитически с заданной погрешностью метода измерений и устранением избыточной точности производится поиск, расчет полинома наилучшего приближения в соответствии с предлагаемым более эффективным способом определения преобразовательной характеристики.To determine the calibration characteristic, a set of standard effects of the measured physical quantities x _{emi is} fed to the measuring system _first , digital equivalents of N _equiv are reproduced from these values, which corresponds to the table representation. Then, to reproduce this table analytically with a given error of the measurement method and eliminate excessive accuracy, a search is made, the polynomial of the best approximation is calculated in accordance with the proposed more efficient method for determining the conversion characteristic.

Принцип реализации заявляемого способа повышения точности определения преобразовательной характеристики, быстродействия измерительной системы приведен на эквивалентном примере улучшения определения физического эталона функции sin (x).The principle of implementation of the proposed method for improving the accuracy of determining the conversion characteristics, the speed of the measuring system is given on an equivalent example of improving the definition of the physical standard of the function sin (x).

В отличие от классического чебышевского альтернанса, когда в (1) при определении преобразовательной характеристики полным многочленом степени n с (n+1) членами требуется (n+1) набор эталонов х_эm или имеется (n+1) узел аппроксимации, где значения эталона или функции совпадают со значениями интерполянта, в предлагаемом способе обеспечено сокращение количества вычислительных операций А, числа обращений к памяти по выборке m констант и числа m эталонных значений измеряемой величины. Принцип состоит в осуществлении ряда операций, чтобы существенное сокращение числа членов ряда а_i·хⁱ не приводило к значительному увеличению погрешности измерений по сравнению со значениями погрешности для ряда в (1) с полным набором членов n. При этом, как и для чебышевского альтернанса, обеспечивается при m оставшихся константах а_i принцип чередования не менее чем (m+1) раз знака и симметрирования погрешности δ_MM воспроизводимой полиномом функции f(x)=sinx на интервале х∈[0: π/2] (фиг.1, 2), с наименьшим отклонением ее от нуля (фиг.1, 2). Сокращение в (1) числа вычислительных операций А, при заданной погрешности результата δ_pM измерений обеспечивается путем оптимального подбора степени полинома, исключения отдельных членов ряда, констант, например, когда задаются a₀=0, а₁=1, использованием только четных (нечетных) членов ряда с полной или частичной группировкой их по схеме Горнера и т.п.In contrast to the classical Chebyshev alternance, when (1) when determining the transform characteristic with a complete polynomial of degree n with (n + 1) members, a (n + 1) set of standards x _{em is required} or there is an (n + 1) approximation node, where the values of the standard or the functions coincide with the values of the interpolant, the proposed method provides a reduction in the number of computational operations A, the number of memory accesses in the sample of m constants and the number m of reference values of the measured quantity. The principle is to carry out a series of operations so that a significant reduction in the number of members of the series a _i · x ⁱ does not lead to a significant increase in the measurement error compared to the error values for the series in (1) with a full set of members n. In this case, as for the Chebyshev alternation is provided at the remaining constants m and _i alternation principle not less than (m + 1) times the sign and balancing error δ _MM reproducible polynomial function f (x) = sinx the interval h∈ [0: π / 2] (Fig. 1, 2), with the smallest deviation from zero (Fig. 1, 2). The reduction in (1) of the number of computational operations A, for a given error of the result of δ _pM measurements, is ensured by optimal selection of the degree of the polynomial, elimination of individual members of the series, constants, for example, when a ₀ = 0 and ₁ = 1 are specified using only even (odd ) members of a series with full or partial grouping of them according to Horner's scheme, etc.

Рассмотрим более конкретно возможности повышения эффективности путем совершенствования полиномиальных методов на вышеуказанных примерах. Для классического полинома Чебышева наилучшего приближения функции sin(x) первой степени у_Ч1=а₀+a₁x имеем (фиг.1)Let us consider more specifically the possibilities of increasing efficiency by improving polynomial methods in the above examples. For the classical Chebyshev polynomial of the best approximation of the function sin (x) of the first degree for _Ch1 = a ₀ + a ₁ x we have (Fig. 1)

у_Ч1=0.1050+0.636·x (4)at _Ch1 = 0.1050 + 0.636x (4)

При интервале х∈[0; π/2] значение погрешности δ_MM=0.105=2^-3.2 (фиг.1). Полином получен путем решения задачи вариационного исчисления, когда при поиске минимального значения погрешности не закреплены левое (х₁) и правое (х₂) эталонные значения (положения узлов интерполяции). В общем случае для реализации алгоритма (4) вычисления полинома из памяти необходимо выбрать две константы а₀, а₁ и выполнить по операции алгебраического умножения и сложения, то есть всего осуществить 4 операции.For the interval x∈ [0; π / 2] the value of the error δ _MM = 0.105 = 2 ^-3.2 ( ^figure 1). The polynomial is obtained by solving the variational calculus problem, when the left (x ₁ ) and right (x ₂ ) reference values (positions of interpolation nodes) are not fixed when searching for the minimum error value. In the general case, to implement algorithm (4) for calculating a polynomial from memory, it is necessary to select two constants a ₀ and a ₁ and perform the operations of algebraic multiplication and addition, that is, perform 4 operations in total.

Для сравнения, при разложении функции sin(x) в ряд Тейлора только по одному линейному члену у=х без всяких оптимизаций вычислений максимальное значение погрешности при х=π/2 составит δ_1T=|1-1.57|=0.57. Интересно отметить, что меньшее значение погрешности можно получить, если ограничиться на интервале х∈[0; π/2] только значением у₀=а₀=0.5 с погрешностью δ=|0.5| или у_T1C=-0.285+х с погрешностью 0,285 и а₁=1 в (1), или использовать полином у=а₁·х с а₀=0, с обеспечением поиска оптимального коэффициента а_i=0.724 на правом подвижном конце подбора эталонного значения физической величины или узла интерполяции х_эm (фиг.1б).For comparison, when the function sin (x) is expanded into a Taylor series in only one linear term y = x without any optimization optimizations, the maximum value of the error at x = π / 2 will be δ _1T = | 1-1.57 | = 0.57. It is interesting to note that a smaller error value can be obtained if we restrict ourselves to the interval x∈ [0; π / 2] only with the value of y ₀ = a ₀ = 0.5 with an error of δ = | 0.5 | or for _T1C = -0.285 + x with an error of 0.285 and a ₁ = 1 in (1), or use the polynomial y = a ₁ · x with a ₀ = 0, ensuring the search for the optimal coefficient a _i = 0.724 at the right moving end of the selection a reference value of a physical quantity or interpolation unit x _em (Fig. 1b).

Таким образом, при значениях погрешности аппроксимации функции sinx для диапазона δ_MM∈[0.5; 0.15] применение классического полинома (4) неэффективно, а наиболее целесообразно использовать полином у=0.7246·х со значением погрешности δ₁=0.137≅2^-3 (фиг.1б), когда только при двух (а фактически одной) вычислительных операциях сразу получается около 3-х значащих двоичных цифр результата.Thus, for the approximation error of the sinx function for the range δ _MM ∈ [0.5; 0.15] the application of the classical polynomial (4) is inefficient, and it is most expedient to use the polynomial y = 0.7246 · x with the error value δ ₁ = 0.137≅2 ^-3 (Fig.1b), when only with two (and in fact one) computational operations it turns out right away about 3 significant binary digits of the result.

Компьютерное моделирование с целью поиска полиномов для аппроксимации преобразовательной характеристики с наиболее низким оптимальным произведением δ_ММ(А+m) подтвердило, что разложение в ряд при использовании для нечетной функции sin(x) комбинаций членов с четными степенями неэффективно. Установлено, что для интервала значений погрешностей δ∈[0.15; 0.01] наиболее эффективно применение полиномаComputer simulation to search for polynomials to approximate the conversion characteristic with the lowest optimal product δ _MM (A + m) has confirmed that series expansion when using odd functions sin (x) of combinations of members with even powers is inefficient. It was found that for the interval of error values δ∈ [0.15; 0.01] the most effective application of the polynomial

Исключение в (1), (5) операции выборки из памяти измерительной системы коэффициентов a₀=0, а_i=1 и разработка компьютерной программы моделирования с целью получения наименьшего значения для полинома (5) погрешности δ_MM=0.01≅2^-6 обеспечивает при пяти вычислительных операциях по сравнению с применением полинома (4) у₄₁=0.105+0.636·х уменьшение значения погрешности в 0.105/0.01=10.5 раза (фиг.2). На одну вычислительную операцию получено эффективное приращение ΔМ более трех значащих двоичных цифр результата.The exception in (1), (5) of the operation of selecting the coefficients a ₀ = 0 and _i = 1 from the memory of the measuring system and the development of a computer simulation program in order to obtain the smallest error for the polynomial (5) δ _MM = 0.01≅2 ^-6 with five computational operations, as compared with the use of polynomial (4), ₄₁ = 0.105 + 0.636 · x a decrease in the error value by 0.105 / 0.01 = 10.5 times (Fig. 2). An effective increment ΔМ of more than three significant binary digits of the result was obtained per computational operation.

Использование в (5) схемы Горнера предполагает дополнительную выборку константы 1 и поэтому общее сокращение числа операций не обеспечивает. В то же время применение полинома у=(0.9855-0.1426·x²)·x со схемой Горнера, с возможностью варьирования и оптимизации константы а₁≠1 при увеличении числа операций только на одну по сравнению с (5) позволяет уменьшить значение погрешностей в 0.01/0.0046=2.17 раза. В связи с этим для интервала δ∈[001; 0.05] уже наиболее эффективно применение полинома y=(0.9855-0.1426·x²)·x.The use of Horner's scheme in (5) implies an additional sampling of the constant 1 and therefore does not provide a general reduction in the number of operations. At the same time, the application of the polynomial y = (0.9855-0.1426 · x ² ) · x with the Horner scheme, with the possibility of varying and optimizing the constant a ₁ ≠ 1 with an increase in the number of operations by only one compared to (5) allows us to reduce the value of errors in 0.01 / 0.0046 = 2.17 times. In this regard, for the interval δ∈ [001; 0.05] the polynomial y = (0.9855-0.1426 · x ² ) · x is already the most effective.

Эффективное сокращение числа операций при незначительном увеличении максимальных значений погрешности для трех полиномов третьей степени: у=a₀+a₁·х+а₃·x³ при a₀≠0 и а₁≠1; a₀=0 и а₁≠1; a₀=0 и а₁=1 проиллюстрировано соответственно на фиг.2 (а, б, в), где для всех трех полиномов третьей степени (полиномы под №3 в таблице) получены единственно возможные наименьшие отклонения от нуля погрешности в 4-х, 3-х и 2-х точках.An effective reduction in the number of operations with a slight increase in the maximum error values for three polynomials of the third degree: y = a ₀ + a ₁ · x + a ₃ · x ³ for a ₀ ≠ 0 and a ₁ ≠ 1; a ₀ = 0 and a ₁ ≠ 1; a ₀ = 0 and a ₁ = 1 is illustrated in Fig. 2 (a, b, c), respectively, where for all three polynomials of the third degree (polynomials under No. 3 in the table) the only possible smallest deviations from zero of the error in 4 , 3 and 2 points.

В соответствии с рассмотренными принципами, примерами для обеспечения оптимальных соотношений по точностным характеристикам для диапазона δ_MO∈[50%…10^-11%], числу вычислительных операций, обращений к памяти, программно-аппаратным затратам путем компьютерного моделирования получен набор полиномов для приближения преобразовательной характеристики на примере функции sin(x) при х∈[0; π/2] (таблица 1). Эту таблицу следует использовать при оптимизации программно-аппаратной реализации физических эталонов функции sin(x) с заданной погрешностью и быстродействием в системах измерений, обработки информации, например, с 8, 16, 32 разрядами представления формата данных с фиксированной точкой.In accordance with the principles and examples considered, to ensure optimal ratios in accuracy characteristics for the range δ _MO ∈ [50% ... 10 ^-11 %], the number of computational operations, memory accesses, hardware and software costs, a set of polynomials for approximating the transform characteristics on the example of the function sin (x) for x∈ [0; π / 2] (table 1). This table should be used to optimize the hardware and software implementation of the physical standards of the sin (x) function with a given error and speed in measurement systems and information processing, for example, with 8, 16, 32 bits representing a fixed-point data format.

Для всех указанных полиномов 3…11 степеней при а₀=0, а₁≠1 при увеличении числа операций на единицу по сравнению с полиномами, где a₀=0, a₁=1 погрешность уменьшилась примерно в два раза. Эффективность применения полиномиального метода вычисления функции sin(x) возрастает при увеличении степени полинома. Так, например, отношение значений погрешностей δ₅/δ₇=1.4·10^-4/1.5·10^-6=93. При увеличении числа операций с 8-ми до 11 обеспечивается приращение числа значащих двоичных цифр результата ΔМ более чем на 6.For all the indicated polynomials of 3 ... 11 degrees with a ₀ = 0, and ₁ ≠ 1 with an increase in the number of operations per unit compared to polynomials, where a ₀ = 0, a ₁ = 1, the error decreased by about half. The efficiency of using the polynomial method of calculating the function sin (x) increases with increasing degree of the polynomial. So, for example, the ratio of error values δ ₅ / δ ₇ = 1.4 · 10 ^-4 /1.5 · 10 ^-6 = 93. By increasing the number of operations from 8 to 11, an increase in the number of significant binary digits of the result ΔM by more than 6 is provided.

Таблица 1Table 1 Полиномы вычисления sin(x) на интервале х∈[0; π/2]Polynomials for computing sin (x) on the interval x∈ [0; π / 2] №No. Формула полиномаPolynomial formula Максимальная погрешностьMaximum error Количество операцийNumber of operations A+mA + m АBUT 00 а₀≠0 ₀ ≠ 0 0,50.5 0,50.5 1one 00 1one a₀≠0a ₀ ≠ 0 -0.285+х-0.285 + x 0.2850.285 22 1one а₁=1a ₁ = 1

a ₀ = 0 0.7246x 0.137 2 one a ₁ ≠ 1 ₀ ≠ 0 0.105 + 0.636x 0.105 four 2 and ₁ ≠ 1 3 and ₀ = 0 x 0.14966 x ³ 0.01 5 four a ₁ = 1 a ₀ = 0 x (0.9857-0.1426 x ² ) 0.006 6 four a ₁ ≠ 1 ₀ ≠ 0 0.0035 + x · (0.9794-0.1409 · x ² ) 0.005 8 5 a ₁ ≠ 1 5 a ₀ = 0 x + (- 0.16607 + 0.00763 x ² ) x ³ 1.4 · 10 ^-4 8 6

a₁=1a ₁ = 1 a₀=0a ₀ = 0 x·(0.999659+(-0.165626+0.0075·х²)·х²)x (0.999659 + (- 0.165626 + 0.0075 x ² ) x ² ) 8·10^-5 8 · 10 ^-5 99 66 a₁≠1a ₁ ≠ 1 a₀≠0a ₀ ≠ 0 0.000056+х·(0.999559+(-0.165581+0.007494·х²)·х²)0.000056 + x (0.999559 + (- 0.165581 + 0.007494 x ² ) x ² ) 7·10^-5 7 · 10 ^-5 11eleven 77 a₁≠1a ₁ ≠ 1 77 а₀=0and ₀ = 0 х+(-0.16665438+(0.0083089-0.00018384·x²)·x²)·x³ x + (- 0.16665438+ (0.0083089-0.00018384 x ² ) x ² ) x ³ 1.5·10^-6 1.5 · 10 ^-6 11eleven 88 а₁=1a ₁ = 1 a₀=0a ₀ = 0 х·(0.99999692+(-0.16664889+(0.00830678-0.00018374·х²)·х²)·х²)x (0.99999692 + (- 0.16664889+ (0.00830678-0.00018374 x ² ) x ² ) x ² ) 7·10^-7 7 · 10 ^-7 1212 88 а₁≠1a ₁ ≠ 1 а₀≠0 ₀ ≠ 0 0.00000054+х·(0.99999491+(-0.16664577+(0.0083048-0.00018334·х²)·x²)·x²)0.00000054 + x (0.99999491 + (- 0.16664577+ (0.0083048-0.00018334 x ² ) x ² ) x ² ) 6·10^-7 6 · 10 ^-7 14fourteen 99 а₁≠1a ₁ ≠ 1 99 а₀=0and ₀ = 0 х+(-0.166666515+(0.008332906+(-0.0001979999+0.00000258769·х²)·х²)·х²)·х³ x + (- 0.166666515+ (0.008332906 + (- 0.0001979999 + 0.00000258769 x ² ) x ² ) x ² ) x ³ 1.10^-8 1.10 ^-8 14fourteen 1010 а₁=1a ₁ = 1 а₀=0and ₀ = 0 х·(0.999999974755+(-0.166666469385+(0.008332892062+(-0.00019800584+0.000002590091·x²)·x²)·x²)·x²)x (0.999999974755 + (- 0.166666469385+ (0.008332892062 + (- 0.00019800584 + 0.000002590091 x ² ) x ² ) x ² ) x ² ) 4.10^-9 4.10 ^-9 15fifteen 1010 а₁≠1a ₁ ≠ 1 а₀≠0 ₀ ≠ 0 0.00000000282+х·(0.99999996413+(-0.16666644834+(0.008332871968+(-0.00019799744+0.00000258882·х²)·x²)·х²)·х²)0.00000000282 + x (0.99999996413 + (- 0.16666644834+ (0.008332871968 + (- 0.00019799744 + 0.00000258882 x ² ) x ² ) x ² ) x ² ) 3.5·10^-9 3.510 ^-9 1717 11eleven a₁≠1a ₁ ≠ 1 11eleven а₀=0and ₀ = 0 х+(-0.16666666561+(0.008333329213+(-0.000198406823+(0.000002751799-0.0000000237861·х²)·х²)·х²)·x²)·х³ x + (- 0.16666666561+ (0.008333329213 + (- 0.000198406823+ (0.000002751799-0.0000000237861 x ² ) x ² ) x ² ) x ² ) x ³ 6·10^-11 6 · 10 ^-11 1717 1212 а1≠1A1 ≠ 1 a₀=0a ₀ = 0 (0.999999999874+(-0.166666665294+(0.008333329026+(-0.0001984068315+(0.0000027518132-0.000000023785·x²)·x²)·x²)·x²)·x²)·x(0.999999999874 + (- 0.166666665294+ (0.008333329026 + (- 0.0001984068315+ (0.0000027518132-0.000000023785) x ² ) x ² ) x ² ) x ² ) x ² ) x 1.7·10^-11 1.7 · 10 ^-11 18eighteen 1212 a₁≠1a ₁ ≠ 1

Для сравнения следует отметить, что введение нулевого члена для полинома 5-й степени (таблица!) обеспечило уменьшение значения погрешности по сравнению с полиномом такой же степени с а₁≠1 и а₀=0 только в 0.7/0.55=1.272 раза. Но в этом случае необходимо ввести две дополнительные операции при вычислении функции.For comparison, it should be noted that the introduction of the zero term for the 5th degree polynomial (table!) Provided a decrease in the error value compared to a polynomial of the same degree with a ₁ ≠ 1 and a ₀ = 0 only 0.7 / 0.55 = 1.272 times. But in this case, it is necessary to introduce two additional operations when calculating the function.

Кроме погрешности метода δ_MM в измерительной системе имеют место погрешности из-за физических процессов дискретизации и квантования эталонных значений измеряемых величин, задания констант а_i с конечным числом разрядов их представления, выполнения вычислений с урезанными разрядными сетками операндов. Максимальная погрешность результата измерений при определении преобразовательной характеристики с помощью полинома равнаIn addition to the error of the δ _MM method, in the measuring system, there are errors due to the physical processes of discretization and quantization of the reference values of the measured quantities, the constants a _i with a finite number of digits of their representation, and calculations with truncated bit grids of operands. The maximum error of the measurement result when determining the conversion characteristics using the polynomial is

δ_pM=δ_∂+δ_MM+δ_ai+δ_np+δ_окр. δ _pM = δ _∂ + δ _MM + δ _ai + δ _np + δ _okr.

где δ_∂ - погрешность дискретизации, обусловленная дискретным представлением измеряемой физической величины или аргумента с конечным числом разрядов, например, на входе аналого-цифрового преобразователя;where δ _∂ is the sampling error due to the discrete representation of the measured physical quantity or argument with a finite number of bits, for example, at the input of an analog-to-digital converter;

δ_MM - максимальная погрешность метода аппроксимации преобразовательной характеристики полиномом;δ _MM is the maximum error of the approximation method of the conversion characteristics by a polynomial;

δ_ai - погрешность, обусловленная квантованием констант с конечным числом разрядов их представления в измерительной системе;δ _ai is the error due to the quantization of constants with a finite number of digits of their representation in the measuring system;

δ_np - погрешности, обусловленные вычислением значений функции преобразования с учетом конечного числа разрядных сеток операндов при проведении вычислений, например, при округлении избыточных разрядов произведения двух сомножителей;δ _np - errors due to the calculation of the values of the conversion function, taking into account the finite number of bit grids of operands during calculations, for example, when rounding excess bits of the product of two factors;

δ_окр. - погрешность округления при отбрасывании дополнительных разрядов r, которые используются на этапе промежуточных вычислений.δ _okr. - the rounding error when discarding additional bits r, which are used at the stage of intermediate calculations.

Погрешности дискретизации измеряемой физической величины или аргумента для детерминированных процессов можно уменьшить примерно в два раза путем симметрирования со сдвигом на полдискрета его значения. То есть график или таблицу значений преобразовательной характеристики (функции преобразования) необходимо реализовать так, чтобы значения функции при ее воспроизведении соответствовали сдвинутым на 0.5 единицы младшего разряда действительным значениям аргумента или дискреты меры измерений.The discretization errors of the measured physical quantity or argument for deterministic processes can be reduced by about half by balancing its value by half-sampling. That is, a graph or table of values of the conversion characteristic (conversion function) must be implemented so that the values of the function during its reproduction correspond to the actual values of the argument shifted by 0.5 units of the least significant digit or the discrete values of the measure.

Погрешность результата δ_pM с составляющими погрешности метода δ_MM, задания констант а₀…a_n, при разложении в ряд в двоичной системе счисления с конечным числом членов их физического (материального) преобразования в системе, вес которых кратен степени числа 2 частично уменьшены путем их симметричного округления, взаимной компенсации с погрешностью метода и взаимным окончательным подбором коэффициентов а_i с учетом конечных разрядных сеток с проверкой в этом случае допустимых минимальных значений погрешностей результата δ_pM на выходе измерительной системы. Например, для полинома в таблице 1 под №7 с а₀=0 и а_i≠1 было получено значение погрешности δ_M=0,7·10^-6, когда коэффициенты а_i представлены 8-ю десятичными разрядами. После урезания одного десятичного разряда получено увеличенное значение погрешности δ_M=1,93·10^-6. Последующий дополнительный подбор коэффициентов по предлагаемому способу обеспечил значение составляющих погрешности δ_pM с учетом погрешностей урезания 4-х констант и метода до δ_pM=0,698·10^-6.The error of the result is δ _pM with the error components of the method δ _MM , the constants a ₀ ... a _n , when expanded in a binary number system with a finite number of members of their physical (material) transformation in the system, whose weight is a multiple of the power of 2 partially reduced by symmetrical rounding mutual compensation with an accuracy of the method and the mutual final selection of the coefficients a _i, taking into account finite bit meshes with check in this case the permissible minimum values δ _pM result of errors at the output of eritelnoy system. For example, for the polynomial in table 1 under No. 7 with a ₀ = 0 and a _i ≠ 1, the error value δ _M = 0.7 · 10 ^-6 was obtained when the coefficients a _{i are} represented by 8 decimal places. After trimming one decimal place, an increased error value δ _M = 1.93 · 10 ^{-6 is} obtained. The subsequent additional selection of coefficients by the proposed method provided the value of the error components δ _pM taking into account the errors of trimming 4 constants and the method to δ _pM = 0.698 · 10 ^-6 .

Предложены эффективные способы калибровки измерительных систем определения преобразовательных характеристик, функциональных зависимостей, проверенные при эквивалентном воспроизведении функций вида sin(x) с оптимизацией показателей точности, быстродействия и программно-аппаратных затрат в диапазоне значений погрешности δ_pMO∈[50%; 10^-6%] и ниже за счет исключения нулевого члена (a₀=0), константы при линейном члене (а₁=1), многомерной взаимной оптимизации коэффициентов а₁…a_n.Effective calibration methods are proposed for measuring systems for determining the conversion characteristics, functional dependencies, tested with the equivalent reproduction of functions of the form sin (x) with optimization of accuracy, speed, and hardware and software costs in the range of error values δ _pMO ∈ [50%; 10 ^-6 %] and lower due to the exclusion of the zero term (a ₀ = 0), the constant for the linear term (a ₁ = 1), multidimensional mutual optimization of the coefficients a ₁ ... a _n .

Рациональное использование предлагаемых алгоритмов в измерительных системах и других технических приложениях позволяет обеспечить формирование от 1 до 32 и более значащих двоичных разрядов операндов результата измерений, избегая невостребованной избыточной точности результата. Потенциальный выигрыш по точностным характеристикам и быстродействию составляет от десятков до сотен процентов.Rational use of the proposed algorithms in measuring systems and other technical applications allows us to ensure the formation of 1 to 32 or more significant binary bits of the operands of the measurement result, avoiding the unclaimed excessive accuracy of the result. The potential gain in accuracy characteristics and speed ranges from tens to hundreds of percent.

Обобщим применение предлагаемого способа при определении преобразовательной характеристики измерительной системы. Предварительно на измерительную систему подают набор эталонных воздействий измеряемых величин x_эmi, по этим значениям воспроизводятся цифровые эквиваленты N_экв, что соответствует табличному представлению. После чего для воспроизведения данной таблицы аналитически с заданной суммарной погрешностью результата измерений и устранением избыточной точности производятся поиск, расчет в соответствии с предлагаемым более эффективным способом определения преобразовательной или градуировочной характеристики.Summarize the application of the proposed method in determining the conversion characteristics of the measuring system. Preliminarily, a set of standard influences of the measured quantities x _{emi is} fed to the measuring system, digital equivalents of N _equiv are reproduced from these values, which corresponds to the table representation. Then, to reproduce this table analytically with a given total error of the measurement result and eliminate excessive accuracy, a search is performed, calculation in accordance with the proposed more efficient way to determine the conversion or calibration characteristics.

Технические методы и способы реализации преобразовательных характеристик, поиска полиномов наилучшего приближения для определения функциональных зависимостей, градуировочных характеристик с предлагаемым способом экспериментально проверены и технически реализуется по описанным методикам, тем более что современные аналого-цифровые преобразователи и устройства преобразования и устройства определения преобразовательных характеристик обеспечивают получение результата измерений с предоставлением от 2 до 32 значащих двоичных разрядов, что примерно и соответствует δ_pMO∈[50%; 10^-11%].Technical methods and methods for implementing the conversion characteristics, searching for polynomials of the best approximation for determining functional dependencies, calibration characteristics with the proposed method are experimentally tested and technically implemented according to the described methods, especially since modern analog-to-digital converters and conversion devices and conversion characteristics determination devices provide the result measurements with provision from 2 to 32 significant binary digits in that approximately corresponds δ _pMO ∈ [50%; 10 ^-11 %].

ЛитератураLiterature

1. Патент РФ 2262713 Способ калибровки измерительных систем / Чекушкин В.В., Булкин В.В. - Опубл. 20.10.05, БИМП 29 (14).1. RF patent 2262713 Method for the calibration of measuring systems / Chekushkin VV, Bulkin VV - Publ. 10.20.05, BIMP 29 (14).

2. Бахвалов Н.С., Жидков Н.П., Кобельков Г.М. Численные методы. - М.: Лаборатория базовых знаний, 2000. - 624 с.2. Bakhvalov N.S., Zhidkov N.P., Kobelkov G.M. Numerical methods. - M.: Laboratory of Basic Knowledge, 2000. - 624 p.

3. Мурашкина Т.Н., Мещеряков В.А., Бадеева Е.А. и др. Теория измерений: Учебное пособие. М.: Высшая школа, 2007, 151 с.3. Murashkina T.N., Meshcheryakov V.A., Badeeva E.A. et al. Measurement Theory: Textbook. M .: Higher school, 2007, 151 p.

4. Аверьянов А.М., Чекушкин В.В. Метод поиска полиномов наилучшего приближения для воспроизведения функциональных зависимостей, калибровки датчиков и измерительных систем. №3, 2009, с.2-6.4. Averyanov A.M., Chekushkin V.V. The best approximation polynomial search method for reproducing functional dependencies, calibrating sensors and measuring systems. No. 3, 2009, p.2-6.

Claims

1. A method for calibrating measuring systems by alternately inputting measured and fixed reference signals x _et into the measuring system, automatically determining in the intervals between reference signals the real conversion characteristic of the system from the values of the reference signals by interpolating and extrapolating the values of the input measured signal with a polynomial of degree n of the best uniform approximation and providing in accordance with the reference reference values and the generalized Chebyshev theorem for the interval le measurements at least n + 1 or n + 2 point h∈ [x _0; x _{n + 1} ], in which the measurement errors δ _M take alternately taking into account the fatal errors Δδ _M equal maximum values + (δ _M ± Δδ _M ) and - (δ _M ± Δδ _M ), characterized in that for a given value of the error of the result measurements δ _P excluded inefficient members number a _i x ⁱ determination converter characteristics of the approximating polynomial L _n (x), e.g., zero, even or odd powers and (or) the constant a _i in accordance with the strategy of maximum identity converter characteristics measuring with Stem f (x) with the polynomial L _n (x), slightly affect the value of the error δ _M as compared with other members of a _ⁱ x _i, is performed balancing and (or) vzaimopogloschenie terms errors in determining the converter characteristic measurement result δ _r at the system output in a sum δ _M method errors quantized discrete data representation δ _ai, a set of constants a _i, the measured physical quantity x, δ intermediate transformations _etc. with a limited number of bits in the data transformation and representation formats measure Flax system;
the determination of the conversion characteristics of the system with the limit ratio of accuracy characteristics, measurement speed and hardware and software costs, includes the steps in which
the reproducing polynomial with the smallest degree of n is determined approximately, providing the specified maximum error of the method δ _MM or the relative error δ _{MO of} determining the conversion characteristic of the system;
in accordance with the strategy of maximum identity of the graphs of reproducing the conversion characteristic or calibration characteristic and the approximating polynomial L _n (x), inefficient, least affecting the error value δ _M are excluded, members of the series a _i x ⁱ , constants a _i and (or) the number of significant digits is limited representations of constants;
using the multidimensional optimization method, a truncated polynomial of best approximation is searched for L _n (x) with m <n + 1 remaining constants a _i , in which at least (m + 1) points are provided on the measurement interval at which errors δ _MM are taken into account errors Δδ _M equal maximum values + (δ _MM ± Δδ _MM ) and - (δ _MM ± Δδ _MM );
in accordance with the given errors of the result δ _P and the obtained values of the errors of the method δ _{M, they are} once or repeatedly compared and the degree of the polynomial n and the number of constants m are specified; leave the degree n unchanged or increase (decrease) it by one, specify the number of constants a _i and (or) a limited number of bits of their representation to obtain a given error of the result with the exception of the unclaimed excessive accuracy of determining the conversion characteristic or function f (x) by the polynomial L _n (x) with the maximum discrete number of significant digits representing the result of M and the corresponding minimum number of operations A or (A + m) to obtain a conversion characteristic;
definition of the converter characteristic with reduction in errors result δ _Pm measurements performed by vzaimopogloscheniya constituting δ _a0 rounding errors, δ _a1, ..., δ _AN constants a _0, a _1, ..., a _n, execution errors intermediate operations δ _np with limited presentation of discharges during quantization and error of the method δ _MM , which includes the steps of symmetric rounding of the constants a _i in the truncated polynomial of best approximation; subsequent variation of all possible combinations of constant values within several units of the least significant digit relative to their symmetrically rounded fixed quantized values with representation in a limited, for example, 8, 16-bit data format and search for a polynomial with the smallest error value δ _pM in the entire measurement range.

2. The method according to claim 1, characterized in that for determining the conversion characteristic with decreasing the error of the measurement result δ _pM due to the discretization of the specified physical measure of measurement, the search for the polynomial of the best approximation is performed with respect to the conversion characteristic of the measuring system or function f (x), shifted along the x axis by half the unit of the least significant digit of the discrete representation of the physical measure of measurement.

3. The method according to claim 1, characterized in that for determining the conversion characteristics of digital physical standards or calibration characteristics of the type of function sin x for x∈ [0 °; 90 °] in the error range δ _MO ∈ [50%; 10 ^-11 %] and below, a set of truncated polynomials of best approximation from a series with n∈ [0; 11] and above with the smallest discrete optimal minimum values of the increments in the number of operations A or A + m not more than 1 ... 3 and the corresponding increments of binary significant digits of the result M 1 ... 6 or more.

4. The method according to claim 1, characterized in that the determination of the conversion characteristics or functional dependencies specified in the table is carried out by determining the values of the conversion characteristics or functions between intermediate discrete table values by the method of piecewise linear interpolation.

5. The method according to claim 1, characterized in that during the operation of the measuring system during calibration, m reference values x _{et are used} , determined by the inequality m <n + 1.