не зависит от сигнала, то независимо от закона распределения и мощности сигнала дезинформационное действие помехи определяется ее энтропией

Н{Х) = - I p{K)\np{K)dx.

Согласно К. Шеннону количество информации / определяется как разность энтропии I = Н {X) - Н {Х/Х„) - энтропии Н (X) значений измеряемой величины до измерения и энтропии Н {Х/Х„) неопределенности действительного значения X в интервале неопределенности вокруг полученного после измерения показания Хп, т. е. энтропии погрешности. Например, при равномерном распределении измеряемой величины в пределах от Xi до Xg и равномерном распределении погрешности в Интервале неопределенности d = 2Д энтропия Н (X) = = In (Xg - Xi), а энтропия Н (Х/Хц) = In d = In 2А и количество информации

/ = 1п (X2-Xi)-lnt/=ln = lnA/.

Последнее соотношение / = In Л, если N - (Xj - Xld, справедливо при любом законе распределения вероятностей погрешности. Поэтому В. И. Рабинович и М. П. Цапенко предложили называть число числом эквивалентных делений, различимых в диапазоне Ха - Xi при данном законе р {к) распределения погрешности, а - эквивалентным (в энтропийном смысле) делением. Мы же будем называть числом различимых градаций измеряемой величины, г - эквивалентным (по энтропии) интервалом неопределенности. Значение эквивалентного интервала неопределенности можно математически строго определить для любого закона распределения как величину, стоящую под знаком логарифма в выражении для Н (Х/Х).

При практическом использовании приведенных соотношений удобнее оперировать с половиной интервала d, именуемой энтропийным значением погрешности A,. Формальным определением энтропийного значения погрешности являются соотношения:

Я(Х/Хп)==1п4 = 1п2Дз;

4 = 2Аз = ."(п) и А, = 1."(/п).

Отношение энтропийного значения Ад случайной величины к ее среднему кваДрэтическому значению а называется энтропийным коэффициентом k = Ag/a, несколько изменяющимся в зависимости от вида закона распределения. Так, для равномерного закона распределения Дз = ]/За = 1,73а и k - 1,73, для симметричного экспоненциального распределения k = 1,92, для треугольного закона (распределение Симпсона) й = ]/Зе/2 = 2,02 и для нормального распределения k = ")/зтё72 2,066 ~ 2,07.

Практически используемая оценка погрешности в виде максимального значения из серии 20-30 наблюдений наиболее близка именно

к-энтррпийному значению погрешности, так как Дэ = Ад для симметричного экспоненциального распределения при Рд = 0,935, для нормального распределения - при Рд =0,961 и для равномерного распределения - при Рд = 1.

Использование энтропийного значения погрешности Д и энтропийного коэффициента k закона распределения позволяет получить простую и строгую связь мощности помехи о с вносимой ею дезинформацией Н (XIXj) или с получаемым при измерении количеством информации / в виде

Аэ=-йа; Я(Х/Х,) = 1п4 = 1п2Й0; N = (X2-Xi)/(2koy, I = \nN.

1-3. ОПРЕДЕЛЕНИЕ ОЦЕНОК СЛУЧАЙНЫХ ПОГРЕШНОСТЕЙ ПО ЭКСПЕРИМЕНТАЛЬНЫМ ДАННЫМ (НЕОБХОДИМЫЕ СВЕДЕНИЯ ИЗ СТАТИСТИКИ)

Полный набор всех значений (в том числе и совпадающих мелоду собой), которые может принять случайная величина при бесконечном числе испытаний, в статистике принято называть генеральной совокупностью. Проводя эксперимент, получаем лишь некоторое число п этих значений, называемое выборкой объема п. Определяя по данным этой выборки характеристики закона распределения, получаем не истинные значения дисперсии D, среднего квадратического отклонения (с. к. о.) о, контрэксцесса хит. д., характерные для всей генеральной совокупности, а лишь некоторые, случайно отклоняющиеся от истинных значения D*, о*, к*, называемые в статистике оценками соответствующих характеристик, найденными по выборке.

Особенность экспериментально полученных значений случайной величины состоит в том, что они оказываются естественно квантованными (округленными). Поэтому, даже произведя п- оо наблюдений, мы не сможем построить по этим экспериментальным данным плавные кривые функции распределения F (к) или плотности р (х), а получим график р (х) лишь в виде столбцов, называемый гистограммой. К этому же приводит объединение (группирование) более мелко квантованных экспериментальных значений в более крупные с целью упрощения вычислений, когда для последующих вычислений за Xi для Всего столбца принимается координата центра столбца.

Число т интервалов группирования должно выбираться исходя из имеющегося обьема п выборки экспериментальных данных с учетом эксцесса (е = 4/0*) распределения. Оптимальное значение т

определяется соотношением /п=---пЛ (или приближенно

соотношением mlg-, где х = l/Vs), с округлением до ближайшего большего нечетного числа.

Трудность использования этого соотношения заключается в том, что оптимальное число столбцов гистограммы необходимо выбрать в начале обработки, когда еще не известен вид распределения и оценка

контрэксцесса к. Выход из этого положения состоит в использовании того обстоятельства, что значения контрэксцесса х распределений погрешностей, как правило, находятся в пределах от 0,4 до 0,7. Поэтому следует выбирать т нечетным в пределах

0,55/10-" <т< 1,25/10.". (1-1)

При большем числе столбцов в гистограмме получается много провалов, а при меньшем - искажается вид распределения.

Оценка математического ожидания М (X) случайной величины есть среднее арифметическое X всех полученных результатов наблюдений. Разброс X относительно М (X) при объеме выборки п оценивается значением дисперсии X, которая равна D (X) = D {Xi)/n, и а (X) = а {Ki)lYn, где D (х,) и о (л;,) - дисперсия и с. к. о. генеральной совокупности х,.

Оценка дисперсии D* (х/), т. е. второго центрального момента, вычисленная по определению как

D* (Xi) = iit(xt) ==2{Xi-Xf, (1 -2)

оказывается смещенной. Это значит, что кроме разброса она имеет систематическую (в данном случае отрицательную) погрешность, возрастающую в среднем по мере уменьшения п. Для исключения этой погрешности значение D* (xi), найденное по выражению (1-2), необходимо умножить на. поправочный множитель Бесселя А = п1{п - 1). Поэтому под выборочной дисперсией с поправкой Бесселя понимают величину

„ 1 (1-3)

а под оценкой среднего квадратического отклонения о* (xi) с поправкой Бесселя - корень из этой величины.

Дисперсия значения дисперсии, найденной по выборке, зависит от вида закона распределения генеральной совокупности xi и от объема •выборки п как

D(D*) = ---piil

п п (;t-I)

где р,., = и р,4 - второй и четвертый центральные моменты генеральной совокупности. Это соотношение при /г 8 приводит к приближенным соотношениям:

где к - контрэксцесс распределения.

Для практического определения D {D*) и о (а*) приходится пользоваться оценками а* и р,!, хотя они тем менее достоверны, чем меньше объем выборки.