23
распределения вероятностей (например, гауссовых с неизвестным математическим ожиданием и дисперсией) для полученных наблюдений. Апостериорную плотность распределения вероятностей получают интегрированием произведения априорной плотности распределения вероятностей и функции правдоподобия по всем возможным значениям дисперсии с последующей нормировкой.
П р и м е ч а н и е 1 — Иногда (например, как в 6.4.11) случайные величины, для которых получены наблюдения, описываются плотностью распределения с единственным параметром распределения. В таких случаях математическому ожиданию этого распределения приписывают неинформативную априорную плотность распределения вероятностей, а апостериорное распределение, понимаемое как распределение X, формируют непосредственно в соответствии с теоремой Байеса без последующего интегрирования.
П р и м е ч а н и е 2 — Теорема Байеса может быть также применена для разных предположений о виде распределения наблюдаемых случайных величин, например, когда их неизвестные математическое ожидание и стандартное отклонение полагают равными между собой.
- Принцип максимума энтропии
- При использовании принципа максимума энтропии, введенного Джейнсом [25], выбирают единственную плотность распределения вероятностей из всех возможных распределений с заданными свойствами, например заданными центральными моментами различного порядка или заданными интервалами, на которых плотность распределения вероятностей не равна нулю. Этот метод особенно полезен для выбора плотности распределения вероятностей величин, для которых данные наблюдений недоступны, или величин, которые невозможно измерить.
- При применении принципа максимума энтропии в качестве плотности распределения вероятностей gX(^), которая адекватно характеризует неполноту знания о величине X, выбирают такую, для которой функционал
S[g ] = -19х fö) ln 9x ß)
представляющий собой энтропию по Ш еннону [48], достигает максимума при ограничениях, определяемых имеющейся информацией об X.
- Выбор плотности распределения в некоторых типичных условиях
- Общие положения
Информация, приведенная в 6.4.2—6.4.11, позволяет выбрать плотности распределения вероятностей случайных величин на основе различной имеющейся информации об этих величинах. Вид плотности распределения вероятностей gX(^) определяет:
- формулы для математического ожидания и дисперсии X;
- способ получения выборки из gX(B,).
Сведения, приведенные в 6.4.2—6.4.11, и графическое представление распределений, к которым эти сведения относятся, собраны в таблице 1.