Понятие случайного процесса в математике

Основная часть

В· Определение случайного процесса и его характеристики

В· Марковские случайные процессы с дискретными состояниями

В· Стационарные случайные процессы

В· Эргодическое свойство стационарных случайных процессов

Литература

Введение

Понятие случайного процесса введено в XX столетии и связано с именами А.Н. Колмогорова (1903-1987), А.Я. Хинчина (1894-1959), Е.Е. Слуцкого (1880-1948), Н. Винера (1894-1965).

Это понятие в наши дни является одним из центральных не только в теории вероятностей, но также в естествознании, инженерном деле, экономике, организации производства, теории связи. Теория случайных процессов принадлежит к категории наиболее быстро развивающихся математических дисциплин. Несомненно, что это обстоятельство в значительной мере определяется ее глубокими связями с практикой. XX век не мог удовлетвориться тем идейным наследием, которое было получено от прошлого. Действительно, в то время, как физика, биолога, инженера интересовал процесс, т.е. изменение изучаемого явления во времени, теория вероятностей предлагала им в качестве математического аппарата лишь средства, изучавшие стационарные состояния.

Для исследования изменения во времени теория вероятностей конца XIX - начала XX века не имела ни разработанных частных схем, ни тем более общих приемов. А необходимость их создания буквально стучала в окна и двери математической науки. Изучение броуновского движения в физике подвело математику к порогу создания теории случайных процессов.

Считаю необходимым упомянуть еще о двух важных группах исследований, начатых в разное время и по разным поводам.

Во-первых, эта работы А.А. Маркова (1856-1922) по изучению цепных зависимостей. Во-вторых, работы Е.Е. Слуцкого (1880-1948) по теории случайных функций.

Оба этих направления играли очень существенную роль в формировании общей теории случайных процессов.

Для этой цели уже был накоплен значительный исходный материал, и необходимость построения теории как бы носились в воздухе.

Оставалось осуществить глубокий анализ имеющихся работ, высказанных в них идей и результатов и на его базе осуществить необходимый синтез.

Определение случайного процесса и его характеристики

Определение: Случайным процессом X(t) называется процесс, значение которого при любом значении аргумента t является случайной величиной.

Другими словами, случайный процесс представляет собой функцию, которая в результате испытания может принять тот или иной конкретный вид, неизвестный заранее. При фиксированном t=t₀ X(t₀) представляет собой обычную случайную величину, т.е. сечение случайного процесса в момент t_0.

Примеры случайных процессов:

1. численность населения региона с течением времени;

2. число заявок, поступающих в ремонтную службу фирмы, с течением времени.

Случайный процесс можно записать в виде функции двух переменных X(t,ω), где ωтВмΩ, tтВмT, X(t, ω) тВм ≡ и ω тАУ элементарное событие, Ω - пространство элементарных событий, Т тАУ множество значений аргумента t, ≡ - множество возможных значений случайного процесса X(t, ω).

Реализацией случайного процесса X(t, ω) называется неслучайная функция x(t), в которую превращается случайный процесс X(t) в результате испытания (при фиксированном ω), т.е. конкретный вид, принимаемый случайным процессом X(t), его траектория.

Таким образом, случайный процесс X(t, ω) совмещает в себе черты случайной величины и функции. Если зафиксировать значение аргумента t, случайный процесс превращается в обычную случайную величину, если зафиксировать ω, то в результате каждого испытания он превращается в обычную неслучайную функцию. В дальнейшем изложении опустим аргумент ω, но он будет подразумеваться по умолчанию.

На рисунке 1 изображено несколько реализаций некоторого случайного процесса. Пусть сечение этого процесса при данном t является непрерывной случайной величиной. Тогда случайный процесс X(t) при данном t определяется полностью вероятности φ(xтАЪ t). Очевидно, что плотность φ(x, t) не является исчерпывающим описанием случайного процесса X(t), ибо она не выражает зависимости между его сечениями в разные моменты времени.

Случайный процесс X(t) представляет собой совокупность всех сечений при всевозможных значений t, поэтому для его описания необходимо рассматривать многомерную случайную величину (X(t₁), X(t₂), тАж, X(t_n)), состоящей из всех сочетаний этого процесса. В принципе таких сочетаний бесконечно много, но для описания случайного процесса удаётся часть обойтись относительно небольшим количеством сочетаний.

Говорят, что случайный процесс имеет порядок n, если он полностью определяется плотностью совместного распределения φ(x_1, x₂, тАж, x_n; t₁, t₂, тАж, t_n) n произвольных сечений процесса, т.е. плотностью n-мерной случайной величины (X(t₁), X(t₂), тАж, X(t_n)), где X(t_i) тАУ сочетание случайного процесса X(t) в момент времени t_i, i=1, 2, тАж, n.

Как и случайная величина, случайный процесс может быть описан числовыми характеристиками. Если для случайной величины эти характеристики являются постоянными числами, то для случайного процесса тАУ неслучайными функциями.

Математическим ожиданием случайного процесса X(t) называется неслучайная функция a_x(t), которая при любом значении переменной t равна математическому ожиданию соответствующего сечения случайного процесса X(t), т.е. a_x(t)=М [X(t)].

Дисперсией случайного процесса X(t) называется неслучайная функция D_x(t), при любом значении переменной t равная дисперсии соответствующего сочетания случайного процесса X(t), т.е. D_x(t)= D[X(t)].

Средним квадратическим отклонением σ_x(t) случайного процесса X(t) называется арифметическое значение корня квадратного из его дисперсии, т.е. σ_x(t)= D_x(t).

Математическое ожидание случайного процесса характеризует среднюю траекторию всех возможных его реализаций, а его дисперсия или среднее квадратическое отклонение - разброс реализаций относительно средней траектории.

Введённых выше характеристик случайного процесса оказывается недостаточно, так как они определяются только одномерным законом распределения. Если для случайного процесса Х₁(t) характерно медленное изменение значений реализаций с изменением t, то для случайного процесса Х₂(t) это изменение проходит значительно быстрее. Другими словами, для случайного процесса Х₁(t) характерна тесная вероятностная зависимость между двумя его сочетаниями Х₁(t₁) и Х₁(t₂), в то время как для случайного процесса Х₂(t) эта зависимость между сочетаниями Х₂(t₁) и Х₂(t₂) практически отсутствует. Указанная зависимость между сочетаниями характеризуется корреляционной функцией.

Определение:Корреляционной функцией случайного процесса Х(t) называется неслучайная функция

K_x(t₁, t₂) = M[(X(t₁) тАУ a_x(t₁))(X(t₂) тАУ a_x(t₂))] (1.)

двух переменных t₁ и t₂ , которая при каждой паре переменных t₁ и t₂ равна ковариации соответствующих сочетаний Х(t₁) и Х(t₂) случайного процесса.

Очевидно, для случайного процесса Х(t₁) корреляционная функция K_x1(t₁, t₂) убывает по мере увеличения разности t₂ - t₁ значительно медленнее, чем K_x2(t₁, t₂) для случайного процесса Х(t₂).

Корреляционная функция K_x(t₁, t₂) характеризует не только степень тесноты линейной зависимости между двумя сочетаниями, но и разброс этих сочетаний относительно математического ожидания a_x(t). Поэтому рассматривается также нормированная корреляционная функция случайного процесса.

Нормированной корреляционной функцией случайного процесса Х(t) называется функция:

P_x(t₁, t₂) = K_x(t₁, t₂) / σ_x(t₁)σ_x(t₂) (2)

Пример № 1

Случайный процесс определяется формулой X(t) = X cosωt, где Х тАУ случайная величина. Найти основные характеристики этого процесса, если М(Х) = а, D(X) = σ².

РЕШЕНИЕ:

На основании свойств математического ожидания и дисперсии имеем:

a_x(t) = M(X cosωt) = cosωt * M(X) = a cosωt,

D_x(t) = D(X cosωt) = cos²ωt * D(X) = σ² cos² ωt.

Корреляционную функцию найдём по формуле (1.)

K_x(t₁, t₂) = M[(X cosωt₁ тАУ a cosωt₁) (X cos ωt₂ тАУ a cosωt₂)] =

= cosωt₁ cosωt₂ * M[(X тАУ a)(X - a)] = cosωt₁ cosωt₂ * D(X) = σ² cosωt₁ cosωt₂.

Нормированную корреляционную функцию найдём по формуле (2.):

P_x(t₁, t₂) = σ² cosωt₁ cosωt₂ / (σ cosωt₁)( σ cosωt₂) ≡ 1.

Случайные процессы можно классифицировать в зависимости от того, плавно или скачкообразно меняются состояния системы, в которой они протекают, конечно (счетно) или бесконечно множество этих состояний и т.п. Среди случайных процессов особое место принадлежит Марковскому случайному процессу.

Теорема. Случайный процесс X(t) является гильбертовым тогда и только тогда, когда существует R(t, tтАЩ) для всех (t, tтАЩ)тВм T*T.

Теорию гильбертовых случайных процессов называют корреляционной.

Заметим, множество Т может быть дискретным и континуальным. В первом случае случайный процесс Х_tназывают процессом с дискретным временем, во втором тАУ с непрерывным временем.

Соответственно сочетания Х_t могут быть дискретными и непрерывными случайными величинами.

Случайный процесс называется Х(t) выборочно неправильным, дифференцируемым и интегрируемым в точке ωтВмΩ, если его реализация x(t) = x(t, ω) соответственно непрерывна, дифференцируема и интегрируема.

Случайный процесс Х(t) называется непрерывным: почти, наверное, если

P(A)=1, A = {ω тВм Ω : lim x(t_n) = x(t)}

В среднем квадратическом, если

Lim M[(X(t_n) тАУ X(t))²] = 0

По вероятности, если

Aδ ≥ 0 : lim P[| X(t_n) тАУ X(t)| > δ] = 0

Сходимость в среднем квадратическом обозначают также:

X(t) = lim X(t_n)

Оказывается, из выборочной непрерывности следует непрерывность почти наверное, из непрерывности почти наверное и в среднем квадратическом следует непрерывность по вероятности.

Теорема. Если X(t) тАУ гильбертов случайный процесс, непрерывный в среднем квадратическом, то m_x(t) тАУ непрерывная функция и имеет место соотношение

Lim M [X(t_n)] = M [X(t)] = M [lim X(t_n)].

Теорема. Гильбертов случайный процесс X(t) непрерывен в среднем квадратическом тогда и только тогда, когда непрерывна его ковариационная функция R(t, tтАЩ) в точке (t, t).

Гильбертов случайный процесс X(t) называется дифференцируемым в среднем квадратическом, если существует случайная функция X(t) = dX(t)/dt такая, что

X(t) = dX(t)/ dt = lim X(t+∆t) тАУ X(t) / ∆t

(t тВм T, t +∆t тВм T),

т.е. когда

Lim M [((X(t + ∆t) тАУ X(t) / (∆t)) тАУ X(t))²] = 0

Случайную функцию X(t) будем называть производной в среднем квадратическом случайного процесса X(t) соответственно в точке t или на T.

Теорема. Гильбертов случайный процесс X(t) дифференцируем в среднем квадратическом в точке t тогда и только тогда, когда существует

δ² R(t, tтАЩ) / δtδtтАЩ в точке (t, tтАЩ). При этом:

R_x(t, tтАЩ) = M[X(t)X(tтАЩ)] = δ² R(t, tтАЩ) / δtδtтАЩ.

Если гильбертов случайный процесс дифференцируем на Т, то его производная в среднем квадратическом также является гильбертовым случайным процессом; если выборочные траектории процесса дифференцируемы на Т с вероятностью 1, то с вероятностью 1 их производные совпадают с производными в среднем квадратическом на Т.

Теорема. Если X(t) - гильбертов случайный процесс, то

M[dX(t) / dt] = (d / dt) M[X(t)] = dm_x(t) / dt.

Пусть (0, t) тАУ конечный интервал, 0 1 < тАж n = t тАУ его точки

X(t) - гильбертов случайный процесс.

Y_n = ∑ X(t_i)(t_i тАУ t_i-1) (n = 1,2, тАж).

Тогда случайная величина

Y(t) = lim Y_n

max (t_i тАУ t_i-1)→0

Называется интегралом в среднем квадратическом процесса X(t) на (0, t) и обозначается:

Y(t) = ∫ X(τ)dτ.

Теорема. Интеграл Y(t) в среднем квадратическом существует тогда и только тогда, когда ковариационная функция R(t, tтАЩ) гильбертова процесса X(t) непрерывна на Т×Т и существует интеграл

R_y(t, tтАЩ) = ∫ ∫ R(τ, τтАЩ) dτdτтАЩ

Если интеграл в среднем квадратическом функции X(t) существует, то

M[Y(t)] = ∫ M[X(τ)]dτ,

R_Y(t, tтАЩ) = ∫ ∫ R(τ, τтАЩ)dτdτтАЩ

K_y(t, tтАЩ) = ∫ ∫ K(τ, τтАЩ)dτdτтАЩ

Здесь R_y(t, tтАЩ) = M[Y(t)Y(tтАЩ)], K_y(t, tтАЩ) = M[Y(t)Y(tтАЩ)] тАУ ковариационная и корреляционная функции случайного процесса Y(t).

Теорема. Пусть X(t) тАУ гильбертов случайный процесс с ковариационной функцией R(t, tтАЩ), φ(t) тАУ вещественная функция и существует интеграл

∫ ∫ φ(t)φ(tтАЩ)R(t, tтАЩ)dtdtтАЩ

Тогда существует в среднем квадратическом интеграл

∫ φ(t)X(t)dt.

Случайные процессы:

X_i(t) = V_iφ_i(t) (i = 1n)

Где φ_i(t) тАУ заданные вещественные функции

V_i- случайные величины с характеристиками

M(V_I = 0), D(V_I) = D_I, M(V_iV_j) = 0 (i ≠ j)

Называют элементарными.

Каноническим разложением случайного процесса X(t) называют его представление в виде

X(t) = m_x(t) + ∑ V_iφ_i(t) (t тВм T)

Где V_i тАУ коэффициенты, а φ_i(t) тАУ координатные функции канонического разложения процесса X(t).

Из отношений:

M(V_I = 0), D(V_I) = D_I, M(V_iV_j) = 0 (i ≠ j)

X(t) = m_x(t) + ∑ V_iφ_i(t) (t тВм T)

Следует:

K(t, tтАЩ) = ∑ D_iφ_i(t)φ_i(tтАЩ)

Эту формулу называют каноническим разложением корреляционной функции случайного процесса.

В случае уравнения

X(t) = m_x(t) + ∑ V_iφ_i(t) (t тВм T)

Имеют место формулы:

X(t) = m_x(t) + ∑ V_iφ(t)

∫ x(τ)dt = ∫ m_x(τ)dτ + ∑ V_i ∫ φ_i(t)dt.

Таким образом, если процесс X(t) представлен его каноническим разложением, то производная и интеграл от него также могут быть представлены в виде канонических разложений.

Марковские случайные процессы с дискретными состояниями

Случайный процесс, протекающий в некоторой системе S с возможными состояниями S₁, S₂, S₃, тАж, называется Марковским, или случайным процессом без последствия, если для любого момента времени t₀ вероятные характеристики процесса в будущем (при t>t₀) зависит только от его состояния в данный момент t₀ и не зависят от того, когда и как система пришла в это состояние; т.е. не зависят от её поведения в прошлом (при t0).

Примером Марковского процесса: система S тАУ счётчик в такси. Состояние системы в момент t характеризуется числом километров (десятых долей километров), пройденных автомобилем до данного момента. Пусть в момент t₀ счётчик показывает S₀/ Вероятность того, что в момент t>t₀ счётчик покажет то или иное число километров (точнее, соответствующее число рублей) S₁ зависит от S₀, но не зависит от того, в какие моменты времени изменились показания счётчика до момента t₀.

Многие процессы можно приближенно считать Марковскими. Например, процесс игры в шахматы; система S тАУ группа шахматных фигур. Состояние системы характеризуется числом фигур противника, сохранившихся на доске в момент t₀. Вероятность того, что в момент t>t₀ материальный перевес будет на стороне одного из противников, зависит в первую очередь от того, в каком состоянии находится система в данный момент t_0, а не от того, когда и в какой последовательности исчезли фигуры с доски до момента t₀.

В ряде случаев предысторией рассматриваемых процессов можно просто пренебречь и применять для их изучения Марковские модели.

Марковским случайным процессом с дискретными состояниями и дискретным временем (или цепью Маркова) называется Марковский процесс, в котором его возможные состояния S₁, S₂, S_3, тАж можно заранее перечислить, а переход из состояния в состояние происходит мгновенно (скачком), но только в определённые моменты времени t_0, t_1, t_2, .., называемые шагами процесса.

Обозначим p_ij тАУ вероятность перехода случайного процесса (системы S) из состояния I в состояние j. Если эти вероятности не зависят от номера шага процесса, то такая цепь Маркова называется однородной.

Пусть число состояний системы конечно и равно m. Тогда её можно характеризовать матрицей перехода P₁, которая содержит все вероятности перехода:

p₁₁ p₁₂ тАж p_1m

p₂₁ p₂₂ тАж p_2m

тАж тАж тАж тАж

P_m1 p_m2 тАж p_mm

Естественно, по каждой строке ∑ p_ij = 1, I = 1, 2, тАж, m.

Обозначим p_ij(n) тАУ вероятностью того, что в результате n шагов система перейдёт из состояния I в состояние j. При этом при I = 1 имеем вероятности перехода, образующие матрицу P₁, т.е. p_ij(1) = p_ij

Необходимо, зная вероятности перехода p_ij, найти p_ij(n) тАУ вероятности перехода системы из состояния I в состояние j за n шагов. С этой целью будем рассматривать промежуточное (между I и j) состояние r, т.е. будем считать, что из первоначального состояния I за k шагов система перейдёт в промежуточное состояние r с вероятностью p_ir(k), после чего за оставшиеся n-k шагов из промежуточного состояния r она перейдёт в конечное состояние j с вероятностью p_rj(n-k). Тогда по формуле полной вероятности

P_ij(n) = ∑ p_ir (k) p_rj (n-k) тАУ равенство Маркова.

Убедимся в том, что, зная все вероятности перехода p_ij = p_ij(1), т.е. матрицу P₁ перехода из состояния в состояние за один шаг, можно найти вероятность p_ij(2), т.е. матрицу P₂ перехода из состояния в состояние за два шага. А зная матрицу P₂, - найти матрицу P₃ перехода из состояния в состояние за три шага, и т.д.

Действительно, полагая n = 2 в формуле P_ij(n) = ∑ p_ir (k) p_rj (n-k), т.е. k=1 (промежуточное между шагами состояние), получим

P_ij(2) = ∑ p_ir(1)p_rj (2-1) = ∑ p_ir p_rj

Полученное равенство означает, что P₂ =P₁P₁ = P²₁

Полагая n = 3, k = 2, аналогично получим P₃ = P₁P₂ = P₁P₁² = P₁³, а в общем случае P_n= P₁ⁿ

Пример

Совокупность семей некоторого региона можно разделить на три группы:

1. семьи, не имеющие автомобиля и не собирающиеся его покупать;

2. семьи, не имеющие автомобиля, но намеревающиеся его приобрести;

3. семьи, имеющие автомобиль.

Проведённое статистическое обследование показало, что матрица перехода за интервал в один год имеет вид:

0,8 0,1 0,1

0 0,7 0,3

0 0 1

(В матрице P₁ элемент р₃₁ = 1 означает вероятность того, что семья, имеющая автомобиль, также будет его иметь, а, например, элемент р₂₃ = 0,3 тАУ вероятность того, что семья, не имевшая автомобиля, но решившая его приобрести, осуществит своё намерение в следующем году, и т.д.)

Найти вероятность того, что:

1. семья, не имевшая автомобиля и е собиравшаяся его приобрести, будет находиться в такой же ситуации через два года;

2. семья, не имевшая автомобиля, но намеревающаяся его приобрести, будет иметь автомобиль через два года.

РЕШЕНИЕ: найдём матрицу перехода Р₂ через два года:

0,8 0,1 0,1 0,8 0,1 0,1 0,64 0,15 0,21

0 0,7 0,3 0 0,7 0,3 0 0,49 0,51

0 0 1 0 0 1 0 0 1

То есть искомые в примере 1) и 2) вероятности равны соответственно

р₁₁ =0,64, р₂₃ =0,51

Далее рассмотрим Марковский случайный процесс с дискретными состояниями и непрерывным временем, в котором, в отличие от рассмотренной выше цепи Маркова, моменты возможных переходов системы из состояния не фиксированы заранее, а случайны.

При анализе случайных процессов с дискретными состояниями удобно пользоваться геометрической схемой тАУ так называемым графиком событий. Обычно состояния системы изображаются прямоугольниками (кружками), а возможные переходы из состояния в состояние тАУ стрелками (ориентированными дугами), соединяющими состояния.

Пример. Построить граф состояний следующего случайного процесса: устройство S состоит из двух узлов, каждый из которых в случайный момент времени может выйти из строя, после чего мгновенно начинается ремонт узла, продолжающийся заранее неизвестное случайное время.

РЕШЕНИЕ. Возможные состояния системы: S_{0 тАУ} оба узла исправны; S₁ тАУ первый узел ремонтируется, второй исправен; S₂ тАУ второй узел ремонтируется, первый исправен; S₃ тАУ оба узла ремонтируются.

Стрелка, направления, например, из S₀ в S₁, означает переход системы в момент отказ первого узла, из S₁ в S₀ тАУ переход в момент окончания ремонта этого узла.

На графе отсутствуют стрелки из S₀ в S₃ и из S₁ в S₂. Это объясняется тем, что выходы узлов из строя предполагается независимыми друг от друга и, например, вероятностями одновременного выхода из строя двух узлов (переход из S₀ в S₃) или одновременного окончания ремонтов двух узлов (переход из S₃ в S₀) можно пренебречь.

Стационарные случайные процессы

Случайный процесс Х(t) называют стационарным в узком смысле, если

F(x₁, тАж, x_n; t₁, тАж, t_n) = F(x₁, тАж, x_n; t₁+∆, тАж, t_n+∆)

При произвольных

n≥1, x₁, тАж, x_n, t₁, тАж, t_n; ∆; t₁ тВм T, t_i + ∆ тВм T.

Здесь F(x₁, тАж, x_n; t₁, тАж, t_n) тАУ n-мерная функция распределения случайного процесса Х(t).

Случайный процесс Х(t) называют стационарным в широком смысле, если

m(t) = m(t + ∆), K(t, tтАЩ) = K(t + ∆, tтАЩ + ∆)

(t тВм T, tтАЩ тВм T, t + ∆тВм T), tтАЩ + ∆тВм T)

Очевидно, что из стационарности в узком смысле следует стационарность в широком смысле.

Из формул:

m(t) = m(t + ∆), K(t, tтАЩ) = K(t + ∆, tтАЩ + ∆)

(t тВм T, tтАЩ тВм T, t + ∆тВм T), tтАЩ + ∆тВм T)

Следует, что для процесса, стационарного в широком смысле, можно записать

m (t) = m_x(0) = const;

D (t) = K(t, t) = K(0,0) = const;

K(t, tтАЩ) = K(t тАУ tтАЩ, 0) = K (0, tтАЩ - t)

Таким образом, для процесса, стационарного в широком смысле, математическое ожидание и дисперсия не зависят от времени, а K(t, tтАЩ) представляет собою функцию вида:

K(t, tтАЩ) = k(τ) = k(-τ), τ = tтАЩ тАУ t.

Видно, что k(τ) тАУ чётная функция, при этом

K(0) = В = σ²; |k(τ)| ≤ k(0); ∑ ∑ ά_iα_jk(t_i - t_j) ≥ 0

Здесь D тАУ дисперсия стационарного процесса

Х(t), α_i (I = 1, n) тАУ произвольные числа.

Первое равенство системы

K(0) = В = σ²; |k(τ)| ≤ k(0); ∑ ∑ ά_iα_jk(t_i - t_j) ≥ 0

следует из уравнения K(t, tтАЩ) = k(τ) = k(-τ), τ = tтАЩ тАУ t. Первое равенство

K(0) = В = σ²; |k(τ)| ≤ k(0); ∑ ∑ ά_iα_jk(t_i - t_j) ≥ 0 - простое следствие неравенства Шварца для сечений X(t), X(tтАЩ) стационарного случайного процесса X(t). Последнее неравенство:

K(0) = В = σ²; |k(τ)| ≤ k(0); ∑ ∑ ά_iα_jk(t_i - t_j) ≥ 0

Получают следующим образом:

∑ ∑ α_i α_jk(t_i - t_j) = ∑ ∑ K(t_i, t_j)α_i α_j = ∑ ∑ M[(α_iX_i)(α_jX_j)] = M[(∑ α_iX_i)²] ≥0

Учитывая формулу корреляционной функции производной dX(t)/dt случайного процесса, для стационарной случайной функции X(t) получим

K₁(t, tтАЩ) = M[(dX(t)/dt)*(dX(tтАЩ)/dtтАЩ)] = δ²K(t, tтАЩ) / δtδtтАЩ = δ²k(tтАЩ - t) / δtδtтАЩ

Поскольку

δk(tтАЩ - t) / δt = (δk(τ) / δτ) * (δτ / δτ) = - δk(τ) / δτ,

δ²k(tтАЩ - t) / δtδtтАЩ = - (δ² k(τ) / δτ²) * (δτ / δtтАЩ) = - (δ² k(τ) / δτ²)

то K₁(t, tтАЩ) = k₁(τ) = - (δ² k(τ) / δτ²), τ = tтАЩ тАУ t.

Здесь K₁(t, tтАЩ) и k₁(τ) тАУ корреляционная функция первой производной стационарного случайного процесса X(t).

Для n-й производной стационарного случайного процесса формула корреляционной функции имеет вид:

K_n(τ) = (-1)ⁿ * (δ²ⁿ *k(τ) / δτ²ⁿ)

Теорема.Стационарный случайный процесс X(t) с корреляционной функцией k(τ) непрерывен в среднем квадратическом в точке t тВм T тогда и только тогда, когда

Lim k(τ) = k(0)

Для доказательства запишем очевидную цепочку равенств:

M [|X(t+τ)-X(T)|²] = M[|X(t)|²] тАУ 2M[|X(t+τ)X(t)|] + M[X(t)²] =

= 2D-2k(τ) = 2[k(0)-k(τ)].

Отсюда очевидно, что условие непрерывности в среднем квадратическом процесса X(t) в точке t тВм T

Lim M[|X(t+τ) тАУ X(t)|²] = 0

Имеет место тогда и только тогда, когда выполняется Lim k(τ) = k(0)

Теорема. Если корреляционная функция k(τ) стационарного случайного процесса X(t) непрерывна в среднем квадратическом в точке τ=0, то она непрерывна в среднем квадратическом в любой точке τ тВм R¹.

Для доказательства запишем очевидные равенства:

k(τ+∆τ)-k(τ) = M[X(t+τ+∆τ)X(t)] тАУ M[X(t+τ)X(t)] =

= M{X(t)[X(t+τ+∆τ) тАУ X(t+τ)]}

Затем, применяя неравенство Шварца к сомножителям в фигурной скобке и учитывая соотношения:

K(t, tтАЩ) = k(τ) = k(-τ), τ = tтАЩ тАУ t.

K(0) = В = σ²; |k(τ)| ≤ k(0); ∑ ∑ ά_iα_jk(t_i - t_j) ≥ 0

Получим:

0 ≤ [k(τ+∆τ)-k(τ)]²≤ M[X(t)²]M[|X(t+τ+∆τ)-X(t+τ)|²] =

= 2D[D-k(∆τ)].

Переходя к пределу при ∆τ→0 и принимая во внимание условие теоремы о непрерывности k(τ) в точке τ=0, а также первое равенство системы

K(0) = В = σ² , найдём

Lim k(τ+∆τ) = k(τ)

Поскольку здесь τ тАУ произвольное число, теорему следует считать доказанной.

Эргодическое свойство стационарных случайных процессов

Пусть Х(t) - стационарный случайный процесс на отрезке времени [0,T] с характеристиками

M[X(t)] = 0, K(t, tтАЩ) = M[X(t)X(tтАЩ)] = k(τ),

τ = tтАЩ тАУ t, (t, tтАЩ) тВм T×T.

Эргодическое свойство стационарного случайного процесса заключается в том, что по достаточно длительной реализации процесса можно судить о его математическом ожидании, дисперсии, корреляционной функции.

Более строго стационарный случайный процесс Х(t) будем называть эргодическим по математическому ожиданию, если

Lim M {|(1 / T)∫ X(t)dt|²} = 0

Теорема

Стационарный случайный процесс Х(t) с характеристиками:

M[X(t)] = 0, K(t, tтАЩ) = M[X(t)X(tтАЩ)] = k(τ),

τ = tтАЩ тАУ t, (t, tтАЩ) тВм T×T

является эргодическим по математическому ожиданию тогда и только тогда, когда

Lim (2 / T) ∫ k(τ) (1 тАУ τ/t)dτ = 0.

Для доказательства, очевидно, достаточно убедиться, что справедливо равенство

M{(1 / T) ∫X(t)dt|²} = (2 / T) ∫ k(τ) (1 тАУ τ/t)dτ

Запишем очевидные соотношения

C = M {|(1 / T) ) ∫X(t)dt|²} = (1 / T²) ∫ ∫ k(tтАЩ - t)dtтАЩdt = (1/T) ∫ dt ∫ k(tтАЩ - t)dtтАЩ.

Полагая здесь τ = tтАЩ тАУ t, dτ = dtтАЩ и учитывая условия (tтАЩ = T) → (τ = T - t),

(tтАЩ = 0)→(τ = -t), получим

С = (1/T²) ∫ dt ∫ k(τ)dτ = (1/T²) ∫ dt ∫ k(τ)dτ + (1/T²) ∫ dt ∫ k(τ)dτ =

= -(1/T²) ∫ dt ∫ k(τ)dτ - (1/T²) ∫ dt ∫ k(τ)dτ

Полагая в первом и втором слагаемых правой части этого равенства соответственно τ = -τтАЩ, dτ = -dτтАЩ, τ = T-τтАЩ, dτ = -dτтАЩ, найдем

С = (1/T²) ∫ dt ∫ k(τ)dτ + (1/T²) ∫ dt ∫ k(T - τ)dτ

Применяя формулу Дирихле для двойных интегралов, запишем

С = (1/T²) ∫ dt ∫ k(τ)dτ + (1/T²) ∫ dt ∫ k(T - τ)dτ = (1/T²) ∫ (T - τ) k(τ)dτ + (1/T²) ∫ τk (T тАУ τ)dτ

Во втором слагаемом правой части можно положить τтАЩ = T-τ, dτ = -dτтАЩ, после чего будем иметь

С = (1/Т²) ∫ (Т - τ) k(τ)dτ тАУ (1/T²) ∫ (T - τ) k(τ)dτ = 2/T ∫ (1- (τ/T)) k(τ)dτ

Отсюда и из определения констант видно, что равенство

M{(1 / T) ∫X(t)dt|²} = (2 / T) ∫ k(τ) (1 тАУ τ/t)dτ

Справедливо.

Теорема

Если корреляционная функция k(τ) стационарного случайного процесса X(t) удовлетворяет условию

Lim (1/T) ∫ |k(τ)| dt = 0

То X(t) является эргодическим по математическому ожиданию.

Действительно, учитывая соотношение

M{(1 / T) ∫X(t)dt|²} = (2 / T) ∫ k(τ) (1 тАУ τ/t)dτ

Можно записать

0 ≤ (2/Т) ∫ (1 тАУ τ/t) k(τ)dτ ≤ (2/T) ∫ (1- τ/t) |k(τ)|dτ ≤ (1/T) ∫ |k(τ)|dτ

Отсюда видно, что если выполнено условие, то

Lim (2/T) ∫ (1 тАУ τ/T) k(τ)dτ = 0

Теперь, принимая во внимание равенство

С = (1/Т²) ∫ (Т - τ) k(τ)dτ тАУ (1/T²) ∫ (T - τ) k(τ)dτ = 2/T ∫ (1- (τ/T)) k(τ)dτ

И условие Lim M {|(1 / T)∫ X(t)dt|²} = 0

Эргодичности по математическому ожиданию стационарного случайного процесса X(t), находим, что требуемое доказано.

Теорема.

Если корреляционная функция k(τ) стационарного случайного процесса

X(t) интегрируема и неограниченно убывает при τ → ∞, т.е. выполняется условие

При произвольном ε > 0, то X(t) тАУ эргодический по математическому ожиданию стационарный случайный процесс.

Действительно, учитывая выражение

Для Т≥Т₀ имеем

(1/T) ∫ |k(τ)|dτ = (1/T)[ ∫ |k(τ)|dτ + ∫ |k(τ)|dτ ≤ (1/T) ∫ |k(τ)|dτ ε(1 тАУ T₁/T).

Переходя к пределу при Т → ∞, найдём

0 ≤ lim ∫ |k(τ)|dτ = ε.

Поскольку здесь ε > 0 тАУ произвольная, сколько угодно малая величина, то выполняется условие эргодичности по математическому ожиданию. Поскольку это следует из условия

О неограниченном убывании k(τ), то теорему следует считать доказанной.

Доказанные теоремы устанавливают конструктивные признаки эргодичности стационарных случайных процессов.

Пусть

X(t) = m + X(t), m=const.

Тогда M[X(T)] = m, и если X(t) - эргодический стационарный случайный процесс, то условие эргодичности Lim M {|(1 / T)∫ X(t)dt|²} = 0 после несложных преобразований можно представить в виде

Lim M{[(1/T) ∫ X(t)dt тАУ m]²} = 0

Отсюда следует, что если X(t) тАУ эргодический по математическому ожиданию стационарный случайный процесс, то математическое ожидание процесса X(t) = m + X(t) приближенно может быть вычислено по формуле

M = (1/T) ∫ x(t)dt

Здесь Т тАУ достаточно длительный промежуток времени;

x(t) тАУ реализация процесса X(t) на отрезке времени [0, Т].

Можно рассматривать эргодичность стационарного случайного процесса X(t) по корреляционной функции.

Стационарный случайный процесс X(t) называется эргодическим по корреляционной функции, если

Lim M {[ (1/T) ∫ X(t) X(t + τ)dt тАУ k(τ)]²]} = 0

Отсюда следует, что для эргодического по корреляционной функции стационарного случайного процесса X(t) можно положить

k (τ) = (1/T) ∫ x(t)x(t + τ)dt

при достаточно большом Т.

Оказывается, условие

ограниченности k(τ) достаточно для эргодичности по корреляционной функции стационарного нормально распределенного процесса X(t).

Заметим, случайный процесс называется нормально распределённым, если любая его конечномерная функция распределения является нормальной.

Необходимым и достаточным условием эргодичности стационарного нормально распределенного случайного процесса является соотношение

τ₀ : lim (1/T) ∫ [k(τ)² + k(τ + τ₀) k(τ тАУ τ₀)] (1 тАУ τ/T)dτ = 0

Литература

1. Н.Ш. Кремер ВлТеория вероятностей и математическая статистикаВ» / ЮНИТИ / Москва 2007.

2. Ю.В. Кожевников ВлТеория вероятностей и математическая статистикаВ» /Машиностроение/ Москва 2002.

3. Б.В. Гнеденко ВлКурс теории вероятностейВ» /Главная редакция физико-математической литературы/ Москва 1988.

Вместе с этим смотрят:

10 способов решения квадратных уравнений

РЖнварiантнi пiдпростори. Власнi вектори i власнi значення лiнiйного оператора

РЖнтегральнi характеристики векторних полiв

РЖнтерполювання функцiй

Автокорреляционная функция. Примеры расчётов