Теория вероятности и математическая статистика

Киевский политехнический институт

Кафедра КСОИУ

Конспект лекций

по дисциплине:

Преподаватель: Студент II курса

ФИВТ, гр. ИС-41

Киев - 1996 г.

Теория вероятности возникла как наука из убеждения, что в основе массовых случайных событий лежат детерминированные закономерности. Теория вероятности изучает данные закономерности.

Например: определить однозначно результат выпадения тАЬорлатАЭ или тАЬрешкитАЭ в результате подбрасывания монеты нельзя, но при многократном подбрасывании выпадает примерно одинаковое число тАЬорловтАЭ и тАЬрешектАЭ.

Испытанием называется реализация определенного комплекса условий, который может воспроизводиться неограниченное число раз. При этом комплекс условий включает в себя случайные факторы, реализация которого в каждом испытании приводит к неоднозначности исхода испытания.

Например: испытание - подбрасывание монеты.

Результатом испытания является событие. Событие бывает:

Достоверное (всегда происходит в результате испытания);

Невозможное (никогда не происходит);

Случайное (может произойти или не произойти в результате испытания).

Например: При подбрасывании кубика невозможное событие - кубик станет на ребро, случайное событие - выпадение какой либо грани.

Конкретный результат испытания называется элементарным событием.

В результате испытания происходят только элементарные события.

Совокупность всех возможных, различных, конкретных исходов испытаний называется пространством элементарных событий.

Например: Испытание - подбрасывание шестигранного кубика. Элементарное событие - выпадение грани с тАЬ1тАЭ или тАЬ2тАЭ.

Совокупность элементарных событий это пространство элементарных событий.

Сложным событием называется произвольное подмножество пространства элементарных событий.

Сложное событие в результате испытания наступает тогда и только тогда, когда в результате испытаний произошло элементарное событие, принадлежащее сложному.

Таким образом, если в результате испытания может произойти только одно элементарное событие, то в результате испытания происходят все сложные события, в состав которых входят эти элементарные.

Например: испытание - подбрасывание кубика. Элементарное событие - выпадение грани с номером тАЬ1тАЭ. Сложное событие - выпадение нечетной грани.

Введем следующие обозначения:

А - событие;

w - элементы пространства W ;

W - пространство элементарных событий;

U - пространство элементарных событий как достоверное событие;

V - невозможное событие.

Иногда для удобства элементарные события будем обозначать Ei, Qi.

1. Событие C называется суммой A+B, если оно состоит из всех элементарных событий, входящих как в A, так и в B. При этом если элементарное событие входит и в A, и в B, то в C оно входит один раз. В результате испытания событие C происходит тогда, когда произошло событие, которое входит или в A или в B. Сумма произвольного количества событий состоит из всех элементарных событий, которые входят в одно из Ai, i=1, .., m.

2. Событие C произведением A и B, если оно состоит из всех элементарных событий, входящих и в A, и в B. Произведением произвольного числа событий называется событие состоящее из элементарных событий, входящих во все Ai, i=1, .., m.

4. Событие называется противоположным событию A, если оно удовлетворяет двум свойствам.

Формулы де Моргана: и

5. События A и B называются несовместными, если они никогда не могут произойти в результате одного испытания.

События A и B называются несовместными, если они не имеют общих элементарных событий.

C=A× B=V

Тут V - пустое множество.

Пусть пространство элементарных событий конечно и состоит из m элементарных событий. В этом случае в качестве возможных исходов испытаний рассматривают 2m событий - множество всех подмножеств пространства элементарных событий W и невозможное событие V.

Пример:

W =(w 1, w 2, w 3)

A1=V

A2=(1)

A3=(2)

A4=(3)

A5=(1, 2)

A6=(2, 3)

A7=(1, 3)

A8=(w 1, w 2, w 3)

Обозначим систему этих событий через F. Берем произвольное событие AÎ F. Проводим серию испытаний в количестве n. n - это количество испытаний, в каждом из которых произошло событие A.

Частостью наступления события A в n испытаниях называется число

Частость достоверного события равна 1. n(U)=1.

Частость суммы попарно несовместных событий равна сумме частостей.

Рассмотрим систему Ai, i=1, .., k; события попарно несовместны, т.е.

Событие

Пусть в результате некоторого испытания произошло событие A. По определению сумы это означает, что в этом испытании произошло некоторое событие Ai. Так как все события попарно несовместны, то это означает, что никакое другое событие Aj (i¹ j) в этом испытании произойти не может. Следовательно:

nA=nA1+nA2+..+nAk

Теория вероятности используется при описании только таких испытаний, для которых выполняется следующее предположение: Для любого события A частость наступления этого события в любой бесконечной серии испытаний имеет один и тот же предел, который называется вероятностью наступления события A.

Следовательно, если рассматривается вероятность наступления произвольного события, то мы понимаем это число следующим образом: это частость наступления события в бесконечной (достаточно длинной) серии испытаний.

К сожалению, попытка определить вероятность как предел частости, при числе испытаний, стремящихся к бесконечности, закончилась неудачно. Хотя американский ученый Мизес создал теорию вероятности, базирующуюся на этом определении, но ее не признали из-за большого количества внутренних логических несоответствий.

Теория вероятности как наука была построена на аксиоматике Колмогорова.

Последовательно строим вероятностное пространство.

Имеется испытание. В результате проведения испытания может наблюдаться одно событие из серии событий e . Все события из системы e называются наблюдаемыми. Введем предположение, что если события A Ì e , B Ì e наблюдаемы, то наблюдаемы и события .

Система событий F называется полем событий или алгеброй событий, если для двух произвольных событий A, B Ì F выполняется:

Дополнения

(A+B) Î F, (A× B) Î F

все конечные суммы элементов из алгебры принадлежат алгебре

все конечные произведения элементов из алгебры принадлежат алгебре

все дополнения конечных сумм и произведений принадлежат алгебре.

Таким образом, систему e мы расширяем до алгебры или поля F путем включения всех конечных сумм, произведений, и их дополнений. Т.е. считаем, что в результате проведения испытания наблюдаемая система является полем или алгеброй.

Множество всех подмножеств конечного числа событий является наблюдаемой системой - алгеброй, полем.

Каждому событию A Î F ставим в соответствие число P(A), которое называется вероятностью наступления события A. Такая операция задает вероятностную меру.

Вероятностная мера - числовая скалярная функция, аргументами которой являются элементы из системы алгебры F. Введенная вероятностная мера удовлетворяет системе из трех аксиом.

P(U)=1.

Рассмотрим конечную или бесконечную систему попарно несовместных событий, каждое из которых принадлежит алгебре F.

. Если , то .

Алгебра событий называется s - алгеброй, если эта система событий содержит в себе все конечные суммы и произведения из алгебры F и их дополнения, а также все бесконечные суммы и произведения из алгебры и их дополнения.

Пример: В пространстве R1 зададим в качестве поля событий все конечные интервалы вида a³ x> b, b¹ a.

Распространение этой алгебры на s - алгебру приводит к понятию борелевской алгебры, элементы которой называются борелевскими множествами. Борелевская алгебра получается не только расширением поля вида a³ x> b, но и расширением полей вида a> x³ b, a³ x³ b.

Над наблюдаемым полем событий F задается счетно-аддитивная мера - числовая скалярная функция, элементами которой являются элементы поля F, т.е. события. Она удовлетворяет следующим трем условиям-аксиомам теории вероятности.

. P(A) - число, принадлежащее сегменту [0, 1] и называющееся вероятностью наступления события A.

P(A) Î [0, 1] P(U)=1.

Пусть имеется A1, A2, A3,.., Ak - система попарно несовместных событий

Если , то .

Построим минимальную s - алгебру, которой принадлежит поле событий F (например, борелевская s - алгебра - это минимальная s - алгебра, которая содержит поле всех полуинтервалов ненулевой длины).

Тогда доказывается, что счетно-аддитивная функция P(A) однозначно распространяется на все элементы минимальной s - алгебры и при этом ни одна из аксиом не нарушается.

Таким образом, продленное P(A) называется s - аддитивной мерой.

s - алгебра содержит ненаблюдаемые события наряду с наблюдаемыми.

Но в аксиоматической теории вероятности считается, что может произойти любое событие из s - алгебры.

Расширение поля наблюдаемых событий на s - алгебру связано с невозможностью получить основные результаты теории вероятности без понятия s - алгебры.

Вероятностным пространством называется тройка (W , s , P), где

W - пространство элементарных событий, построенное для данного испытания;

s - s -алгебра, заданная на W - системе возможных событий, которая интересует исследователя, в результате проводимых испытаний;

P - s - аддитивная мера, т.е. s - аддитивная неотрицательная функция, аргументами которой являются аргументы из s - алгебры и удовлетворяющая трем аксиомам теории вероятности.

. P(A) - называется вероятностью наступления события A.

Вероятность достоверного события равна 1 P(W )=1.

Вероятность суммы несовместных событий равна сумме вероятностей

, .

k - возможно бесконечное число.

Следствие:

Вероятность невозможного события равна 0.

По определению суммы имеет место неравенство W +V=W . W и V несовместные события.

По третей аксиоме теории вероятности имеем:

P(W +V)=P(Q)=P(U)=1

P(W )+P(V)=P(W )

1+P(V)=1

P(V)=1

Пусть W состоит из конечного числа элементарных событий W ={E1, E2,.., Em} тогда по определению . Элементарные события несовместны, тогда по третей аксиоме теории вероятности имеет место

Пусть некоторое событие AÌ W состоит из k элементарных событий, тогда {Ei1, Ei2,.., Eik}

Доказать: Если AÌ B, то P(B)³ P(A), B=A+C, A и C несовместны.

* Пусть B=A+C, A и B несовместны. Тогда по третей аксиоме теории вероятности P(B)=P(A+C)=P(A)+P(C) т.к. 1³ P(C)³ 0 - положительное число, то P(B)³ P(A).

Пусть W состоит из конечного числа элементарных событий и все элементарные события равновероятны, т.е. ни одному из них из них нельзя отдать предпочтения до испытания, следовательно, их можно считать равновероятными.

Тогда достоверное событие m - количество равновероятных событий

, ,

Пусть произвольное событие Тогда , т.е. событие A состоит из k элементарных событий.

Если элементарные события являются равноправными, а, следовательно, и равновероятными, то вероятность наступления произвольного события равна дроби числитель которой равен числу элементарных событий, входящих в данное, а знаменатель - общее число элементарных событий.

P(A/B)

Условной вероятностью наступления события A, при условии события B, называется вероятность наступления события A в результате испытаний, если известно, что в это испытании произошло событие B.

Вывод формулы условной вероятности для случая равновероятных элементарных событий

Действительно, в данном испытании произошло одно из t событий, входящих в B. Все элементарные события равновероятны, следовательно, для данного испытания вероятность наступления произвольного элементарного события, входящего в B равна 1/t. Тогда по классическому определению вероятности, в данном испытании событие A произойдет с вероятностью r/t.

В общем случае доказать эту формулировку невозможно, в теории вероятности она вводится как правило. Существует лишь толкование этой формулы.

Пусть в nB испытаниях произошло событие B, а в nA испытаниях произошло событие A. Найдем условную частость наступления события A при условии, что произошло событие B. Мы можем сделать это для обоснования формулы, т.к. под вероятностью наступления события понимается предел частости наступления события при условии, что серия испытаний достаточно длинная.

Условная частость

Рассматривая AB как одно событие D имеем: с другой стороны

Рассмотрим систему событий A1, A2,..,Ak. Покажем, что вероятность их совместного наступления равна:

Доказательство проведем по мат индукции.

Формула равна для 2 и 3 (см. ранее)

Пусть формула верна для k-1.

Введем событие B.

P(A1A2..Ak-1)=P(B)

P(A1A2..Ak)=P(AkB)=P(B)× P(AkB)

Два события A и B называются независимыми, если P(A/B)=P(A); P(B)=P(B/A) - доказать.

В этом случае вероятность наступления двух событий A и B равна P(AB)=P(B)P(A/B)=P(A)P(B),

при этом покажем, что P(B/A)=P(B); P(AB)=P(B)P(A)=P(A)P(B/A)

События A1A2..Ak называются независимыми между собой, если вероятность их совместного наступления ; . Два независимых события совместны.

* Если бы события были несовместны, то P(A/B)=0 и P(B/A)=0, т.к. они независимы, то P(A/B)=P(A) и P(B/A)=P(B), т.е. утверждение тАЬнезависимые события несовместнытАЭ, т.к. P(A)=0 и P(B)=0, то это утверждение неверно.

U - достоверное событие

Покажем, что события несовместны.

* Если события несовместны, то ; ;

т.е. события несовместны.

Тогда по третей аксиоме теории вероятности

Справедливо следующее тождество на основании (1) и закона дистрибутивности

Показать самим, что все три множества попарно несовместны.

На основании первой и третей аксиомы теории вероятности получаем:

Имеет место тождество , показать самим, что несовместны

По третей аксиоме:

Для экзамена доказать самим формулу суммы произвольного числа событий

Рассмотрим систему A из k попарно несовместных событий.

B1, B2, .., Bk

Пусть дано событие A, удовлетворяющее равенству A=B1A+B2A+..+BkA.

Показать, что события B1A, B2A, BkA попарно несовместны. BiABjA=BiBjAA=VAA=V

Найти вероятность наступления события A. Любое событие входящее в A, обязательно входит в некоторое, но одно Bi, т.к. B1, B2, .., Bk образуют полную группу.

Т.к. B1, B2, .., Bk несовместны, то по третей аксиоме теории вероятности имеем:

; т.е.

Например: Имеются урны трех составов

Все шары в каждой урне перемешаны.

Испытание - извлекается шар. Какая вероятность того, что при этом будет извлечен белый шар.

B1 - Вытащить любой шар из урны 1.

B2 - Вытащить любой шар из урны 2.

B3 - Вытащить любой шар из урны 3.

A - Извлечь белый шар.

A=B1A+B2A+B3A

B1, B2, B3 - попарно несовместны.

Формула полной вероятности: P(A)=P(B1)P(A/B1)+P(B2)P(A/B2)+P(B3)P(A/B3)

P(A)=1/3× 2/3+1/5× 11/10+7/15× 0=2/9+2/11=40/99» 0.4

Постановка задачи та же, но решаем обратную задачу.

Проводится испытание, в результате которого произошло событие A. Какова вероятность того, что в этом испытании произошло событие Bi.

Условные вероятности называются апостериорными, а безусловные - априорными вероятностями.

P(ABi)=P(A)P(Bi/A)=P(Bi)P(A/Bi)

Откуда,

Таким образом, формула Байеса:

Имеется вероятностное пространство, которое порождает испытание 1.

где Ei, i=1, .., m1 - пространство элементарных событий в результате испытания.

P(Ei), i=1, .., m1 - вероятности элементарных событий.

Испытание 2 порождает вероятностное пространство вида

P(Ei), P(Qj) - разные вероятностные меры.

Композицией двух испытаний называется сложное испытание, состоящее в поведении первого и второго испытания.

Композиция испытаний порождает вероятностное пространство вида:

EiQj - композиционное событие.

В общем случае по P(Ei) и P(Qj) найти P(EiQj) невозможно.

Рассмотрим один частный случай, когда это можно сделать.

Два испытания называются независимыми, если различные исходы обоих испытаний определяются несвязанными между собой случайными факторами.

Из определения независимости испытания вытекает, что условные частости наступления события в одном испытании, при условии, что во втором испытании произошло фиксированное число событий равны безусловным частостям, если они существуют.

Пусть испытания независимы. В результате проведения первого испытания произошло элементарное событие Ei, в результате второго испытания может произойти все что угодно.

Тогда сложное событие, определяющее исход первого и второго испытания имеет вид:

и равно сумме комбинаций исходов первого и второго испытаний.

Вероятность сложного события A.

, т.е. результаты второго испытания не зависят от результатов первого.

Если в результате второго испытания произошло событие Qj, а в результате первого испытания могло произойти все что угодно, то сложное событие B имеет вид: .

Вероятность сложного события B равна сумме вероятностей комбинаций вида EiQj, i=1, .., m1

, т.к. исходы первого испытания не влияют на исходы второго испытания. Из факта: P(AB)=P(A)P(B/A); P(B/A)=P(B); AB=EiQj (надо доказать)

A={EiQ1, EiQ2, .., EiQj, .., EiQm2}

B={E1Qj, E2Qj, .., EiQj, .., Em1Qj}

По определению произведения AB в него входят только те события, которые входят и в A, и в B. Из приведенных выше формул следует, что только событие EiQj входит и в A, и в B, то AB= EiQj. Следует:

Композиционное пространство имеет вид:

Общая структура независимых событий в композиционном пространстве, порожденном композицией испытаний:

т.е. в результате первого испытания произошли элементарные события: .

В результате второго испытания события: .

Сложное событие B определяет все возможные комбинации исходов двух испытаний независимо друг от друга. В результате первого испытания произошли элементарные события: .

В результате второго испытания события: .

Тогда:

, т.к. второе испытание не влияет на результаты первого.

т.к. , (надо доказать)

то

При решении практических задач, связанных с независимыми испытаниями обычно не требуется строить композиционных пространств элементарных событий, а использовать формально неверную запись: P(A× B)=P(A)× P(B).

Имеется n испытаний. Зададим для i-го испытания вероятностное пространство:

i=1, .., n

Композицией n испытаний называется сложное испытание, состоящее в совместном проведении n испытаний. Задается n испытаний, вероятностное пространство каждого из которых имеет вид:

i=1, .., n

Композиционное пространство имеет вид:

j1=1, .., m1; j2=1, .., m2; jn=1, .., mn;

Испытания (n - испытаний) называются независимыми, если неоднозначность исхода каждого из испытаний определена не связанными между собой группами факторов.

Событие A1: в результате проведения композиционного испытания в первом испытании произошло событие . Тогда

Событие An: в результате проведения композиционного испытания в первом испытании произошло событие . Тогда

i=1, .., n

Рассмотрим событие:

В силу определения независимости испытаний очевидно, что:

.

Следовательно: .

На практике не строят композиционных пространств, а записывают формально неправильную формулу: P(A1A2..An)=P(A1)P(A2)..P(An).

Композиционное пространство имеет вид:

j1=1, .., m1; j2=1, .., m2; jn=1, .., mn;

Общая структура независимых событий в композиционном пространстве имеет вид:

Рассмотрим два вероятностных пространства.

Очевидно, что неопределенность испытания до испытания в первом вероятностном пространстве выше, чем во втором. Действительно, до испытания в I нельзя ни одному из событий отдать предпочтения, а во II событие E3 происходит чаще.

Энтропия - мера неопределенности исхода испытания (до испытания).

Первым, кто функционально задал выражение для энтропии был Шеннон.

,

Для вероятностного пространства:

Энтропия задается выражением: . Если P1=0, то Pi× logPi=0.

Самим показать, что:

Если вероятностное пространство не имеет определенности, т.е. какое-то из Pi=1, а остальные равны 0, то энтропия равна нулю.

Если элементарный исход равновероятен, т.е. , то энтропия принимает максимальное значение.

0£ Pi£ 1,

,

т.о. вероятности p1, p2, .., ps обращаются в ноль, например pi, которая равна 1. Но log1=0. Остальные числа также обращаются в 0, т.к. .

Докажем, что энтропия системы с конечным числом состояний достигае максимума, когда все состояния равновероятны. Для этого рассмотрим энтропию системы как функцию вероятностей p1, p2, .., ps и найдем условный экстремум этой функции, при условии, что .

Пользуясь методом неопределенных множителей Лагранжа, будем искать экстремум функции: .

Дифференцируя по p1, p2, .., ps и приравнивая производные нулю получим систему:

i=1, .., s

Откуда видно, что экстремум достигается при равных между собой p1.

Т.к. , то p1= p2=, .., = ps= 1/s.

Еденицей измерения энтропии является энтропия вероятностного пространства вида:

, которая называется 1 бит.

Неопределенность исхода испытания до испытания автоматически определяет информативность исхода испытания после испытания. Поэтому в битах также измеряется информативность исхода.

Рассмотрим два вероятностных пространства:

Проводим композицию двух испытаний. Композиционное пространство имеет вид:

i=1, .., s1 j=1, .., s2

С точки зрения качественного анализа максимальная энтропия композиционного вероятностного пространства достигается тогда, когда испытания независимы. Найдем энтропию композиционного пространства для случая независимых испытаний.

n испытаний называются системой испытаний Бернулли, если испытания независимы, в каждом из них происходит событие , либо с вероятностью наступления P(A) = p;

Найдем вероятность того, что в результате проведенных n испытаний событие А произошло m раз:

Рассмотрим композицию n независимых испытаний и построим композиционное пространство элементарных событий.

Общий вид элемента этого пространства следующий:

При этом вероятность наступления такого события равна:

(умножение при независимых событиях)

Найдем вероятность наступления любого элементарного события из композиционного пространства:

Рассмотрим в композиционном вероятностном пространстве событие: в n испытаниях событие A произошло m раз.

Событие A состоит из - общее кол-во элементарных событий, в которое входит событие А. А произошло m раз, - n-m раз. Вероятность каждого из этих элементарных событий одинакова и равна:

Следовательно, на основании III аксиомы теории вероятности результат равняется:

(сложение вероятностей)

Пусть имеется вероятностное пространство вида .

Случайной величиной называется измеримая числовая скалярная функция , элементами которой являются элементарные события.

Числовая скалярная функция - это функция, удовлетворяющая следующему условию:

соб

Вместе с этим смотрят:

"Инкарнация" кватернионов

*-Алгебры и их применение

10 способов решения квадратных уравнений

РЖнварiантнi пiдпростори. Власнi вектори i власнi значення лiнiйного оператора

РЖнженерна графiка