Теория вероятностей. Вероятность

Вероятностное пространство

Первые теоретические результаты по теории вероятностей относятся

к середине 17 века и принадлежат Б.Паскалю, П.Ферма, Х.Гюйгенсу, Я.Бернулли. Своим успехам в 18 веке и начале 19 века эта теория обязана А.Муавру, П.Лапласу, К.Гауссу, С.Пуассону, А.Лежандру. Значительные успехи в теории вероятностей были достигнуты в конце 19 и начале 20 века в работах Л.Больцмана, П.Чебышева, А.Ляпунова, А.Маркова, Э.Бореля и др. Однако, даже к началу 20 века еще не бы­ло создано строгой и непротиворечивой теории. Только аксиоматический подход позволил достичь этого. Впервые аксиоматическое построение теории было сделано С.Н.Бернштейном в 1917г., который в основу сво­их построений положил сравнение случайных событий по степени их вероятности. Однако этот подход не получил дальнейшего развития. Более плодотворным оказался аксиоматический подход, основанный на теории множеств и теории меры, развитый А.Н.Колмогоровым в 20-х годах 20-го века. j аксиоматике Колмогорова понятие случайного события, в отличие от классического подхода, не является исходным, а является следст­вием более элементарных понятий. Исходным у Колмогорова является множество (пространство) W элементарных событий (пространство ис­ходов, выборочное пространство). Природа элементов этого простран­ства не играет роли.

Если А,В,С Î W , то очевидны следующие отношения, установленные в теории множеств:

А+А = А, АА = А, АÆ =Æ , А +Æ = A, A +W =W, AW = А, W = Æ, Æ = W, А=А,

где чертой сверху обозначено дополнение в W; А+В = А B, AB = А + В, АВ=ВА, А+В = В+А, (А+В)+С=А+(В+С), (АВ)С=А(ВС), А(В+С) = АВ+АС, А+ВС = (А+В)(А+С);

здесь Æ обозначает пустое множество, т.е. невозможное событие.

В аксиоматике Колмогорова рассматривается некоторая система U подмножеств множества W, элементы которой называются случайными событиями. Система U удовлетворяет следующим требованиям: если под­множества А и В множества W входят в систему U, то эта система содержит также и множества А È В, А Ç В, А и В; само множество W. также является элементом системы U. Подобная система множеств на­зывается (булевой) алгеброй множеств.

Очевидно, из определения алгебры множеств следует, что семейству U принадлежит также и пустое множество Æ. Таким образом, алгебра множеств (т.е. множество случайных событий) замкнута относительно операций сложения, пересечения и образования дополнений, а следова­тельно, элементарные операции над случайными событиями не выводят за пределы множества случайных событий U.

Для большинства приложений необходимо требовать, чтобы семейство множеств U включало в себя не только конечные суммы и пересечения подмножеств множества W, но и счетные суммы и пересечения. Это приводит нас к определению понятия s-алгебры.

Определение 1.1. s-алгеброй называется семейство подмножеств (U) множества W, замкнутое относительно операций образования допол­нений, счетных сумм и счетных пересечений.

Понятно, что любая s-алгебра содержит само множество W и пустое множество. Если задано произвольное семейство U подмножеств множества W то наименьшая s-алгебра, содержащая все мно­жества семейства U, называется s-алгеброй, порожденной семейст­вом U.

Наибольшая s-алгебра содержит все подмножества s; она полезна в дискретных пространствах W, в которых вероятность обычно определяют для всех подмножеств множества W. Однако в более общих про­странствах определить вероятность (определение вероятности будет дано ниже) для всех подмножеств или невозможно, или нежелательно. Другим крайним определением s-алгебры может служить s-алгебра, состоящая только из множества W. и пустого множества Æ.

В качестве примера выбора W и s-алгебры подмножеств U рас­смотрим игру, в которой участники бросают игральную кость, на каждой из шести граней которой нанесены цифры от 1 до 6. При любых броса­ниях кости реализуется только шесть состояний: w 1 , w 2 , w 3 , w 4 , w 5 и w 6 , i-ое из которых означает выпадение i очков. Семейство U случайных событий состоит из 2 6 = 64 элементов, состав­ленных из всевозможных комбинаций w i: w 1 ,…,w 6 ; (w 1 ,w 6),...,(w 5 ,w 6);(w 1 ,w 2 ,w 3),...,(w 1 ,w 2 ,w 3 ,w 4 ,w 5 ,w 6) Æ.

Случайные события, т.е. элементы s-алгебры U мы будем часто обозначать буквами А, В,… Если два случайных события А и В не имеют в своем составе одних и тех же элементов w i ÎW, то будем на­зывать их несовместимыми. События А и A называются противоположными (в других обозначениях, вместо A можно положить СА). Теперь можно перейти к определению понятия вероятности.

Определение 1.2. Вероятностной мерой Р на s-алгебре U подмноже­ств множества W называется функция множества P, удовлетворяющая следующим требованиям:

1) Р(А) ³ 0; AÎU;

, т.е. обладающая свойством счетной аддитивности, где А k - взаимно непересекающиеся множества из U.

Таким образом, каково бы ни было выборочное пространство W , вероятности мы приписываем только множествам некоторой s-алгебры U и эти вероятности определяются величиной меры Р на этих множествах.

Таким образом, в любой задаче на исследование случайных событий исходным понятием служит выборочное пространство s, в котором тем или иным образом выбирается s-алгебра, на которой уже определяется вероятностная мера Р. Следовательно, можно дать следующее определение

Определение 1.3. Вероятностным пространством называется тройка (W,U,Р), состоящая из выборочного пространства W,s-ал­гебры U его подмножеств и вероятностной меры Р, определенной на U.

На практике могут встречаться задачи, в которых одним и тем же случайным событиям из U приписываются разные вероятности. Например, в случае симметричной игральной кости естественно положить:

Р(w 1) = Р(w 2) = ... = P(w 6) == 1/6,

а если кость несимметрична, то более соответствующими реальности.могут оказаться следующие вероятности: P(w 1) = Р(w 2) = Р(w 3) = Р(w 4) = 1/4, Р(w 5) = Р(w 6) = 1/12.

В основном мы будем иметь дело с множествами W, являющимися подмножествами конечномерного евклидова пространства R n . Главным объектом теории вероятностей являются случайные величины, т.е. неко­торые функции, определенные на выборочном пространстве W. Наша первая задача - ограничить класс Функций, которыми мы будем опериро­вать. Желательно выбрать такой класс функций, стандартные операции над которыми не выводили бы из этого класса, в частности, чтобы из этого класса не выводили, например, операции взятия поточечных пре­делов, композиции функций и т.п.

Определение 1.4. Наименьший класс функций B, замкнутый относительно поточечных предельных переходов (т.е. если ¦ 1 ,¦ 2 ,... принадлежат классу B и при всех x существует предел ¦(x) = lim¦ n (x), то и ¦(x) принадлежит B), содержащий все непрерывные функции, назы­вается классом Бэра.

Из этого определения следует, что сумма, разность, произведение, проекция, композиция двух бэровских функций снова являются бэровскими функциями, т.е. всякая функция от бэровской функции снова есть бэровская функция. Оказывается, что если ограничиться более узкими классами функций, то никакого усиления или упрощения теории получить не удается.

В общем случае случайные величины, т.е. функции Х = U(х), где XÎWÌR n , следует определить так, чтобы события {X £ t} при лю­бом t имели определенную вероятность, т.е. чтобы множества {X £ t} принадлежали семейству U , для элементов которого определены веро­ятности Р, т.е. чтобы величины Р{X £ t} были определены. Это при­водит нас к следующему определению измеримости функции относительно семейства U.

Определение 1.5. Действительная функция U(х), xÎW, назы­вается U-измеримой, если для всякого действительного t множество тех точек xÎW, при которых U(х)£t, принадлежит семейству U.

Поскольку s-алгебра U замкнута относительно операции взятия до­полнений, то в определении измеримости можно неравенство £ заме­нить на любое из неравенств ³, >, <. Из самого определения следует, что n-измеримые функции образуют замкнутый класс наподс бие класса бэровских функций.

Как уже было указано,s-алгебра может быть выбрана весьма произ­вольно, и, в частности, следующим образом: сначала на пространстве WÎR n определяются n-мерные интервалы, затем с помощью операций алгебры множеств из этих интервалов могут быть построены множества более сложной структуры и сформированы семейства множеств. Среди все возможных семейств, можно отобрать такое, которое содержит все открытые подмножества в W. Подобное построение приводит к следующему определению.

Определение 1.6. Наименьшая s-алгебра U b , содержащая все откры­тые (а следовательно, и все замкнутые) подмножества множествами WÌ R n называется борелевской s-алгеброй, а его множества - борелевскими.

Оказывается, что класс беровских функций B тождествен классу функ­ций, измеримых относительно s-алгебры U b борелевских множеств.

Теперь мы можем четко определить понятие случайной величины и вероятностной функции ее распределения.

Определение 1.7. Случайной величиной Х называется действительная функция Х =U(х), хÎW, измеримая относительно s-алгебры U, входящей в определение вероятностного пространства.

Определение 1.8. Функцией распределения случайной величины Х называется функция F(t) = Р{X £ t}, определяющая вероятность того, что случайная величина Х не превосходит значения t.

По заданной функции распределения F однозначным образом может быть построена вероятностная мера, и наоборот.

Рассмотрим основные вероятностные закономерности на примере ко­нечного множества W. Пусть A,BÌ W. Если А и В содержат общие эле­менты, т.е. АВ¹0, то можно записать: А+В=А+(В-АВ) и В = АВ+(В-АВ), где в правых частях стоят непересекающиеся множества (т.е. несовме­стимые события), а следовательно, по свойству аддитивности вероятно­стной меры: Р(А+В) = Р(В-АВ)+Р(А), Р(В) = Р(АВ)+Р(В-АВ); отсюда сле­дует Формула для суммы вероятностей произвольных собы­тий: Р(А+В) = Р(А) + Р(В) - Р(АВ).

Если при вычислении вероятности события А никаких условий не на­лагается, то вероятность Р(А) называется безусловной. Если событие А реализуется, например, при условии, что реализовалось событие В, то говорят об условной вероятности, обозначая ее символом Р(А/В). В аксиоматической теории вероятностей по определению полагается:

Р(А/В) = Р(АВ)/Р(В).

Чтобы интуитивно это определение стало понятным, рассмотрим, нап­ример, следующую ситуацию. Пусть в коробке лежат k бумажек, помеченных буквой А,r бумажек, помеченных буквой В, m бумажек, поме­ченных буквами А·В и n пустых бумажек. Всего имеется р = k + r + n + m бумажек. И пусть из коробки по очереди вытаскиваются одна бумажка за другой, причем после каждого вытаскивания отмечается тип вытащенной бумажки и она снова кладется в коробку. Результаты очень большого числа подобных испытаний записываются. Условная веро­ятность Р(А/В) означает, что событие А рассмат­ривается только в связи с реализацией события В. В данном примере это означает, что необходимо подсчитать число вытащенных бумажек с буквами А·В и буквой В и первое число разделить на сумму первого и второго чисел. При достаточно большом числе испытаний это отношение будет стремиться к числу , определяющему условную вероят­ность Р(А/В). Аналогичный подсчет других бумажек покажет, что

Вычисляя отношение

убеждаемся, что оно как раз совпадает с ранее вычисленным нами зна­чением для вероятности Р(А/В). Таким образом, получаем

Р(А·В) = Р(A/В)·Р(В).

Проводя аналогичные рассуждения, поменяв местами А и В, получим

Р(А·В) = Р(В/А)·Р(А)

Равенства

Р(А·B) = Р(А/В)·Р(В) = Р(В/А)·Р(А)

называют теоремой умножения вероятностей.

Рассмотренный пример позволяет также наглядно убедиться в спра­ведливости следующего равенства при A·B¹Æ :

Р(A + В) == Р(А) + Р(В) - Р(А·В).

Пример 1.1. Пусть дважды бросается рсается игральная кость и требуется определить вероятность P(A/B) выпадения в сумме 10 очков, если в первом бросании выпало 4.

Выпадение во втором бросании 6 имеет вероятность 1/6. Следовательно,

Пример1.2. Пусть имеется 6 урн:

в урне типа А 1 - два белых и один черный шар, в урне типа А 2 - два белых и два черных шара, в урне типа А 3 - два черных и один белый шар. Имеется 1 урна типа А 1 , 2 урны типа А 2 и 3 урны типа А 3 . Случайно выбирается урна и из нее шар. Какова ве­роятность, что этот шар белый? Обозначим через В событие вытаски­вания белого шара.

Чтобы решить задачу, предположим, что некоторое событие В реали­зуется только вместе с одним из n несовместимых событий А 1 ,..., А n , т.е. В = , где события ВА i и ВА j с разными индексами i и j несовместимы. Из свойства аддитивности вероятности Р следует:

Подставляя сюда зависимость (1.1), получаем

эта формула носит название формулы полной вероятности. Для решения последнего примера воспользуемся формулой полной вероятности. Так как белый шар (событие В) может быть взят из одной из трех урн (события А 1 , А 2 , А 3), то можно записать

В = А 1 В + А 2 В + А 3 В.

Формула полной вероятности дает

Подсчитаем вероятности, входящие в эту формулу. Вероятность, что шар взят из урны типа А 1 , очевидно равна Р(А 1) = 1/6, из урны типа А 2: Р(А 2) = 2/6 == 1/3 и из урны типа А 3: P(A 3) = 3/6 = 1/2. Если шар взят из урны типа А 1 , то Р(В/А 1) = 2/3 , если из урны типа А 2 , то Р(В/А 2)=1/2, а если из урны типа А 3 , то Р(В/А 3)= 1/3. Таким образом,

Р(В) =(1/6)(2/З)+ (1/3) (1/2) + (1/2) (1/3) = 4/9.

Условная вероятность Р(В/А) обладает всеми свойствами вероятности Р(В/А)³0, В(В/В) = 1 и P(В/А) аддитивна.

Поскольку

Р(А·В) == Р(В/А)-Р(А) = Р(А/В)·Р(В) ,

то отсюда следует, что если А не зависит от В, то есть если

Р(А/В) = Р(А),

то и В не зависит от А, т.е. Р(В/А) = Р(В).

Таким образом, в случае независимых событий теорема умножения принимает наиболее простой вид:

Р(А·В) = Р(А)·Р(В) (1.3)

Если события А и В независимыми, то независимы также и каждое из следующих пар событий: (A,В), (А,B), (A,В). Убедимся, например, что если А и В независимы, то независимы и А и Б. Поскольку Р(В/А) + Р(B/А) = I, то отсюда с учетом условия независимости собы­тий А и В, т.е. условия Р(В/А) = Р(В), следует: Р(В/А) = 1 - Р(В) = Р(В).

События могут быть попарно независимыми, но оказаться зависим-ыми в совокупности. В связи с этим вводится также понятие взаимной неза­висимости: события А 1 ,..., А n называются взаимно независимыми, если для всякого подмножества Е индексов 1,2,...,n выполняется равен­ство

На практике нередко приходится оценивать вероятности гипотез после того, как проведено некоторое испытание. Пусть, например, со­бытие В может реализоваться лишь с одним из несовместимых событий А 1 ,...,А n , т.е. и пусть событие В реализовалось.Требуется найти вероятность гипотезы (события) А i при условии,

что В произошло. Из теоремы умножения

Р(А i В) = Р(В) Р(А i /В) = Р(А i) Р(В/А i)

С учетом формулы полной вероятности для Р(В) отсюда следует

Эти формулы носят название формул Байеса.

Пример 1.3. Пусть в примере 1.2 вытащен белый шар и требуется оп­ределить, какова вероятность, что он взят из урны типа 3.

Центральным понятием теории вероятности является понятие вероятностного пространства.

Начнем с пространства элементарных событий. Так называется перечень, список, реестр или, как говорят математики, множество событий, которым может закончиться случайный эксперимент.

Поясним сказанное примерами.

Случайный эксперимент – бросание монеты. Чаще всего говорят, что этот эксперимент заканчивается одним из двух событий – выпадает «орёл» или «решка». Хотя некоторые говорят, что этот перечень неполный – не хватает события «монета упала на ребро». Кто прав? И одни и другие! Всё зависит от задачи, которую предстоит решить. Конечно, «падение на ребро» - крайне маловероятное событие и чаще всего такой исход эксперимента можно не принимать во внимание. Итак, будем считать, что в этом эксперименте возможны только два взаимоисключающие исхода , два события , и поэтому пространство элементарных событий состоит из двух элементов –

В этой записи буквой обозначено пространство элементарных событий, а буквы О и Р обозначают сами события.

Ещё один пример случайного эксперимента – бросание игральной кости. Здесь пространство элементарных событий состоит из 6 элементов

Цифрой 1 обозначено событие, состоящее в том, что в результате эксперимента выпала грань, на которой изображена одна точка, 2 – две точки и т.д.

Здесь важно понять, что имеется в виду, когда говорят об элементарных событиях. Вспомним событие, которое состоит в том, что на кости выпадет четное число очков. Легко догадаться, что в нашей модели оно не элементарное – состоит из трёх элементарных.

В теории вероятности подразумевается, что пространство элементарных событий состоит из действительно элементарных событий. Описание элементарных событий – первая задача исследователя.

где - элементарные события, – число возможных исходов эксперимента.

В теории вероятностей этот случай называется дискретной схемой.

Итак, со случайным экспериментом мы, в первую очередь, связываем пространство элементарных событий.

Построение пространства элементарных событий, чаще всего, очень несложная процедура, хотя по числу элементов пространство может оказаться весьма громоздким. Вот несколько примеров.

В популярной лотерее 7 из 49 пространство элементарных событий содержит более чем 143 миллиона элементов.

Случайный эксперимент состоит в бросании двух игральных костей. Пространство элементарных событий для этого эксперимента можно изобразить в виде

Конечно это не матрица. Можно было перечислить все элементарные события, записав их в строчку и в любом порядке. Но так удобнее! Кстати, об обозначениях: элемент (3,5) соответствует элементарному событию – на первой кости выпало 3 очка, на второй – 5 очков.

От элементарных событий перейдём к событиям.

Событие – это любое подмножество пространства элементарных событий.

В эксперименте с бросанием игральной кости пространство элементарных событий
.

Существует 2 6 = 64 различных подмножеств множества , 64 различных события, которыми может закончиться такой эксперимент:

Событие А – выпало нечётное число очков состоит из трёх элементарных событий, А ={1, 3, 5}, событие А происходит, если эксперимент заканчивается одним из тех элементарных событий, которые входят в событие А;

событие В – выпало число очков делится на 3 без остатка, B = {3,6}.

Важно понимать и помнить, что эксперимент всегда заканчивается одним и только одним элементарным событием.

Всё пространство элементарных событий называется достоверным событием.

Каждому событию можно поставить в соответствие противоположное событие .

Противоположное событие к событию – событие .

Противоположное событие к событию B = {3,6} – событие .

Противоположное событие к событию не содержит элементарных событий – невозможное событие, его обозначают .

В число событий входят:

все элементарные события;

всё пространство элементарных событий ;

противоположное событие .

События можно складывать и перемножать.

Суммой двух событий А и В называется событие А+В, в котором присутствуют все элементарные события из А и все элементарные события из В.

Сумма А+В ={2, 4, 6} + {3, 6} = {2, 3, 4, 6}. Действительно в сумме А+В присутствуют все элементарные события из А и все элементарные события из В.

Произведением А·В событий А и В (обозначается А·В) называется событие, которое состоит из тех и только тех элементарных, которые входят одновременно и в А и в В.

В последнем примере А·В = ={2, 4, 6} · {3, 6} = {6}, число очков чётное и делится на 3 без остатка.

Для «построения» теории вероятностей у нас уже есть:

пространство элементарных событий;

события (состоящие из элементарных);

простейшие операции над событиями, сложение, умножение, дополнение.

Теперь каждому элементарному событию из пространства элементарных событий припишем положительное число так, что все и

Определение вероятностного пространства

При построении математической модели мы должны найти компромисс между двумя обстоятельствами. С одной стороны, она должна быть достаточно подробной, чтобы учесть все существенные черты изучаемого явления. С другой стороны, необходимо отбросить все несущественные детали, затемняющие суть дела. Излишняя подробность затрудняет изучение свойств модели, а чрезмерное упрощение может привести к неправильным выводам относительно поведения реальной системы.

Мы начинаем изучение курса теории вероятностей с исследования свойств моделей таких случайных экспериментов, которые имеют конечное или счетное число исходов. Элементарным исходом мы будем называть такое событие, которое однозначно (с определенной точки зрения) говорит о том, чем закончился эксперимент. Это сразу же накладывает на множество элементарных исходов следующее важное ограничение: в каждом испытании происходит один и только один элементарный исход.

Чтобы понять, как должна выглядеть наша модель, рассмотрим пример. Однородный игральный кубик в одинаковых условиях подбрасывают много раз и отмечают число очков, выпавших на верхней грани. Ясно, что в этом эксперименте есть 6 элементарных исходов, которые мы обозначим(означает, что выпало к очков). Пусть- относительная частота появления исхода. Тогда эти частоты обладают следующими свойствами:

1

2

Как отмечалось выше, частоты тяготеют к некоторым числам, которые мы будем называть вероятностями этих исходов. Ясно, что они должны наследовать свойства частот. Эти предварительные рассмотрения приводят нас к следующему определению.

Определение 1. Дискретным вероятностным пространством называется пара, где -конечное или счетное множество, Р - вещественная функция, заданная на, такая, что

1)

2)

Множество называется пространством элементарных исходов, его элементы -элементарными исходами, а число - вероятностью появления элементарного исхода .

Пример 1. Симметричную монету подбрасывают один раз. Здесь два элементарных исхода: выпал герб - Г, выпала цифра - Ц. Таким образом,. В силу симметрии естественно положить 5

Пример 2. Однородный симметричный игральный кубик подбрасывают один раз. В этом случае

Другие примеры будут приведены на практических занятиях. Важную роль играет следующий частный случай дискретного вероятностного пространства.

Определение 2 . Говорят, что мы имеем задачу на классическое определение вероятности, если-конечное множество и для всех,, т.е. все исходыравновозможны.

Обычно предположение о равновозможности исходов делается из соображений симметрии задачи. Но так ли это на самом деле (т.е. верна ли модель), можно установить только из сравнения с экспериментальными данными.

События и операции над ними

До сих пор мы рассматривали только элементарные исходы, т.е. в некотором смысле простейшие события. Но кроме них нас могут интересовать и другие, более сложные события. В примере 2 мы можем рассмотреть событие А, состоящее в том, что выпало четное число очков. В теории вероятностей о каждом событии мы хотим знать только одно: произошло оно или нет в данном испытании. Каждое испытание (т.е. однократное проведение эксперимента) заканчивается появлением одного из элементарных исходов, которые однозначно описывают то, чем закончился эксперимент. В частности, по элементарному исходу можно определить, произошло событие А или нет. Поэтому все элементарные исходы делятся на две группы: те , которые приводят к появлению события А (назовем их благоприятными этому событию), и все остальные. С точки зрения их появления в рассматриваемом эксперименте событие А и множество благоприятных для него исходов являются для нас эквивалентными. Таким образом, мы приходим к следующему определению.

Определение 3 . Случайным событием назовем произвольное подмножество А пространства элементарных исходов Будем говорить, что событие произошло, если появился элементарный исход, ему принадлежащий, т.е. благоприятный.

Пример 3. Подбрасывают игральный кубик, А - выпала четная цифра. Тогда

В силу того, что каждое случайное событие отождествляется с некоторым подмножеством А пространства элементарных исходов О, различные операции над множествами позволяют определить некоторые операции над событиями. С точки зрения теории вероятностей каждое событие характеризуется только тем, когда оно происходит, а когда нет. Поэтому определения операций над событиями даются именно в этих терминах. С другой стороны, они соответствуют определенным операциям над множествами. Отсюда появляется определенная двойственность терминологии.

Определение 4 .

1) Событие называется достоверным, если оно происходит всегда, и невозможным, если оно никогда не происходит. Этим событиям соответствуют все пространствои пустое множество.

2) Объединением двух событий А и В называется такое событие С, которое происходит тогда и только тогда, когда происходит хотя бы одно из этих двух событий. На языке теории множеств это соответствует операции объединения множеств и обозначается как

3) Пересечением двух событий А и В называется такое событие С, которое происходит тогда и только тогда, когда происходят оба эти события одновременно. Это соответствует операции пересечения множеств и обозначаетсяили

4) События А и В называются несовместными (непересекающимися), если они не могут происходить одновременно. Это соответствует непересекающимся множествам и обозначается

5) Суммой событий А и В называется их объединение в случае, когда они несовместны. Это не новая операция, а частный случай определения 2 и обозначается

6) Событиеназывается противоположным к событию А, если оно происходит тогда и только тогда, когда не происходит событие А. На языке теории множеств это соответствует переходу к дополнению множества А.

7) Разностью двух событий А и В называется такое событие С, которое происходит тогда и только тогда, когда происходит А и не происходит В. Это соответствует операции разности множеств и обозначается

8) Говорят, что событие А влечет событие В, если при появлении события А, обязательно происходит и событие В. Это означает, что множество А есть часть (подмножество) множества В и обозначается

Чтобы наглядно представлять себе операции над событиями, полезно рисовать их в виде некоторых фигур на плоскости, например кругов. Картинки такого рода называются диаграммами Венна.

Конкретные примеры событий и операций над ними будут рассмотрены далее, а также на практических занятиях. Некоторые свойства операций над событиями собраны в следующем предложении.

Предложение 1

Задача 1. Доказать предложение 1.

Во многих задачах нас интересует не все множество событий, связанных с данным экспериментом, а только некоторые из них. Но всегда нам хотелось бы, чтобы определенные выше операции над событиями не выводили нас за пределы рассматриваемого множества событий. В связи с этим полезно следующее понятие.

Определение 5 . Некоторый класс событий называется алгеброй событий, если

Задача 2. Доказать, что все определенные выше операции не выводят нас за пределы алгебры

С практической точки зрения выбор некоторой алгебры событий соответствует определенному взгляду на случайный эксперимент. Алгебра событий - это только те события, которые нас интересуют с этой точки зрения (например, те, которые доступны наблюдению).

Вероятности событий и их свойства

До сих пор мы рассматривали только вероятности элементарных исходов. Теперь мы определим вероятности событий и исследуем некоторые их свойства.

Определение 6 . Вероятностью события А называется число

(2.1)

Пример 4. Симметричный игральный кубик подбрасывают один раз. Найти вероятность события А, состоящего в том, что выпала четная цифра.

В этом случае,.

Пример 5. Пусть мы имеем задачу на классическое определение вероятности. Если, где- общее число элементарных исходов, а- число благоприятных исходов для события

А, то

Именно этот результат обычно приводят в качестве определения в элементарных учебниках по теории вероятностей.

Соберем некоторые простейшие свойства вероятностей в виде следующего предложения.

Предложение 2 . Пусть выделена некоторая алгебра событий, для которых определены вероятности по формуле (1). Тогда справедливы следующие свойства:

Доказательство. Основными являются свойства 1-3. Только здесь мы будем использовать в явном виде то, что мы работаем в рамках дискретного вероятностного пространства. Все остальные свойства будут выведены из этих трех.

Свойства 1 и 2 вытекают непосредственно из определений дискретного вероятностного пространства и вероятности события.

Докажем свойство 3. Пусть, вначале,. Тогда мы имеем два событияи. Так как они несовместны, то исходы распадаются на два непересекающихся класса: те, что принадлежат, и те, что принадлежат. В силу свойств рядов с неотрицательными членами имеем

Для произвольного доказательство проводится по индукции. Предлагается это сделать самостоятельно.

Свойство 4 очевидно следует из определения вероятности события и того, что сумма вероятностей всех элементарных исходов равна 1.

Событияинесовместны, и. Используя свойства 2 и 3, имеем:

Представим события А, В ив следующем виде:

Этим доказано свойство 5.

Свойства 6,7,8,9 можно доказать аналогично (сделать самостоятельно!).

Докажем свойство 10. Для упрощения доказательства введем одно новое понятие, которое будет полезным и в других вопросах.

Индикатором события А называется функция, заданная на пространстве элементарных исходовпо правилу:

Легко доказать следующие свойства индикаторов событий.

События образуют полную группу , если хотя бы одно из них обязательно произойдет в результате эксперимента и попарно несовместны.

Предположим, что событие A может наступить только вместе с одним из нескольких попарно несовместных событий , образующих полную группу. Будем называть события (i = 1, 2,…, n ) гипотезами доопыта (априори). Вероятность появления события А определяется по формуле полной вероятности :

Пример 16. Имеются три урны. В первой урне находятся 5 белых и 3 черных шара, во второй – 4 белых и 4 черных шара, а в третьей – 8 белых шаров. Наугад выбирается одна из урн (это может означать, например, что осуществляется выбор из вспомогательной урны, где находятся три шара с номерами 1, 2 и 3). Из этой урны наудачу извлекается шар. Какова вероятность того, что он окажется черным?

Решение. Событие A – извлечен черный шар. Если было бы известно, из какой урны извлекается шар, то искомую вероятность можно было бы вычислить по классическому определению вероятности. Введем предположения (гипотезы) относительно того, какая урна выбрана для извлечения шара.

Шар может быть извлечен или из первой урны (гипотеза ), или из второй (гипотеза ), или из третьей (гипотеза ). Так как имеются одинаковые шансы выбрать любую из урн, то .

Отсюда следует, что

Пример 17. Электролампы изготавливаются на трех заводах. Первый завод производит 30 % общего количества электроламп, второй – 25 %,
а третий – остальную часть. Продукция первого завода содержит 1% бракованных электроламп, второго – 1,5 %, третьего – 2 %. В магазин поступает продукция всех трех заводов. Какова вероятность того, что купленная в магазине лампа оказалась бракованной?

Решение. Предположения необходимо ввести относительно того, на каком заводе была изготовлена электролампа. Зная это, мы сможем найти вероятность того, что она бракованная. Введем обозначения для событий: A – купленная электролампа оказалась бракованной, – лампа изготовлена первым заводом, – лампа изготовлена вторым заводом,
– лампа изготовлена третьим заводом.

Искомую вероятность находим по формуле полной вероятности:

Формула Байеса.

Пусть – полная группа попарно несовместных событий (гипотезы). А – случайное событие. Тогда,

Последнюю формулу, позволяющей переоценить вероятности гипотез после того, как становится известным результат испытания, в итоге которого появилось событие А, называют формулой Байеса .

Пример 18. В специализированную больницу поступают в среднем 50 % больных с заболеванием К , 30 % – c заболеванием L , 20 % –
с заболеванием M . Вероятность полного излечения болезни K равна 0,7 для болезней L и M эти вероятности соответственно равны 0,8 и 0,9. Больной, поступивший в больницу, был выписан здоровым. Найдите вероятность того, что этот больной страдал заболеванием K .

Решение. Введем гипотезы: – больной страдал заболеванием К L , – больной страдал заболеванием M .

Тогда по условию задачи имеем . Введем событие А – больной, поступивший в больницу, был выписан здоровым. По условию

По формуле полной вероятности получаем:

По формуле Байеса .

Вероятности и правила действия с ними. Для полного описания механизма исследуемого случайного эксперимента недостаточно задать лишь пространство элементарных событий. Очевидно, наряду с перечислением всех возможных исходов исследуемого случайного эксперимента мы должны также знать, как часто в длинной серии таких экспериментов могут происходить те или другие элементарные события. Действительно, возвращаясь, скажем, к примерам легко представить себе, что в рамках каждого из описанных в

них пространств элементарных событий можно рассмотреть бесчисленное множество случайных экспериментов, существенно различающихся по своему механизму Так, в примерах 4.1-4.3 мы будем иметь существенно различающиеся относительные частоты появления одних и тех же элементарных исходов, если будем пользоваться различными моментами и игральными костями (симметричными, со слегка смещенным центром тяжести, с сильно смещенным центром тяжести и т. п.) В примерах 4.4-4.7 частота появления дефектных изделий, характер засоренности дефектными изделиями проконтролированных партий и частоты появления определенного числа сбоев станков автоматической линии будут зависеть от уровня технологической оснащенности изучаемого производства: при одном и том же пространстве элементарных событий частота появления «хороших» элементарных исходов будет выше в производстве с более высоким уровнем технологии.

Для построения (в дискретном случае) полной и законченной математической теории случайного эксперимента - теории вероятностей помимо уже введенных исходных понятий случайного эксперимента, элементарного исхода и случайного события необходимо запастись еще одним исходным допущением (аксиомой), постулирующим существование вероятностей элементарных событий (удовлетворяющих определенной нормировке), и определением вероятности любого случайного события.

Аксиома. Каждому элементу пространства элементарных событий Q соответствует некоторая неотрицательная числовая характеристика шансов его появления, называемая вероятностью события причем

(отсюда, в частности, следует, что для всех ).

Определение вероятности события. Вероятность любого события А определяется как сумма вероятностей всех элементарных событий, составляющих событие А, т. е. если использовать символику для обозначения «вероятности события А», то

Отсюда и из (4.2) непосредственно следует, что всегда причем вероятность достоверного события

равна единице, а вероятность невозможного события равна нулю. Все остальные понятия и правила действий с вероятностями и событиями будут уже производными от введенных выше четырех исходных определений (случайного эксперимента, элементарного исхода, случайного события и его вероятности) и одной аксиомы.

Таким образом, для исчерпывающего описания механизма исследуемого случайного эксперимента (в дискретном случае) необходимо задать конечное или счетное множество всех возможных элементарных исходов Q и каждому элементарному исходу поставить в соответствие некоторую неотрицательную (не превосходящую единицы) числовую характеристику интерпретируемую как вероятность появления исхода причем установленное соответствие типа должно удовлетворять требованию нормировки (4.2).

Вероятностное пространство как раз и является понятием, формализующим такое описание механизма случайного эксперимента. Задать вероятностное пространство - это значит задать пространство элементарных событий Q и определить в нем вышеуказанное соответствие типа

Очевидно, соответствие типа (4.4) может быть задано различными способами: с помощью таблиц, графиков, аналитических формул, наконец, алгоритмически.

Как же построить вероятностное пространство, соответствующее исследуемому реальному комплексу условий? С наполнением конкретным содержанием понятий случайного эксперимента, элементарного события, пространства элементарных событий, а в дискретном случае -и любого разложимого случайного события затруднений, как правило, не бывает. А вот определить из конкретных условий решаемой задачи вероятности отдельных элементарных событий не так-то просто! С этой целью используется один из следующих трех подходов.

Априорный подход к вычислению вероятностей заключается в теоретическом, умозрительном анализе специфических условий данного конкретного случайного эксперимента (до проведения самого эксперимента). В ряде ситуаций этот предопытный анализ позволяет теоретически обосновать способ определения искомых вероятностей. Например, возможен случай, когда пространство всех возможных

элементарных исходов состоит из конечного числа N элементов, причем условия производства исследуемого случайного эксперимента таковы, что вероятности осуществления каждого из этих N элементарных исходов нам представляются равными (именно в такой ситуации мы находимся при подбрасывании симметричной монеты, бросании правильной игральной кости, случайном извлечении игральной карты из хорошо перемешанной колоды и т. п.). В силу аксиомы (4.2) вероятность каждого элементарного события равна в этом случае MN. Это позволяет получить простой рецепт и для подсчета вероятности любого события: если событие А содержит NA элементарных событий, то в соответствии с определением (4.3)

Смысл формулы (4.3) состоит в том, что вероятность события в данном классе ситуаций может быть определена как отношение числа благоприятных исходов (т. е. элементарных исходов, входящих в это событие) к числу всех возможных исходов (так называемое классическое определение вероятности). В современной трактовке формула (4.3) не является определением вероятности: она применима лишь в том частном случае, когда все элементарные исходы равновероятны.

Апостериорно-частотный подход к вычислению вероятностей отталкивается, по существу, от определения вероятности, принятого так называемой частотной концепцией вероятности (подробнее об этой концепции см., например, в , ). В соответствии с этой концепцией вероятность определяется как предел относительной частоты появления исхода со в процессе неограниченного увеличения общего числа случайных экспериментов т. е.

где - число случайных экспериментов (из общего числа произведенных случайных экспериментов), в которых зарегистрировано появление элементарного события Соответственно для практического (приближенного) определения вероятностей предлагается брать относительные частоты появления события со в достаточно длинном

ряду случайных экспериментов Подобный способ вычисления вероятностей не противоречит современной (аксиоматической) концепции теории вероятностей, поскольку последняя построена таким образом, что эмпирическим (или выборочным) аналогом объективно существующей вероятности любого события А является относительная частота осуществления этого события в ряду из независимых испытаний. Разными в этих двух концепциях оказываются определения вероятностей: в соответствии с частотной концепцией вероятность не является объективным, существующим до опыта, свойством изучаемого явления, а появляется только в связи с проведением опыта или наблюдения; это приводит к смешению теоретических (истинных, обусловленных реальным комплексом условий «существования» исследуемого явления) вероятностных характеристик и их эмпирических (выборочных) аналогов. Как пишет Г. Крамер, «указанное определение вероятности можно сравнить, например, с определением геометрической точки как предела пятен мела неограниченно убывающих размеров, но подобного определения современная аксиоматическая геометрия не вводит» (). Мы не будем здесь останавливаться на математических изъянах частотной концепции вероятности. Отметим лишь принципиальные сложности реализации вычислительного приема получения приближенных значений с помощью относительных частот Во-первых, сохранение неизменными условий случайного эксперимента (т. е. сохранение условий статистического ансамбля), при котором оказывается справедливым допущение о тенденции относительных частот группироваться вокруг постоянного значения, не может поддерживаться неограниченно долго и с высокой точностью. Поэтому для оценки вероятностей с помощью относительных частот не имеет

смысла брать слишком длинные ряды (т. е. слишком большие ) и потому же, кстати, точный переход к пределу (4.5) не может иметь реального смысла. Во-вторых, в ситуациях, когда мы имеем достаточно большое число возможных элементарных исходов (а они могут образовывать и бесконечное, и даже, как это было уже отмечено в § 4.1, континуальное множество), даже в сколь угодно длинном ряду случайных экспериментов мы будем иметь возможные исходы ни разу не осуществившиеся в ходе нашего эксперимента; да и по остальным возможным исходам полученные с помощью относительных частот приближенные значения вероятностей будут в этих условиях крайне мало надежными.

Апостериорно-модельный подход к заданию вероятностей отвечающему конкретно исследуемому реальному комплексу условий, является в настоящее время, пожалуй, наиболее распространенным и наиболее практически удобным. Логика этого подхода следующая. С одной стороны, в рамках априорного подхода, т. е. в рамках теоретического, умозрительного анализа возможных вариантов специфики гипотетичных реальных комплексов условий разработан и исследован набор модельных вероятностных пространств (биномиальное, пуассоновское, нормальное, показательное и т. п., см. § 6.1). С другой стороны, исследователь располагает результатами ограниченного ряда случайных экспериментов. Далее с помощью специальных математико-статистических приемов (основанных на методах статистического оценивания неизвестных параметров и статистической проверки гипотез, см. гл. 8 и 9) исследователь как бы «прилаживает» гипотетичные модели вероятностных пространств к имеющимся у него результатам наблюдения (отражающим специфику изучаемой реальной действительности) и оставляет для дальнейшего использования лишь ту модель или те модели, которые не противоречат этим результатам и в некотором смысле наилучшим образом им соответствуют.

Опишем теперь основные правила действий с вероятностями событий, являющиеся следствиями принятых выше определений и аксиомы.

Вероятность суммы событий (теорема сложения вероятностей). Сформулируем и докажем правило вычисления вероятности суммы двух событий Для этого разобьем каждое из множеств элементарных событий,

составляющих события на две части:

где объединяет все элементарные события со, входящие в но не входящие в состоит из всех тех элементарных событий, которые одновременно входят и в Пользуясь определением (4.3) и определением произведения событий имеем:

В то же время в соответствии с определением суммы событий и с (4.3) имеем

Из (4.6), (4.7) и (4.8) получаем формулу сложения вероятностей (для двух событий):

Формула (4.9) сложения вероятностей может быть обобщена на случай произвольного числа слагаемых (см., например, 183, с. 105):

где «добавки» вычисляются в форме суммы вероятностей вида

причем суммирование в правой части производится, очевидно, при условии, что все различны, . В частном случае, когда интересующая нас система состоит лишь из несовместных событии, все произведения вида

будут пустыми (или невозможными) событиями и соответственно формула (4.9) дает

Вероятность произведения событий (теорема умножения вероятностей). Условная вероятность.

Рассмотрим ситуации, когда заранее поставленное условие или фиксация некоторого уже осуществившего события исключают из числа возможных часть элементарных событий анализируемого вероятностного пространства. Так, анализируя совокупность из N изделий массового производства, содержащую изделий первого, - второго, - третьего и - четвертого сорта мы рассматриваем вероятностное пространство с элементарными исходами и их вероятностями - соответственно (здесь означает событие, заключающееся в том, что наугад извлеченное из совокупности изделие оказалось сорта). Предположим, условия сортировки изделий таковы, что на каком-то этапе изделия первого сорта отделяются от общей совокупности и все вероятностные выводы (и, в частности, подсчет вероятностей различных событий) нам предстоит строить применительно к урезанной совокупности, состоящей только из изделий второго, третьего и четвертого сорта. В таких случаях принято говорить об условных вероятностях, т. е. о вероятностях, вычисленных при условии уже осуществленного некоторого события. В данном случае таким осуществленным событием является событие т. е. событие, заключающееся в любое наугад извлеченное изделие является либо второго, либо третьего, либо четвертого сорта. Поэтому, если нас интересует подсчет условной вероятности события А (при условии, что событие В уже имеет место), заключающегося, например, в том, что наугад извлеченное изделие окажется второго или третьего сорта, то, очевидно, эта условная вероятность (обозначим ее ) может быть определена следующим соотношением:

Как легко понять из этого примера, подсчет условных вероятностей - это, по существу, переход в другое, урезанное заданным условием В пространство элементарных событий, когда соотношение вероятностей элементарных событий в урезанном пространстве остается тем же, что и в исходном (более широком), но все они нормируются (делятся на ) для того, чтобы и в новом вероятностном пространстве выполнялось требование нормировки (4.2). Конечно, можно было бы не вводить терминологии с условными вероятностями, а просто использовать аппарат обычных («безусловных») вероятностей в новом пространстве. Запись в терминах вероятностей «старого» пространства бывает полезной в тех случаях, когда по условиям конкретной задачи мы должны все время помнить о существовании исходного, более широкого пространства элементарных событий.

Получим формулу условной вероятности в общем случае. Пусть В - событие (непустое), N считающееся уже состоявшимся («условие»), событие, условную вероятность которого требуется вычислить. Новое (урезанное) пространство элементарных событий Q состоит только из элементарных событий, входящих в В, и, следовательно, их вероятности (с условием нормировки ) определяются соотношениями

По определению, вероятность - это вероятность события А в «урезанном» вероятностном пространстве и, следовательно, в соответствии с (4.3) и (4.10)

или, что то же,

Эквивалентные формулы (4.11) и (4.11") принято называть соответственно формулой условной вероятности и правилом умножения вероятностей.

Еще раз подчеркнем, что рассмотрение условных вероятностей различных событий при одном и том же условии В равносильно рассмотрению обычных вероятностей в другом (урезайном) пространстве элементарных событий пересчетом соответствующих вероятностей элементарных событий по формуле (4.10). Поэтому все общие теоремы и правила действий с вероятностями остаются в силе и для условных вероятностей, если эти условные вероятности берутся при одном и том же условии.

Независимость событий.

Два события А и В называют независимыми, если

Для пояснения естественности такого определения Еернемся к теореме умножения вероятностей (4.11) и посмотрим, в каких ситуациях из нее следует (4.12). Очевидно, это может быть тогда, когда условная вероятность равна соответствующей безусловной вероятности , т.е., грубо говоря, тогда, когда знание того, что произошло событие никак не влияет на оценку шансов появления события А.

Распространение определения независимости на систему более чем двух событий выглядит следующим образом. События называются взаимно независимыми, если для любых пар, троек, четверок и т.д. событий, отобранных от этого набора событий, справедливы следующие правила умножения:

Очевидно, в первой строке подразумевается

(число сочетаний из k по два) уравнений, во второй - и т. д. Всего, следовательно, (4.13) объединяет условий. В то же время условий первой строки достаточно для обеспечения попарной независимости этих событий. И хотя попарная и взаимная независимость системы событий, строго говоря, не одно и то же, их различие представляет скорее теоретический, чем практический интерес: практически важных примеров попарно независимых событий, не являющихся взаимно независимыми, по-видимому, не существует.

Свойство независимости событий сильно облегчает анализ различных вероятностей, связанных с исследуемой системой событий. Достаточно сказать, что если в общем случае для описания вероятностей всевозможных комбинаций событий системы нужно задать 2 вероятностей, то в случае взаимной независимости этих событий достаточно лишь k вероятностей

Независимые события весьма часто встречаются в изучаемой реальной действительности они осуществляются в экспериментах (наблюдениях), проводимых независимо друг от друга в обычном физическом смысле.

Именно свойство независимости исходов четырех последовательных бросаний игральной кости позволило (с помощью (4.13)) легко подсчитать вероятность невыпадения (ни при одном из этих бросаний) шестерки в задаче п. 2.2.1. Действительно, обозначив событие, заключающееся в невыпадении шестерки в бросании (эта возможность непосредственно вытекает из того, что события исчерпывают в сумме все пространство элементарных событий и попарно не пересекаются), т. е.

Далее, воспользовавшись теоремой сложения вероятностей (применительно к несовместным событиям, каковыми являются события ) и вычислив вероятность каждого из произведений по формуле произведения вероятностей (4.1 Г), мы и получаем (4.14).

Формула Байеса.

Обратимся вначале к следующей задаче. На складе имеются приборы, изготовленные тремя заводами: 20 % приборов, имеющихся на складе, изготовлено заводом № 1, 50 % - заводом № 2 и 30 % - заводом № 3. Вероятности того, что в течение гарантийного срока прибору потребуется ремонт, для продукции каждого из заводов равны соответственно 0,2; 0,1; 0,3. Взятый со склада прибор не имел заводской маркировки и потребовал ремонта (в течение гарантийного срока). Каким заводом вероятнее всего был изготовлен этот прибор? Какова эта вероятность? Если обозначить событие, заключающееся в том, что случайно взятый со склада прибор оказался изготовленным на

Подставляя (4.16) и (4.17) в (4.15), получаем

Воспользовавшись этой формулой, нетрудно подсчитать искомые вероятности:

Следовательно, вероятнее всего некондиционный прибор был изготовлен на заводе № 3.

Доказательство формулы (4.18) в случае полной системы событий, состоящей из произвольного числа k событий, в точности повторяет доказательство формулы (4.18). В таком общем виде формулу

принято называть формулой Байеса.