확률과 통계/확률과 랜덤 프로세스 기초

[확률과 랜덤프로세스 기초] 1. Basic Probability Concepts

끵뀐꿩긘 2022. 7. 9. 22:42

1. Basic Probability Concepts


1.1 개론, introduction

 

random phenomena(랜덤 현상)은 근본적으로 일련의 가능한 결과나 이벤트와 연관이 있으며, 이러한 각 사건들과 관련있는 것은  반복된 시행에서 사건의 발생빈도를 나타내는 Probability 확률이다.

$$0\leq  Probability \leq 1$$


1.2 표본공간과 사건 ,Sample Space and Events

experiment(실험): 어떤 시행이나 관찰

random experiment: 수행되기 전에는 결과가 uncertain인 실험

sample space(표본공간): random experiment를 수행하였을 때 나올 수 있는 outcome의 집합, S

event: 사건은 언제나 sample space의 subset(부분집합)이다

 

주사위를 던지는 실험의 표본공간 $S$

$$S = \{1,2,3,4,5,6\}$$

주사위를 던지는 실험에서 주사위가 짝수가 나올 사건$E$

$$E = \{2,4,6\}, \;\; E\subset S$$

 

sample space $S$와 event $A,B$가 있을 때,

$A \cup  B$는 사건 $A$ 그리고 $B$ 모두에 해당하는 사건 = union of events A and B

$A \cap  B$는 사건 $A$ 또는 $B$에 해당하는 사건 = intersection of events A and B

$mutually\;exclusive$는 두 이벤트 $A$와 $B$ 사이에 같은 sample point가 없는 경우

$A - B$는 사건 $A$ 에 해당하지만  $B$에는 해당하지 않는 사건 = differences of event A and B


1.3 확률의 정리 , Definitions of probability

 

**공리 (Axiom) 는 하나의 이론에서 증명 없이 바르다고 하는 명제

1. Axiomatic Definition(공리적 정의):

sample space$S$, event $A$, A에 대한 확률 $P(A)$에서

 

axiom 1: $0 \leq P(A) \leq 1$

axiom 2: P(S) = 1

axiom 3: mutually exclusive events $A_1, A_2, \cdots A_n$이 있으면,$$P(A_1 \cap A_2 \cap \cdots \cap A_n) = P(A_1) +P(A_2) + \cdots + P(A_n)$$

 

2. Relative - Frequency Definition:

event $A$, 실험 수행 수 $N$, $A$ 사건 발생 빈도 $N_A$

$$P(A) = \lim_{n \to \infty} \frac{N_A}{N}$$

 

3. Classical Definition:

sample space의 총 sample point 수 $N$, A 사건이 일어날 경우의 수 $N_A$

$$P(A) = \frac{N_A}{N}$$

 

동전이 나타낼 수 있는 결과 = ${H , T}$

동전이 앞을 나타낼 사건 A이 일어나는 경우 = 1, $P(A) = \frac{1}{2}$


1.4 확률의 활용, Applications of Probability

 

Reliability Engineering(신뢰성 공학), Quality Control(품질 관리), Channel Noise관리, System Simulation 등에 사용된다.

 


1.5 집합론 기초, Elementary Set Theroy

 

집합(set): 특정한 조건에 맞는 별개의 원소들의 모임(a collection of distinct elements)

 

Equality, $A = B$ $A \subset B$ and $B \subset A$

 

Complementation, $A \subset S$일때, $A$의 complement(여집합)은 $\bar{A}$이다

$$\bar{A} = \{k | k \in S\; and\; k \notin A\}$$

 

Union, $A \cup B$

$$A \cup B = \{k | k \in A\; or\; k \in B\}$$

 

Intersection, $A \cap B$

$$A \cap B = \{k | k \in A\; and\; k \in B\}$$

 

Difference, $A - B$

$$A - B = \{k | k \in A\; and\; k \notin B\}$$

 

Disjoint Sets, 만약 set $A$와 $B$가 disjoint set라면 $A \cap B = \emptyset$

 

Number of Subsets of a set(부분집합의 개수)