[확률과 랜덤프로세스 기초] 1. Basic Probability Concepts
1. Basic Probability Concepts
1.1 개론, introduction
random phenomena(랜덤 현상)은 근본적으로 일련의 가능한 결과나 이벤트와 연관이 있으며, 이러한 각 사건들과 관련있는 것은 반복된 시행에서 사건의 발생빈도를 나타내는 Probability 확률이다.
$$0\leq Probability \leq 1$$
1.2 표본공간과 사건 ,Sample Space and Events
experiment(실험): 어떤 시행이나 관찰
random experiment: 수행되기 전에는 결과가 uncertain인 실험
sample space(표본공간): random experiment를 수행하였을 때 나올 수 있는 outcome의 집합, S
event: 사건은 언제나 sample space의 subset(부분집합)이다
주사위를 던지는 실험의 표본공간 $S$
$$S = \{1,2,3,4,5,6\}$$
주사위를 던지는 실험에서 주사위가 짝수가 나올 사건$E$
$$E = \{2,4,6\}, \;\; E\subset S$$
sample space $S$와 event $A,B$가 있을 때,
$A \cup B$는 사건 $A$ 그리고 $B$ 모두에 해당하는 사건 = union of events A and B
$A \cap B$는 사건 $A$ 또는 $B$에 해당하는 사건 = intersection of events A and B
$mutually\;exclusive$는 두 이벤트 $A$와 $B$ 사이에 같은 sample point가 없는 경우
$A - B$는 사건 $A$ 에 해당하지만 $B$에는 해당하지 않는 사건 = differences of event A and B
1.3 확률의 정리 , Definitions of probability
**공리 (Axiom) 는 하나의 이론에서 증명 없이 바르다고 하는 명제
1. Axiomatic Definition(공리적 정의):
sample space$S$, event $A$, A에 대한 확률 $P(A)$에서
axiom 1: $0 \leq P(A) \leq 1$
axiom 2: P(S) = 1
axiom 3: mutually exclusive events $A_1, A_2, \cdots A_n$이 있으면,$$P(A_1 \cap A_2 \cap \cdots \cap A_n) = P(A_1) +P(A_2) + \cdots + P(A_n)$$
2. Relative - Frequency Definition:
event $A$, 실험 수행 수 $N$, $A$ 사건 발생 빈도 $N_A$
$$P(A) = \lim_{n \to \infty} \frac{N_A}{N}$$
3. Classical Definition:
sample space의 총 sample point 수 $N$, A 사건이 일어날 경우의 수 $N_A$
$$P(A) = \frac{N_A}{N}$$
동전이 나타낼 수 있는 결과 = ${H , T}$
동전이 앞을 나타낼 사건 A이 일어나는 경우 = 1, $P(A) = \frac{1}{2}$
1.4 확률의 활용, Applications of Probability
Reliability Engineering(신뢰성 공학), Quality Control(품질 관리), Channel Noise관리, System Simulation 등에 사용된다.
1.5 집합론 기초, Elementary Set Theroy
집합(set): 특정한 조건에 맞는 별개의 원소들의 모임(a collection of distinct elements)
Equality, $A = B$ $A \subset B$ and $B \subset A$
Complementation, $A \subset S$일때, $A$의 complement(여집합)은 $\bar{A}$이다
$$\bar{A} = \{k | k \in S\; and\; k \notin A\}$$
Union, $A \cup B$
$$A \cup B = \{k | k \in A\; or\; k \in B\}$$
Intersection, $A \cap B$
$$A \cap B = \{k | k \in A\; and\; k \in B\}$$
Difference, $A - B$
$$A - B = \{k | k \in A\; and\; k \notin B\}$$
Disjoint Sets, 만약 set $A$와 $B$가 disjoint set라면 $A \cap B = \emptyset$
Number of Subsets of a set(부분집합의 개수)