PRML/chap2 2

2.1 이산 확률 변수

이진 확률 변수 x ∈\in∈ {0,1} 을 고려하자.예를 들어 x는 동전 던지기의 예제로 x=0은 뒷면, x=1은 앞면이라고 하자.그런데 동전이 망가져서 앞면과 뒷면이 나올 확률이 다르다고 가정하자.x = 1일 확률은 매개변수 μ\muμ를 통해 다음과 같이 표현 가능하다.p(x=1∣μ)=μp(x =1 |\mu) = \mup(x=1∣μ)=μ여기서 0 ≤\le≤μ≤1\mu\le1μ≤1 이다. 그리고 p(x=0∣μ)=1−μp(x = 0 |\mu) = 1 - \mup(x=0∣μ)=1−μ가 된다. 따라서 x에 대한 확률 분포를 다음과 같이 적을 수 있다.Bern(x∣μ)=μx(1−μ)1−xBern(x|\mu) = \mu^x(1 - \mu)^{1-x}Bern(x∣μ)=μx(1−μ)1−x이것을 베르누이분포..

PRML/chap2 2022.03.07

Chapter2. 확률 분포

목표몇몇 확률 분포의 예시와 그 성질에 대해 살펴보고자 한다.밀도 추정(Density Estimation)한정된 수의 관찰 집합 x1,...,xN\mathbf{x}_1, ... ,\mathbf{x}_Nx1​,...,xN​이 주어졌을 때 확률 변수 x의 확률 분포 p(x)p(x)p(x)를 모델링 하는 것데이터 포인트들은 독립적이며, 동일하게 분포되어 있다고 가정할 것이다.사실 관찰된 데이터로 부터 추측해볼 수 있는 확률 분포는 끝도없이 많다.각각의 데이터 포인트 x1,...,xN\mathbf{x}_1, ... ,\mathbf{x}_Nx1​,...,xN​에 대해서 0이 아닌 값을 가지는 어떤 분포 p(x)p(x)p(x)도 모 분포의 후보가 될 수 있다.우선적으로 이산 확률 변수의 이항 분포와 다항 분..

PRML/chap2 2022.03.07