조건부 확률(conditional probability)은 어떤 사건이 발생했다는 조건 하에서 다른 사건이 발생할 확률을 의미한다. 예를 들어, 두 사건 $A$와 $B$가 있을 때, 사건 $B$가 발생했다는 조건 하에서 사건 $A$가 발생할 확률을 조건부 확률이라고 한다. $P(A|B) = \frac{P(A \cap B)}{P(B)}$ 여기서 $P(A|B)$는 "사건 $B$가 주어졌을 때 사건 $A$의 조건부 확률"을 의미하며, $P(A ∩ B)$는 "사건 $A$와 사건 $B$가 동시에 발생할 확률"을 의미한다. $P(B)$는 "사건 $B$가 발생할 확률"을 나타낸다. 이 식에서 분모 $P(B)$는 0이 아니어야 한다.

연속 확률 분포(continuous probability distribution)는 연속 확률 변수의 값들이 나타날 확률을 설명하는 함수다. PDF, Probability Density Function(확률밀도함수) 균일 분포(Uniform distribution) 구간 [a, b]에서 모든 값이 동일한 확률로 발생하는 확률변수의 분포 PDF $f(x) = $\begin{cases} \frac{1}{b-a}, & \text{for } a \le x \le b \\ 0, & \text{otherwise}\end{cases} 정규 분포(Normal distribution) 평균이 $\mu$이고 표준편차가 $\sigma$인 연속 확률변수의 분포 PDF $f(x) = \frac{1}{\sqrt{2\pi\sigm..

이산 확률 분포(discrete probability distribution)는 이산 확률 변수의 값들이 나타날 확률을 설명하는 함수다. PMF, Probability Mass Function(확률질량함수) 주요한 이산 확률 분포는 아래와 같다. 베르누이 분포(Bernoulli distribution) 두 가지 결과만 가능한 확률변수의 분포(ex. 동전 던지기) PMF $P(X = k) = p^k (1-p)^{1-k},\ \text{where } k \in \{0, 1\}$ 이항 분포(Binomial distribution) 독립적인 베르누이 시행에서 성공한 횟수에 대한 확률변수의 분포 PMF $P(X = k) = \binom{n}{k} p^k (1-p)^{n-k},\ \text{where } k \in..

확률질량함수(Probability Mass Function, PMF)와 확률밀도함수(Probability Density Function, PDF)는 확률 분포를 설명하는 데 사용되는 함수다. 이 두 함수는 이산 확률변수와 연속 확률변수를 나타내는 데 각각 사용된다. 확률질량함수 이산 확률변수에서 각 값을 가질 확률을 나타내는 함수다. 확률질량함수는 확률변수가 취할 수 있는 이산적인 값들에 대해 해당 값이 발생할 확률을 제공한다. 모든 확률값이 0과 1 사이이며, 모든 가능한 값에 대한 확률의 합이 1이다. 예를 들어, 동전 던지기를 생각해보면 이산 확률변수 $X$가 앞면이 나올 때 1, 뒷면이 나올 때 0이라고 할 수 있다. 이 때 확률질량함수는 다음과 같다. $P(X = 0) = 0.5$ $P(X = ..

특이값 분해(Singular Value Decomposition, SVD)는 선형 대수학에서 중요한 개념으로, 임의의 $m$ x $n$ 크기의 행렬 $A$를 세 행렬의 곱으로 분해하는 방법이다. 주어진 행렬 $A$에 대해, SVD는 다음과 같이 정의된다. $A = U \Sigma V^*$ 여기서, $A$는 $m$ x $n$ 크기의 행렬로, 분해하고자 하는 대상이다. $U$는 $m$ x $m$ 크기의 직교 행렬(orthogonal matrix)로, $A$의 열 공간의 기저를 구성하는 고유벡터들로 이루어져 있다. $Σ$는 $m$ x $n$ 크기의 대각 행렬로, $A$의 특이값(singular values)이라 불리는 값들을 대각선 상에 정렬한 행렬이다. 특이값은 $A$의 고유값의 제곱근이며, 이 값들은 일반..

직교행렬(orthogonal matrix)은 행렬의 열 벡터들이 서로 정규 직교(orthonormal)한 경우를 말한다. 정규 직교란, 벡터들이 서로 수직이고, 각 벡터의 크기가 1인 경우를 의미한다. 직교행렬의 한 가지 중요한 특성은 다음과 같은 관계를 가지고 있다는 것이다. $A^T A = I$ 여기서 $A$는 직교행렬, $A^T$는 $A$의 전치행렬, $I$는 항등행렬(identity matrix)이다. 즉, 직교행렬의 전치행렬과 원래 행렬의 곱은 항등행렬이 된다. 직교행렬은 선형 대수와 여러 분야에서 중요한 개념으로 사용되며, 특이값 분해(SVD)와 고유값 분해(eigenvalue decomposition)와 같은 고급 알고리즘에서도 사용된다.

행렬의 대각화(diagonalization)는 주어진 행렬을 대각 행렬과 그 행렬의 고유벡터로 이루어진 행렬의 곱으로 분해하는 과정이다. 대각화가 가능한 행렬은 대각 행렬로 유사 변환(similarity transformation)할 수 있으며, 이러한 행렬을 대각화 가능(diagonalizable)하다고 한다. 행렬 $A$가 $n$ x $n$ 크기의 정방행렬이고, 이 행렬의 $n$개의 선형 독립인 고유벡터가 존재한다고 가정해 본다면, 행렬 $A$는 다음과 같이 대각화할 수 있다. $A = P D P^{-1}$ 여기서 $A$는 주어진 $n$ x $n$ 크기의 정방행렬이다. $P$는 $A$의 고유벡터들로 구성된 $n$ x $n$ 크기의 정방행렬이다. $D$는 $A$의 고유값들을 대각선 원소로 하는 $n$ ..

고유값(eigenvalue)과 고유벡터(eigenvector)는 선형 변환에서 중요한 개념이다. 주어진 선형 변환(행렬) $A$에 대해, 변환을 적용한 후에도 방향이 변하지 않고 크기만 변하는 벡터를 고유벡터라고 한다. 이때, 그 크기의 변화 비율을 고유값이라고 한다. 수학적으로, 행렬 $A$와 벡터$x$에 대해 다음과 같은 관계가 성립하면, $x$는 고유벡터이고, $\lambda$는 고유값이다. \(Ax = \lambda x\) 이 방정식에서 행렬$A$는 주어진 선형 변환을 나타내며, $x$는 고유벡터, $\lambda$는 고유값이다. 이 문제를 풀기 위해, 다음 식을 만족하는 $\lambda$와 $x$를 찾아야 한다. \( (A - \lambda I)x = 0 \) 여기서 $I$는 항등행렬(ident..