기저(Basis)는 벡터 공간의 구조를 설명하는 데 사용되는 중요한 개념이다. 기저는 선형 독립인 벡터들의 집합으로 구성되며, 이 기저를 통해 벡터 공간의 모든 벡터를 생성할 수 있다. 기저의 개수가 벡터 공간의 차원을 결정한다.
기저를 이해하려면 다음과 같은 성질을 충족하는 벡터들의 집합을 찾아야 한다.
선형 독립성(Linearly independent)
기저 벡터들은 서로 선형 독립이어야 한다. 이는 어떤 기저 벡터도 다른 기저 벡터들의 선형 조합으로 표현될 수 없다는 것을 의미한다.
$\text{If } c_1v_1 + c_2v_2 + ... + c_nv_n = 0 \text{, then } c_1 = c_2 = ... = c_n = 0$
생성(Span)
기저 벡터들은 벡터 공간의 모든 벡터를 생성할 수 있어야 한다. 즉, 벡터 공간의 임의의 벡터는 기저 벡터들의 선형 조합으로 표현될 수 있어야 한다.
$\mathbf{u} = a_1 \mathbf{v}_1 + a_2 \mathbf{v}_2 + \cdots + a_n \mathbf{v}_n$
여기서 $u$는 벡터의 공간의 임의의 벡터이고, $v_1, v_2, ..., v_n$은 기저 벡터들이다. $a_1, a_2, ..., a_n$은 스칼라 계수이다.
예를 들어, 2차원 평면에서 기저를 구성하는 가장 일반적인 벡터 집합은 다음과 같다.
\(\mathbf{v}_1 = \begin{bmatrix} 1 \\ 0 \end{bmatrix}\), \(\mathbf{v}_2 = \begin{bmatrix} 0 \\ 1 \end{bmatrix}\)
이 기저 벡터들은 서로 선형 독립이며, 이들의 선형 조합을 사용하여 2차원 평면 상의 모든 점을 생성할 수 있다. 따라서 이들은 2차원 벡터 공간에 대한 기저를 형성한다.
데이터 분석에서 기저가 갖는 의미
테이터 분석에서 기저는 다양한 측면에서 중요한 역할을 한다. 기저를 활용하여 더 나은 특성 공간을 찾거나, 계산 복잡도를 줄이고, 모델의 성능을 향상시키는 데 도움이 된다.
예를 들어, 데이터의 표현, 차원 축소, 비선형 문제 해결, 최적화, 정규화, 생성 모델, 기저 함수 등 다양한 분야에서 기저 개념이 활용되며, 이를 통해 더 효과적인 모델을 구축하고 문제를 해결할 수 있다.
