분류 전체보기 검색 결과

해당 글 124건

선형회귀 (Linear regression)

선형대수학적 관점에서 회귀분석 - 다음의 행렬을 푸는 것과 같음 $$A\vec{x} = \vec{b}$$ - 위의 행렬과 벡터를 열벡터로 표현한다면 다음과 같음 $$\Rightarrow \begin{bmatrix} | & | \\ \vec{a}_1 & \vec{a}_2 \\ | & | \end{bmatrix}\begin{bmatrix}x_1 \\ x_2\end{bmatrix} = \begin{bmatrix}\text{ } | \text{ } \\ \text{ } \vec{b} \text{ }\\\text{ } | \text{ }\end{bmatrix}$$ 행렬 A의 열벡터 a1과 a2를 조합해서 벡터 b를 얻으려면 a1과 a2의 span안에 벡터b가 포함되어야 함 최적화 관점에서 회귀분석 - 데이터를 가..
Math/Linear Algebra 2021. 1. 7. 16:19

주성분 분석 (PCA)

PCA (Principal Component Analysis) 1) 개념 - Unsupervised feature extraction의 방법 중 하나 - 다수 데이터가 모인 분포의 주요 성분을 분석하는 것으로 데이터들의 분산이 가장 큰 방향벡터를 의미 - 원본 데이터셋과 투영된 데이터셋 간의 평균제곱거리를 최소화하는 축 - n 개의 관측치와 i 개의 변수로 구성된 데이터에서 상관관계가 없는 j 개의 변수로 구성된 데이터(n개의 관측치) - 기존 변수의 선형결합으로 구성됨 2) 활용도 - 영상인식 - 데이터 압축 (차원 감소) - 노이즈 제거 등 3) 방법 - 모든 변수 x 에 대해 임의의 기저 (basis) 또는 계수 (x 개수)로 선형결합 -> 각 기저로 사영 변환 후의 변수 - 정사영 (project..
AI/Machine Learning 2021. 1. 4. 11:37

미분 기본

미분 (derivative) 1) 함수에 대한 입력의 순간변화량에 대한 출력의 순간변화량의 비율을 도출 2) 임의의 점에 접하는 직선의 기울기 - e.g. 시간에 따른 이동거리를 나타내는 함수가 있을 때, 특정 시각에 속도를 구하고자 한다. 하지만, 움직이는 자동차의 사진을 찍었을 때, 속도나 속력을 알 수 없듯이 해당 시각의 정확한 속도를 구하는 것에는 모순이 있다. 그래서 매우 짧은 시간과 이동 거리에 따른 속력을 구한다. 아래의 사진은 유튜브 3Blue1Brown에서 가져왔음. - 해당 부분에서 시각은 얼마든지 변해도 상관이 없기 때문에 이를 함수로 나타낼 수 있다. 도함수 (derivative) 1) 함수가 주어질 때, 각각의 x의 값에 미분계수가 하나씩 대응되는 함수 $$\mathop {\lim..
Math/Calculus 2020. 12. 30. 11:45

고유값 & 고유벡터

※ 행렬은 벡터를 변환시켜 다른 벡터를 출력하는 '선형 변환 연산' (크기와 방향 모두 변할 수 있음) 상수배 - 선형 변환 후, 평행하지만 크기만 바뀐 결과 고유값 1) 정의 - 임의의 n x n 행렬에 대하여, 0이 아닌 벡터가 존재한다면 상수배는 행렬의 고유값 2) 성질 - A행렬의 고유값의 합은 대각원소들의 합 (trace)이다. - A행렬의 고유값의 곱은 행렬식 값과 같다. - A(T)와 A행렬의 고유값은 같다. - A^n = 고유값 ^n - A역행렬의 고유값 = 고유값 ^ -1 - 상수배(x)한 A행렬의 고유값 = 상수배(x) 고유값 - A+상수배(x)한 단위행렬의 고유값 = 상수 + 고유값 고유벡터 - 0이 아닌 벡터에 대해 선형변환의 결과가 자신의 스칼라배(상수배)로 나타나는 벡터 - 즉..
Math/Linear Algebra 2020. 12. 29. 19:32