분류 전체보기 검색 결과

해당 글 124건

행렬식, 역행렬

행렬식 1) 정의 - 정사각행렬이 나타내는 선형변환이 부피를 확대시키는 정도를 나타낸다. $$A=\begin{pmatrix}a& b \\ c & d \end{pmatrix} -> det(A) = ad-bc$$ 2) 성질 - 2 x 2 행렬의 행렬식은 선형변환 후의 두 기저벡터가 이루고 있는 평행사변형의 넓이 - 하나의 행 또는 열에 공통인수는 행렬식 밖으로 끌어낼 수 있다. - 두 개의 행 또는 열을 바꾸면, 행렬식의 값은 부호만 바뀐다. - 하나의 행 또는 열에 실수를 곱하여 다른 행 또는 열에 더하거나 빼도, 행렬식의 값은 변하지 않는다. - 두 개의 행 또는 열이 비례면 행렬식 값은 항상 0이다. $$det(kA)=k^ndet(A)$$ $$det(A^{-1}) = \cfrac{1}{det(A)}$$..
Math/Linear Algebra 2021. 1. 24. 22:40

벡터의 내적, 외적, 정사영

내적 (Euclidean inner product, dot product) 1) 정의 - 두 벡터가 이루는 각을 정의하기 위한 연산 - a = (a1, a2, a3), b = (b1, b2, b3)의 사잇각 seta 일 때, $$\vec{a}⋅\vec{b} = ||\vec{a}||\ ||\vec{b}||cos θ = a_1b_1 + a_2b_2 +a_3b_3 = \mathbf{a}^{T}\mathbf{b}$$ 2) 성질 - 내적한 값의 스칼라배는 스칼라의 분배법칙이 적용되지 않는다. - 두 벡터가 수직관계이면 내적값은 0, 내적값이 0이면 두 벡터는 수직 - 벡터가 스스로 내적하면 노름의 제곱 (cos 값이 0이기 때문) 정사영 벡터 (projection) $$\text{vector projection}..
Math/Linear Algebra 2021. 1. 24. 21:33

벡터

벡터 1) 정의 - 크기(힘)와 방향으로 정의되는 값 - 시작점을 원점으로 가정하고 종점의 좌표로 표현 (화살표) - 벡터 공간(space)의 원소 2) 벡터의 상등 - 여러 벡터의 크기와 방향이 같다면 같은 벡터로 본다. - 벡터의 상등 개념을 통해 벡터는 이동이 가능하다는 것을 알 수 있다. 3) 벡터의 실수배 - 양수 : 같은 방향이고 실수의 크기에 따라 크기가 변화한다. - 음수 : 방향을 반대로 바꾸고 실수의 크기에 따라 크기가 변화한다. 4) 단위 벡터 - 크기가 1인 벡터 $$\frac{1}{||vec{v}||}\cdot\vec{v}$$ 벡터의 노름 (norm) 1) 개요 - 벡터의 크기 - 데이터 분석에서 유사성 판단하는데 사용 2) 벡터 각 성분 제곱의 합에 루트 $$||\text{x}|..
Math/Linear Algebra 2021. 1. 24. 20:06

그래프 탐색 알고리즘 (DFS / BFS)

Stack (스택 자료구조) 1) 먼저 들어간 데이터가 나중에 나가는 자료 구조 (선입후출) 2) 구성 : 삽입 & 삭제 - list(), append(), pop()을 사용 - list[::-1] : 최하단 원소부터 출력 - list : 최상단 원소부터 출력 Queue (큐 자료구조) 1) 먼저 들어간 데이터가 먼저 나가는 자료 구조 (선입선출) 2) 구성 : from collections import deque 라이브러리 사용 - queue = deque() : 큐 구현 - queue.append() - queue.popleft() : 먼저 들어간 데이터 뽑아내기 - queue.reverse() : 역순 3) 억지로 리스트 자료형을 사용하지 말고 라이브러리를 사용하여 시간복잡도를 줄인다. Recurs..
Python/Coding Test 2021. 1. 22. 19:58

Categorical variables encoding / mean, one-hot, label

장, 단점 정리표 TYPE of encoding Advantages Disadvantages One-hot encoding (get_dummies) - 각 category는 구분되어 있어서 편향이 적음 - 사용하기 매우 쉬움 - 해당 컬럼에 변수가 많을 경우, 많은 컬럼을 재생산하고 모델의 학습 속도를 낮춤 - 0, 1로만 구성되어 Tree의 깊이만 깊어지며 성능을 증가가 어려움 - Random forest를 사용할 경우, 변수의 수가 많을수록 다른 변수보다 많이 계산에 적용되는데 편향이 발생할 수 있음 - Label encoding (replace to numeric) - Frequency encoding - One-hot encoding에 비해 빠름 (fewer feat) - 사용하기 쉬움 - 각 컬..
Data/Data preprocessing 2021. 1. 22. 15:36

Greedy Algorithm

그리디 알고리즘 (탐욕법) 1) 개요 - 현재 상황에서 가장 좋은 것만 고르는 방법 - 최적의 해를 구할 수 있는지 정당성 분석이 요구됨 - 코딩테스트의 경우에 한해서, 이를 이용한 방법이 최적의 해가 구해지는 상황이라고 생각해야함 2) 샘플 문제 - 임의의 수 N이 1이 될 때가지 두 과정 중 반복 선택하여야 하는데 두번째는 나누어 떨어질 때만 선택 가능 (1) N 에서 1 빼기 (2) N에서 K 나누기 n, k = map(int, input().split()) # 내가 푼 방법 (숫자가 커지면 시간복잡도가 높아짐) cnt = 0 while True: if n == 1: break elif n % k == 0: n //= k cnt += 1 else: n -= 1 cnt += 1 print(cnt) #..
Python/Coding Test 2021. 1. 21. 20:26

Decision Tree

개념 1) 패턴을 변수의 조합으로 나타냄 2) 스무고개와 유사함 (yes or no) 개요 1) 데이터가 균일해지도록 2개 이상으로 분할 - 분류 : 비슷한 범주 기준 - 예측 : 비슷한 수치 기준 2) 이진분할에 의해서 끝마디의 분할된 데이터의 개수는 input개수와 동일하다. 3차원에서의 모형 예측 모델 1) 새로운 입력 데이터 (Xnew)에 대한 예측값 (Ynew)은 Xnew가 속하는 끝 노드 y값들의 평균값이 된다. (오류가 최소) 2) 과정 - 데이터를 m개로 분할 - cost function이 최소가 되도록 분할 3) 분할변수와 분할점 결정 방법 - 모든 분할변수와 분할점 경우의 수를 계산하며, cost function이 최소가 되는 순서로 노드를 생성한다. - 그리디 알고리즘과 맥락이 같다...
AI/Machine Learning 2021. 1. 21. 17:50

k-NN (Nearest Neighbors)

Instance-based learning으로 별도의 모델 생성없이 인접 데이터를 분류 또는 예측에 사용 (비선형) Nearest neighbors 1) 새로운 데이터에서 가장 가까운 거리에 있는 이웃값들의 범위를 의미함 - k-nearest neighbor의 k는 설정할 거리를 의미함 특징 1) intance-based learning : 관측치 (instance) 만을 이용하여 새로운 데이터에 대한 예측 2) memory-based learning : 모든 데이터를 메모리에 저장한 후, 예측 시도 3) lazy learning : 모델을 적용하지 않고 테스팅 데이터가 들어와야 작동하는 알고리즘을 의미 장점 1) 데이터 내의 노이즈에 영향 x 2) 학습 데이터 수가 많을 경우 효과적이다. 3) 메모리 ..
AI/Machine Learning 2021. 1. 18. 20:28

데이터 분석 / 데이터 타입

Nominal data 1) 순서가 없는 단순 'named' 또는 'labeled' 데이터를 의미한다. - 순서가 없는 범주형 자료 2) Null 값을 채울 경우, 평균, 중간값, 편차 등은 의미가 없다. 3) categorical data (범주형 자료)라고 부르기도 한다. i.e. - 성별, 사는 위치 등 4) 두 개의 범주만 있는 경우 -> 'binary' 데이터라고도 부른다. Ordinal data 1) 순서가 있는 자료 - 순서가 있는 범주형 자료 i.e. - 빈도, 만족감, 행복도, 고통수치 등 2) string 타입의 데이터의 수치변환 시 신중한 평가가 요구된다. Interval data 1) 순서가 있으며, 데이터 간의 유의미한 상관관계가 있는 자료 - distance between two..
Data/Data Analysis 2021. 1. 18. 16:25

Feature selection (변수 선택)

개요 1) feature selection은 머신러닝에서 모델에 영향을 주는 핵심 과정 중 하나임 2) 관련 없거나 제한적으로만 연관돼 있다면 모델 성능 감소하는데 주요 요소가 될 수 있음 다양한 방법 1) missing value 제거 2) 변수 간의 상관관계가 높을 경우, 하나를 제외하고 제거 장점 1) overfitting 감소 2) 정확도 향상 3) 학습시간 감소 Filtering method 1) 변수 간의 상관관계를 측정하여 이를 알려줌 - 연산속도가 빠르며, 상관관계를 알아내는데 적합하므로 전처리에 많이 사용됨 2) i.e. - chi-square test - corr coefficient (heat map) Wrapper method 1) 예측 모델에 변수들의 subset(부분집합)을 계속..
Data/Data preprocessing 2021. 1. 17. 15:08