개발일기

전치 0차원 스칼라가 전치하면 행벡터가 열벡터로, 열벡터가 행벡터로 바뀐다. 1차원 벡터가 전치하면 스칼라과 동일하게 행벡터가 열벡터로, 열벡터가 행벡터로 바뀐다. 2차원 행렬부터는 다르게 동작한다. $ A = \begin{pmatrix} x_{11} & x_{12} & x_{13} \\ x_{21} & x_{22} & x_{23} \\ x_{31} & x_{32} & x_{33} \\ \end{pmatrix} A^T = \begin{pmatrix} x_{11} & x_{21} & x_{31} \\ x_{12} & x_{22} & x_{32} \\ x_{13} & x_{23} & x_{33} \\ \end{pmatrix} $ 행렬의 시작점과 끝점을 중심으로 대각선을 그린 후, 대각선을 중심으로 축을 뒤집..

텐서 데이터 스칼라(Scalar): 0차원의 텐서를 스칼라라 부른다. 0차원이란 [1, 2, 3]과 같이 배열 안에 들어있지 않는 경우를 의미한다. 1차원은 [1, 2, 3], 2차원은 [[1, 2], [3, 4]]와 같이 이루어져 있다. 즉 스칼라는 0차원의 숫자 상수를 나타낸다. 1, 2, 3 과 같이 개별로 존재하는 상수를 의미한다. 벡터(Vector): 1차원 텐서를 벡터라 칭한다. 쉽게 생각하면 1차원 배열이다. 행렬(Matrix): 2차원 텐서를 행렬이라 한다. 쉽게 생각하면 2차원 배열이다. 3-Tensor: 3차원 텐서를 나타낸다. 3차원부터 차원이 n차로 늘어나면 n-Tensor로 칭한다. 텐서(Tensor): 3-Tensor에서 봤듯이 차원이 늘어날수록 4차원 텐서, 5차원 텐서... ..

시간 오차가 좀 있지만 순서는 맞게 진행됨 ~12:00 : 입소.도착한 순서대로 명찰을 받고 지정된 자리에 앉아서 대기. 좌석 순서는 우측부터 1번순으로 차례대로 이어진다. 11시 30분에 도착해서 1번 명찰을 부여받아 맨 앞자리에 앉았는데 앞 공간이 있어 다리를 쭉 필수 있다는 장점이 있었음. 너무 일찍 도착해서 그런지 동대장이랑 본부 사람들랑 서로 쳐다보면서 약 3초간 서로 얼탔음. 12:00 ~ 12:30 : 도착한 사람들 확인을 하고 신분증을 수거하며 점심값으로 8000원을 지급해주며 출석 체크를 함. 출석 체크가 끝난 후 남은 시간이 있으면 오늘 있을 훈련에 대한 간략한 내용을 알려준 후, 식사를 시작함. 12:30 ~ 13:40 : 원래는 주변에 지정된 식당에서 식사를 하는데 올해부터 자율 급..

미분은 두 점 사이의 순간적인 변화율을 의미한다. 여기서 순간적인의 의미는 x값과 y값의 변화량이 0에 가까워지는 어느 순간을 의미한다. 추상적인 개념인데 두 점 사이의 거리가 0에 가까워 한점처럼 보이는 순간을 뜻한다. 이러한 순간 변화율을 미분계수라 부르고 쉽게보면 두 점 사이의 기울기이다. 기울기는 y 증가량을 x증가량으로 나눈 것을 뜻한다. 증가량이 0에 가까워지는 경우를 식으로 표현하면 다음과 같다. y값의 증가량은 B점의 y좌표 값에서 A점의 y좌표 값을 뺀다. x값의 증가량은 B점의 x좌표 값에서 A점의 x좌표 값을 뺀다. 또한 증가량은 0에 가까워지는 순간이므로 limit를 추가한다. 즉, 미분값은 두 점 사이의 기울기인데 두 점 사이의 변화율이 0에 가까워지는 순간을 나타내는 기울기다.

손실 함수(Loss Function) 모델의 손실 함수는 출력 층에 따라 달라진다. 모델에 따라 올바른 손실 함수를 사용해야 정상적으로 훈련이 가능하다. Binary Classification(이진 분류): 두 가지를 분류하는 경우(이것이 망고인가 아닌가) Multi-Class Classification(다중 분류): 세 가지 이상을 분류하는 경우(이 과일이 무엇인가요? - 망고, 오렌지, 바나나, 사과, 멜론 등) 텐서 플로에서는 Binary Classification(이진 분류)를 위해 binary_crossentropy 손실 함수를 사용한다. Multi-Class Classification(다중 분류)의 경우는 categorical_crossentropy 또는 sparse_categorical_cr..

활성화(Activation) 함수 활성화 함수는 입력을 비선형 형태로 변환하여 출력해주는 함수이다. 선형 함수는 직선으로 간단하게 y=ax+b로 편할 수 있다. 층을 계속 쌓아도 y=ax+b로 다시 변환이 가능하기에 여러 은닉층을 쌓는 이점이 사라진다. 물론 선형 함수를 활성화 함수로 사용할 수 있지만 은닉층을 여러개 늘려갈 수 있는 비선형 함수와 다르게 층을 여러개 확장해도 결국엔 첫 번째 층으로 귀속되는 속성을 가진다. Sigmoid 출력 값의 범위가 0~1인 함수이다. 입력 값의 절대 값이 커질 수록 출력 값은 1 또는 0에 수렴하며 기울기는 0에 가까워진다. 정규화가 가능하며 기울기가 자연스레 수렴하는 장점을 가지며 0또는 1로 분류하는 모델에 적합하다. 하지만 일정 값을 넘어가면 기울기 변화 없..

이진 분류 평가 지표 Confusion Matrix 모델 학습을 평가하는 지표로 Confusion Matrix라 불리는 오차 행렬을 기반으로 각 평가 지표를 4가지의 경우로 나눌 수 있다. Prediction A B Actual A TP FN B FP TN True, False: 예측의 정답 여부를 나타낸다. Positive, Negative: 예측한 값의 True, False 여부를 나타낸다. TP: Prositive로 예측하고 실제로 Postitive 경우(정답) FP: Prositive로 예측했으나 실제는 Negative인 경우(오답) FN: Negative로 예측했으나 실제는 Positive인 경우(오답) TN: Negative로 예측하고 실제로 Negative인 경우(정답) 정확도(Accurac..

numpy란? numpy는 벡터, 행렬 등의 다차원 배열을 계산하며 각종 다양한 수학 계산을 지원하는 파이썬 라이브러리다. ndarray 배열 생성 파이썬의 리스트와 다르게 numpy에서는 ndarray 객체 배열을 생성한다. ndarray객체 배열을 만드려면 np.array(…)를 사용한다. import numpy as np # 일반적으로 np로 모듈 이름을 변경하여 사용한다. python_list = [1, 2, 3] # python list np_list = np.array([1, 2, 3]) # numpy list print(type(python_list), type(np_list)) # ndarray는 기존 파이썬 list와 다르게 배열 안의 데이터들이 같은 데이터 타입을 가진다. import ..