maizer's blog

What is Regression meaning? ‘회귀’라는 말은 ‘한바퀴 돌아 제자리로 돌아가다’라는 뜻입니다. … 회귀모델에서 회귀의 정확한 의미는 ‘평균으로의 회귀’라는 뜻이라고 봐도 무방합니다. 데이터의 실측치와 모델의 실측치 사이의 차이, 즉 회귀식에서 오차항에 대한 관측치(잔차)가 평균으로 회귀하는 것이 바로 ‘회귀’ 입니다. 정확한 모델에서는 잔차가 평균 0으로 회귀하게 됩니다.[1] 회귀는 클래스 중 하나로 분류하는 것이 아니라 임의의 어떤 숫자를 예측하는 문제입니다. 회귀란 용어를 보고 어떤 알고리즘인지 예측하기 참 어렵습니다. 이 용어는 19세기 통계학자이자 사회학자... Read More

What is Regression Model? 회귀모델이란, 어떤 연속성 데이터 x, y의 원인이라고 추정되는 관계를 추정하기 위해 만든 모델을 말합니다. ( $y = f(x)$ ) 그렇게 추정한 관계를 입력 변수값과 매칭하여 ‘출력’ 변수를 예측하는 것을 우리는 통계분석이라고 합니다. 하지만 현실에서 실제 데이터를 측정할때는 여러가지의 원인으로 수학식처럼 정확한 관계식을 만들 수 없습니다. 그래서 확률 변수인 오차항$e$ 을 고려하여 회귀 모델을 구성해야 합니다. ( $y = f(x) + e$ )[1] ### Reference 1. [딥러닝] 선형회귀와 로지스틱회귀, 삶은 확률의 ... Read More

Logistic is? 로지스틱 손실 함수는 다중 분류를 위한 손실 함수인 크로스 엔트로피(cross entropy) 손실 함수를 이진 분류 버전으로 만든 것이다. 실무에서는 종종 이진 분류와 다중 분류를 구분하지 않고 모두 크로스 엔트로피 손실 함수라고 부르는 경우도 많다. Read More

Intro GAN을 공부하다보면 Ground Truth라는 말을 자주 접하게 된다. Fake Data와 비교하는 Real Data(Data set에 포함된 데이터 중 하나)를 의미하며 아래 참고문헌[1]에서 자세한 내용을 알 수 있다. Reference 1. [용어정리]Ground-truth, Justin T., 2020.02.25 작성, 2022.05.15 방문, https://eair.tistory.com/16 Read More

Cross Entropy is? 엔트로피[Entropy]는 하나의 분포를 대상으로 하는 반면, 크로스-엔트로피는 두 분포 $P(x), Q(x)$를 대상으로 엔트로피를 측정해 두 분포 간의 차이를 계산합니다. 머신러닝GAN에서 크로스-엔트로피를 사용할 때는$P(x)$를 실제 모형의 분포, $Q(x)$를 추정 모형의 분포라고 설정합니다.[1] 교차 엔트로피cross entropy는 실제 결과가 도출될 우도와 우리가 생각하는 우도의 사이의 차이에 따른 결과의 불확실성에 대한 지표입니다. … 교차 엔트로피를 두 확률분포의 차이라고 생각할 수 있습니다. 두 분포의 차이가 없는 만큼 교차 엔트로피도 낮아집니다... Read More

Introduction Refer Sigmoid Function., Cross Entropy Function Binary Cross Entropy called Sigmoid Cross-Entropy loss. It is a Sigmoid activation plus a Cross-Entropy loss. Unlike Softmax loss it is independent for each vector component (class), meaning that the loss computed for every CNN output vector component is not affected by other comp... Read More

Vanila GAN’s workflow 훈련하고자하는 훈련 데이터를 통해 학습된 생성 모델에 정규 분포를 따르는 잠재 공간의 잠재 벡터를 샘플링하여 샘플을 생성해 낸다. \[Trained\; Ganerator(Latent Vector) = G(z)\] 생성기를 통해 생성된 데이터와 훈련 데이터 Read More