maizer's blog

Introduction Activation Function에서 Exp가 자주 보인다. Summury exp는 exponential function의 약자로 지수 함수를 뜻한다. \[exp(x) = e^{x}\] Read More

Introduction Convolution Calculation은 CNN에서 쓰이지 않는다. CNN에서는 Cross-Correlation 연산을 사용한다. Kernel을 Flip하지 않는 이유는 filter를 random으로 초기화하기 때문에 flip에 의미가 없다. Convolution Calculation은 하나의 함수와 또 다른 함수를 반전 이동한 값을 곱한 다음, 구간에 대해 적분하여 새로운 함수를 구하는 수학 연산자이다. 합성곱 연산은 두 함수 f, g 가운데 하나의 함수를 반전(reverse), 전이(shift)시킨 다음, 다른 하나의 함수와 곱한 결과를 적분하는 것을 의미한다. 이를 ... Read More

Introduction Subdividing the Output of Artifical Intelligence Algorithms consists of Regression Analysis, Binary Decision, Decision Classification Regression Analysis Regression Analysis estimates one feature value as a number and outputs it. Binary Decision Binary decision chooses between True or False and outputs it. Decision Classificat... Read More

Introduction Sigmoid Fucntion은 범위에 제한 없는 임의의 실숫값을 입력으로 받아 확률값의 범위에 해당하는 0과 1 사이의 값을 출력하는 함수다.[1] logit expression 실제 표현하려는 값을 로그값으로 대신 나타낸 것 Sign of Sigmoid Function \[\sigma(x)\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\;\... Read More

Introduction DataSet에서 Numeral value가 아닌 Charactor, 문자가 주어졌을 때, 신경망이 데이터를 처리하기 위해서는 문자가 아닌 숫자가 필요하다. 이를 단순히 해결하기 위해, 각 특징을 1 과0으로 나타내는 표현 방식이다. Read More

하이퍼 파리미터 모델링할 때 사용자가 직접 세팅해주는 값, 학습을 시작하기 전에 정해두는 값, 모델 학습 과정에 반영된다. 학습 데이터를 한 바퀴 돌 때 1epoch이라고 하며 n개의 epoch을 정해두고 학습을 시작한다. 또한 미니배치 크기를 의미하는 Iteration 또한 정해두고 학습을 시작한다. Epoch과 Iteration처럼 학습 과정에서 변경되지 않으면서 신경망 구조나 학습 결과에 영향을 미치는 고려 요인들을 Hyper parameter라고 한다. Read More

Introduction When use Loss Function, When use Activation Function how to choose Functions in each layer. Summury Read More