maizer's blog

다음 글로 → 서론 이책은 어려워서 빠르게 넘어가면서 읽도록 한다. 1장의 확률에 대한 내용이 어렵지만 한번 훑고 넘어간다. 추가적인 확률 공부가 필요할 듯 Read More

← 이전 글로 　 다음 글로 → 생성 모델Generative Model이란 확률모델Probabilistic Model의 관점에서 데이터셋을 생성하는 방법이다. 생성 모델링 과정 어떤 데이터를 생성하고자 할 때, 그 데이터의 훈련 데이터가 필요하다. 훈련 데이터Training Data, Data Set란 수많은 특성feature으로 이뤄진 샘플Sample, <관측, Observation>의 집합이다. 특징을 단순히 평균값으로 결정하는 결정적deterministic이 아닌 생성되는 개별 Sample에 영향을 미칠 수 있는 확률적Probabilistic(랜덤한) 요소를 포함해야 한다. 따라서... Read More

5월이 되기 전 미리 짜보는 계획 하루 1시간 영어공부하기 영어로 작문하기 작문한거 말하기 하루 1시간 파이썬 공부하기 최신문법 공부하기 병렬 프로그래밍 해보고싶다. 넘파이 공부하기 출근하고 8시간은 무조껀 GAN 공부하기 논문 읽기 모르는거 싹다 표시하고 퇴근하고 공부하기 하루 3시간 파이토치 코딩하기 activation, loss, $\cdot$ 기존 파이토치 함수로 구현하고 이론만 이해하자 한주에 한번 UST 학... Read More

델타(Δ)와 d의 차이 델타(Delta, Δ)란 일반적인 변화량(혹은 값의 변화량)을 의미합니다. 보통 수학에서 델타를 사용할 경우 셀 수 있는 간격이나 일반적인 값의 차이를 말합니다. 그러나 d(dy/dx)의 경우에는 셀 수 없이 아주 작은 간격, 즉 델타에 극한이 붙어 셀 수 없이 작은 간격을 의미합니다. 이는 결국 미분을 의미하게 되지요. 추가로 설명해드리자면 d는 단독으로 쓰일 수 없으며 미분연산자(d/dx)형태나 전미분(dx, dy 한창 후에 나올 미분의 한 형태입니다.)의 형태로 쓰여야 합니다. 참고문헌 미분과 도함수(Differential & Derivative), 정개유... Read More

발표 자료 오늘은 인공신경망에 대해 설명하도록 하겠습니다. 인공신경망은 1943년 신경생리학자 Warren McCulloch와 수학자 Walter Pitts가 발표한 논문 A Logical Calculus of Ideas Immanent in Nervous Activity에서 처음 소개되었습니다. 1980년 Connectionism을 필두로 현재까지 발전하고 있습니다. 인공신경망은 인간의 신경망에서 영감 받아 만들어졌습니다. 인공신경망 초기에는 이진 입력과 이진 출력을 가졌습니다. 1957년 Frank Resenblatt가 Perceptron을 제안하였고 TLU, Threshold logic unit... Read More

ANN이란 ANN이란 Artifical Nureal Network의 약자로 인공 신경망을 뜻한다. ANN의 종류는 Perceptron, CNN, AE, VAE 등등 많다. ANN에 사용되는 변수 $x$ : Feature, 특징 $W$ : Weight, 가중치 특징 $x$에 대한 가중치이다. If $i$ == 1: $W_{1}$ = Random_number else: $W_{i} = W_{i-1} + lr\cdot \frac{\sigma L}{\sigma w}$ $y$ : True label, 실제 결과(레이블) 값 레이블... Read More

비용 함수(cost function)는 손실 함수(loss function)의 다른 말입니다. 엄밀히 말하면 손실 함수는 샘플 하나에 대한 손실을 정의하고 비용 함수는 훈련 세트에 있는 모든 샘플에 대한 손실 함수의 합을 말합니다. 하지만 보통 이 둘을 엄격히 구분하지 않고 섞어서 사용합니다.[1] 참고문헌 1. Chapter 04-02 손실함수, 혼자 공부하는 머신러닝 + 딥러닝, 박해선, 한빛미디어(주) Read More