갱스터의 블로그

목표

앞서 XOR operation은 단일 레이어로 정답을 유추하기에 어려움이 있다고 언급하였다. 따라서 다중레이어 즉, multilayer를 사용해야 하는데 레이어가 증가할 수록 새롭게 정의해야 하는 weight값과 bias값이 증가한다는 문제점도 있다고 언급하였다. XOR 연산 풀어보기 3개의 unit의 weight와 bias를 임의로 설정하여 XOR연산을 풀이해보겠다. x1, x2의 입력을 넣어 각 y1, y2의 결과를 도출하고 y1, y2의 입력을 넣어 ȳ의 결과를 도출하게 한다. 이때, ȳ가 XOR연산의 결과가 되는 것이다. 각 레이어는 아래와 같이 계산한다. 이때 각 값을 구하는 S함수는 sigmoid함수로 앞서 언급하였다. 단순히 음수면 0의 값을, 양수면 1의 값을 도출한다고 생각해도 좋다. 첫..

머신러닝에서 딥러닝으로 발전한 까닭이 존재한다. 머신러닝은 training set에 대해 사람이 feature를 추출하여 추출된 feature를 바탕으로 각 모델들이 학습하였다. 하지만, 데이터에는 사람이 발견할 수 없는 많은 요소들이 존재한다. 사람이 feature를 추출하고 학습시킨 모델은 일정 양 이상의 training set이 들어오면 정확도가 더 이상 높아지지 않는 문제점이 발생하는 것이다. 따라서 사람이 feature를 추출하는 것이 아닌, feature를 추출하는 일련의 과정마저 모델에게 맡기는 것이다. 새의 사진을 넣고 이러한 생김새를 가진 모든 사진을 새라고 명명하도록 각각의 데이터에 label만 붙여주는 것이다. 이러한 방식을 사용하면 정확도가 더욱 높아질 수 있다는 장점이 있으며 이와..

https://coding-saving-012.tistory.com/101 [ML/머신러닝] XOR연산 딥러닝으로 풀기 앞서 XOR operation은 단일 레이어로 정답을 유추하기에 어려움이 있다고 언급하였다. 따라서 다중레이어 즉, multilayer를 사용해야 하는데 레이어가 증가할 수록 새롭게 정의해야 하는 weight값과 bias coding-saving-012.tistory.com - 느낀 점 이산수학 시간에 처음 학습하였던 논리식 중 하나인 XOR연산을 딥러닝을 통해 학습시키는 일이 어렵다는 사실을 처음 알게 되었다. 파라미터 값을 조정하는 방법을 학습하며 직접 파라미터 값을 구해보기도 하였다.

목표: ML 공부 및 블로그 정리

학습 결과 https://coding-saving-012.tistory.com/100 [ML/머신러닝] 딥러닝의 기본 개념 머신러닝에서 딥러닝으로 발전한 까닭이 존재한다. 머신러닝은 training set에 대해 사람이 feature를 추출하여 추출된 feature를 바탕으로 각 모델들이 학습하였다. 하지만, 데이터에는 사람이 발견할 coding-saving-012.tistory.com 느낀 점 머신러닝에서 딥러닝으로 발전한 과정과 딥러닝의 개념에 대해 학습하였다. 둘의 차이점을 확실히 알 수 있게 되었다.

목표 - 딥러닝 학습

1주차 - 딥러닝의 개념 공부 2주차 - 딥러닝으로 XOR연산 시 파라미터 값 구하기 3주차 - ReLU 학 4주차 - Dropout과 Ensemble 학습 5주차 - CNN 개념 학습 6주차 - CNN 구현하기

정보 시스템 (Information System) 데이터(Data) 비트들의 모음, 현실 세계로부터 단순한 관찰이나 측정을 통해 수집된 사실(Facts)이나 값(Value) 정보(Information) 데이터를 처리한 결과로 만들어 진다. 어떤 상황에 대한 적절한 결정(Desicion Making)을 할 수 있게 하는 근거이며 데이터의 유효한 해석(interpretation)이나 문맥(context)을 부여해 준다. 정보 시스템 (Information System) 한 기관을 위해 데이터를 수집, 조직, 저장하고 필요 시에 처리하여 의사 결정에 유용한 정보를 생성, 분배하는 수단이다. 데이터 베이스 시스템 (DataBase System) 정보 처리 시스템이 그 기능을 효과적으로 수행할 수 있게 하는 가장..

우리는 지금껏 많은 데이터들로 모델들을 학습시켰다. 해당 모델을 평가하려면 어떻게 해야 할까? 우리는 지금껏 모델을 학습시킬 때 사용한 데이터들을 training set이라고 불렀다. 평가를 할 때에 training set을 이용한다면 정확도에 100%에 달할 것이다. 따라서 우리가 보유하고 있는 데이터들을 잘라 일부분은 학습 용도, 일부분은 평가 용도로 사용한다. 보통 70%를 training set, 30%를 testing set으로 사용한다. testing set을 모델에 넣은 후 기댓값과 결과값을 비교하여 모델을 평가한다. 우리는 앞서 학습률(learning rate)라고 불리는 α와 데이터의 regularization 시 정규화 강도를 표현하는 λ를 학습하였다. training set을 일정 비..