notty

Single Layer Neural Network : 히든 레이어 = 1인 NN구조입력층 - 출력층 이외에 hidden layer이 존재한다. 입력 층의 각 노드와 히든층의 각 노드가 완전 연결 되어Hidden layer : 입력층의 선형 결합을 더하고 활성함수를 계산하여 출력노드로 전달한다.Output layer : 출력 함수를 적용하여 최종 Y를 결정한다. 이 때 출력 층의 유닛의 개수는 문제에 따라서 달라진다. 예를 들어 multi calss calssification의 경우 softmax함수를 사용하고 출력 층을 class의 개수 만큼 설정 반면하는 반면 회귀 문제의 경우 출력 함수를 항등함수로 설정하여  마지막 히든 레이어의 신호를 그대로 전달한다. Single Layer Neural Netwo..

서포트 벡터 분류기 (SVC, Support Vector Classifier) 는이진 클래스, 분류하는 경계가 선형인 경우 효과적--> 현실은 비선형적인 문제가 더 많음.. ==> 서포트 벡터 머신 (SVM, Support Vector Machine)사용 비선형적 경계보통은 입력 변수의 차원을 매핑함수로 증가시킨 후 각 쌍들을 내적해야한다예) p차원 -> 매핑 함수 Φ 적용 -> 2p차원 -> 모든 쌍들을 내적시켜야한다.한계: 계산량이 기하급수적으로 많아진다, 무한차원 사영은 불가능하다↓SVM에서는 커널트릭 (Kernel Trick)을 사용하여 효율적으로 계산이 가능**최적화**(이거 내용 따로 올려야할)에 대한 이해가 필요하다SVM 목적함수(마진을 최대화하는 w, b를 찾는것)를 La..