[단단한 머신러닝 - 연습문제 참고 답안]Chapter6 - 서포트 벡터 머신 6.5

6.5 가우스 SVM과 RBF 신경망 사이의 관계에 대해 기술하라

 

RBF신경망에서 은닉층 뉴런 개수를 훈련 데이터 수로 설정하고, 각 샘플을 뉴런 센터(c)로 설정하면, 이때 RBF의 예측 함수는 SVM의 활성화 함수와 동일하다.

 

두 모델의 차이는 큰 편이라 생각하는데,

 

- RBF활성화 함수에서 분산을 컨트롤하는 파리미터인 β는 모델에 의해 학습되지만, SVM에서는 하나의 하이퍼파리미터이다.

- 목적함수나 최적화 방식이 다르다

 

그러나 RBF에서  β를 SVM과 동일하게 고정한다면 훈련 결과는 비슷할 것이다 (추측...)