ML/DL 전공하신 분들께만 (재미없는) 질문드립니다.

그루터기 2021.10.27 05:22:36

마모에 ML/DL 전공자 또는 관련 직장에 계신 분들이 꽤 있으신 걸로 압니다. 


질문 하나 드릴게요.

 

오늘 통계전공하는 사람이란 얘기를 잠시 나누었는데, Neural Network (NN)은 parametric model 인가요? 아님 non-parametric model인가요?

어떤 사람들은 NN이 finite number and fixed size of parameter, 즉 weight matrix를 가지고 있기때문에 parametric model이라고 하던데.. 제가 이제껏 알고 있었던건 parametric 또는 non-parametric의 기준은  어떤 형태의 data distribtuion을 모델링 시 미리 가정하는냐 아니냐로 분류된다 였거던요. NN은 특정 형태의 data distribution을 가정하지않고 training set으로 error rate  또는 loss function을 최소화하는 weight matrix를 구하고 그걸 이용해 prediction, classifcation, generation 등을 하니까 non-parametric model이 맞지 않을까요? 물론 특정 형태의 NN, 예를 들자면 variational auto-encoder의 경우 latent space의 data dstribution을 일반적으로 normal gaussain distribution으로 가정하고 모델링이 되니까 parametric model이라고 볼수있지만..