cross validation

Machine Learning

[Neural Networks 4] Hyperparameter Tuning

머신러닝에서 배웠던 cross validation, gridsearch를 통한 hyperparameter의 내용을 떠올리자! 신경망에 cross validation 적용 scikit-learn과 keras tuner를 사용하여 신경망의 hyperparmeter 탐색 실험 계획 라이브러리인 WandB의 사용법을 익히고, keras를 엮어서 사용 WandB를 사용하여 hyperparameter 탐색 적용 지금까지 다뤘던 머신러닝 알고리즘은 많아야 20개 정도의 hyperparameter만 탐색하면 됬었다. 하지만, 신경망은 층을 깊게 쌓을수록 조정해주어야 할 hyperparmeter가 훨씬 더 많아지게 된다. 머신러닝 때 사용했던 것과 거의 비슷함. (복습하는 차원에서 한 번 더 공부하자!) 🌀 신경망에 C..

Machine Learning

[Linear Models 2] Generalization

train data는 모델을 만들 때 사용되고, validation data로 모델의 hyperparameter를 조정한 여러 model들의 성능을 비교해 최적의 모델을 선택하며, test data는 모델을 최종적으로 1회 평가하는 용도로 사용한다. ML의 목적 : generalization이 잘 된 예측 모델을 만드는 것 generalization : 모델이 새로운 데이터에 적절하게 적응하는 능력 새로운 데이터를 예측하는 모델의 generalization 능력을 검증하기 위해, hold-out validation : train, test data를 일정 비율로 한 번 나누어 모델을 만드는 방식 cross-validation : 사용할 수 있는 데이터의 크기가 비교적 작을 때에는 hold out기법보다는..

bomishot
'cross validation' 태그의 글 목록