머신러닝 모델 해석

[Applied Predictive Modeling 2] Interpretable ML(2)

2023.04.17

전에 배웠던 Feature Importance는 각 특성이 증가/감소 시 모델의 예측값이 어떻게 변하는지와 같이 모델의 예측에 어떻게 영향을 주는지 알 수 없었다. 밑에 나올 ICE plot, PDP를 통해, 특정 관측치에 대해, 특정 특성값을 변화시킬 때 모델의 예측 양상이 어떻게 변하는지 파악해보자! 🌀 Individual Conditional Expectation (ICE) plot 특정 feature를 변화시켰을 때, 모델의 예측값이 어떻게 변화하는지를 개별 datapoint별로 시각화한 그래프 개별 datapoint의 예측값 변화를 보기 때문에 모델의 예측값이 어떤 이유로 변화하는지를 추적할 수 있다. 데이터에 등장하는 x의 모든 값에 하나씩, 해당 변수의 모든 샘플을 그 값으로 대체 이미 학습..

Machine Learning

[Applied Predictive Modeling 1] Interpretable ML

2023.04.17

🌀 ML 모델의 interpretability ml 모델은 점점 복잡해지고 있어, 점점 모델에 대해 설명하기가 힘들어진다. 그 결론들이 어떤 과정을 통해 나온 것인지 설명하기 어렵다. (black-box problem) ‘안에서 무슨 일이 일어나고 있는지 모른다’는 관점에서 ML 모델의 해석이 필요하다. ML 모델을 해석한다는 것은 어떤 뜻일까? 모델의 의사결정에 대한 이유 제시 모델이 주요하게 학습한 규칙 및 피쳐를 찾는다. 위 기석을 기반으로, 일반적인 상황에서 모델이 안정적인 결과를 낼 수 있을지 검토함. 왜 ML 모델을 해석하는 것이 중요할까? ML 모델을 학습하고 평가 데이터셋에서 좋은 성능을 확인한다면, 모델이 결정을 내린 이유를 궁금해할 필요 없이 그냥 믿으면 되지 않을까? 모델의 검증 데이..

[Applied Predictive Modeling 2] Interpretable ML(2)

[Applied Predictive Modeling 1] Interpretable ML

티스토리툴바