위 그래프는 자주 사용되는 머신러닝 기법의 설명가능성(Explainability)와 성능(Predictive power)의 상충관계(Trade-off)를 보여줍니다. 여기서 설명가능성이란 모델이 왜 그런 예측을 하는지 인간이 해석할 수 있는 정도를 나타내며, 성능이란 모델의 예측력이 높은, 즉, 모델이 현상을 더 잘 담아낸 정도를 나타냅니다. 성능이 높을 수록 모델은 더 실제에 가까운 예측을 한다는 것이죠.
설명가능성과 성능이 상충관계인 이유는 현재의 모델들이 대개 설명가능성이 높으면 성능이 낮고, 성능이 높으면 설명가능성이 낮기 때문입니다. 설명가능성이 낮은데 성능도 낮은 모델은 모델의 의미가 없고, 설명가능성이 높으면서 성능이 높은 모델에 관한 연구는 현재진행형이기 때문입니다(설명가능한 인공지능, Explainable AI; XAI). 그래서 설명가능성과 성능 기준으로 각각 쓸만한 모델들만 남게 되었고, 이들이 Trade-off 속에서 목적에 맞게 사용되고 있는 것이죠.
@청자몽님
관련 설명을 글에 추가해봤습니다!
설명력과 성능 중 더 중요도가 높은 경우가 있어 두 목적 사이에서 쓸만한 모델들만 살아남다 보니, 상충관계로 나타나는 거라고 보는 게 더 맞겠군요..! 설명력도 좋고 성능도 좋은 모델에 관한 연구는 현재 활발히 연구되고 있는 분야로 알고 있어요!
(재미있게 읽어주셔서 감사합니다^^ 영상 관련글 기다릴게요!)
@청자몽님
관련 설명을 글에 추가해봤습니다!
설명력과 성능 중 더 중요도가 높은 경우가 있어 두 목적 사이에서 쓸만한 모델들만 살아남다 보니, 상충관계로 나타나는 거라고 보는 게 더 맞겠군요..! 설명력도 좋고 성능도 좋은 모델에 관한 연구는 현재 활발히 연구되고 있는 분야로 알고 있어요!
(재미있게 읽어주셔서 감사합니다^^ 영상 관련글 기다릴게요!)
@청자몽님
관련 설명을 글에 추가해봤습니다!
설명력과 성능 중 더 중요도가 높은 경우가 있어 두 목적 사이에서 쓸만한 모델들만 살아남다 보니, 상충관계로 나타나는 거라고 보는 게 더 맞겠군요..! 설명력도 좋고 성능도 좋은 모델에 관한 연구는 현재 활발히 연구되고 있는 분야로 알고 있어요!
(재미있게 읽어주셔서 감사합니다^^ 영상 관련글 기다릴게요!)
좋은 답글 감사합니다..! 학문 분야가 다른 만큼 제가 제대로 읽었는지 모르겠지만, 나름의 설명을 하고자 따로 답글로 작성해 보았습니다.
https://alook.so/posts/KmtBzWw
의사결정나무! 오.. 저는 처음 듣는데, 재밌네요.
설명 감사합니다!!! '질량 보존의 법칙' 같은걸까요? 결국엔 어떻게든 채워지는.. 설명력과 성능 관계.
(근데;; 둘다 부실한 저는 뭔지.. 저는 지나가는 객.)
몬스님 글은 정말 깔끔하고 담백하고, 굉장히 잘 정리되어 있어서 좋습니다.
달라진 얼룩소 덕분에, 정말 깊고 다양한 이야기를 곁눈질이나마 할 수 있어 감사합니다. 점심 맛있게 드세요. 서울 오늘 좀 쌀쌀하고 먼지가 많아요.
...
링크해주신 영상 봤어요 ^^. 몇개 더 찾아봤는데.. 느낀바가 있어서 다음에 나눠볼까 합니다. 고마워요.
내가 전혀 관심없는 분야, 내용.. 그런 것도 한번 봐볼까? 하는 마음이 들고 그랬어요.
@청자몽님
관련 설명을 글에 추가해봤습니다!
설명력과 성능 중 더 중요도가 높은 경우가 있어 두 목적 사이에서 쓸만한 모델들만 살아남다 보니, 상충관계로 나타나는 거라고 보는 게 더 맞겠군요..! 설명력도 좋고 성능도 좋은 모델에 관한 연구는 현재 활발히 연구되고 있는 분야로 알고 있어요!
(재미있게 읽어주셔서 감사합니다^^ 영상 관련글 기다릴게요!)
좋은 답글 감사합니다..! 학문 분야가 다른 만큼 제가 제대로 읽었는지 모르겠지만, 나름의 설명을 하고자 따로 답글로 작성해 보았습니다.
https://alook.so/posts/KmtBzWw
의사결정나무! 오.. 저는 처음 듣는데, 재밌네요.
설명 감사합니다!!! '질량 보존의 법칙' 같은걸까요? 결국엔 어떻게든 채워지는.. 설명력과 성능 관계.
(근데;; 둘다 부실한 저는 뭔지.. 저는 지나가는 객.)
몬스님 글은 정말 깔끔하고 담백하고, 굉장히 잘 정리되어 있어서 좋습니다.
달라진 얼룩소 덕분에, 정말 깊고 다양한 이야기를 곁눈질이나마 할 수 있어 감사합니다. 점심 맛있게 드세요. 서울 오늘 좀 쌀쌀하고 먼지가 많아요.
...
링크해주신 영상 봤어요 ^^. 몇개 더 찾아봤는데.. 느낀바가 있어서 다음에 나눠볼까 합니다. 고마워요.
내가 전혀 관심없는 분야, 내용.. 그런 것도 한번 봐볼까? 하는 마음이 들고 그랬어요.