Posts 2022-09-20 TIL
Post
Cancel

2022-09-20 TIL

Today

  • 화요일, 날씨도 많이 선선해지고 하늘도 맑았다.
  • 나는 재택이라 밖에 나가지 못해 아쉬웠다.
  • 내가 하는 일이 제대로 된건지, 그리고 내가 이렇게 하는게 맞는지 계속 의문이 든다.
  • 자기소개서 4번 평가 항목 개발부분 모델링을 거의 완료하였다. LGBM의 파라미터 중에 L1, L2 규제가 있어 이를 사용하여 과적합을 줄였다.
  • 전체적으로 모델이 과적합 되는 경향을 보여준다. 그래서 Max depth나 L1, L2 규제를 통해 과적합을 해결하고 있는데, 오히려 과소적합되는건 아닌가 의문이 든다.
  • 오전 업무 시간에 튜닝한 파라미터가 가장 좋은 파라미터여서 너무 허무했다. 0.69 -> 0.7로 성능을 올리기 위해 하루종일 튜닝했는데, 결국 0.69가 가장 좋은 성능이였다..
    • 그냥 오전에 이걸로 마무리하고 다른일 했다면 일정이 크게 밀리진 않았을것 같은데 나의 욕심이 과했나보다..
  • 다만, 이런 성능, 결과가 왜 나왔는지에 대해는 고민이 좀 적었던것 같아 반성해본다.

TIL

  • LGBM과 XGB에 L1, L2 규제가 있다는것을 알게 되었다.
  • 당연히 그레디언트의 가중치를 규제하는 파라미터가 있을것인데 간과하였다.
  • 다음에 또 모델링 할 일이 생긴다면 사용해 보아야지.

오늘의 결론

  • 욕심 부리지 말자.
This post is licensed under CC BY 4.0 by the author.