딥러닝 & 머신러닝/프로젝트 (13) 썸네일형 리스트형 2019.11.15 AI 경진대회 발표를 듣고 난 후 메모한 것들 Kp지수 예측 경진대회 발표에 참석해서 수상자들의 얘기를 듣고 배워나가야 할 것들을 메모한 것입니다. 이번 대회에 참여한 수상자들의 발표를 들으니까 아직 우리가 더 배워야 할 것들이 많이 남았다는 것을 느꼈다. 충분한 지식이 없었다는 게 좀 아쉬웠다. 그리고 우주환경 자체에 대한 지식보다는 머신러닝과 딥러닝에 관한 지식이 이번 대회에서 훨씬 중요하다는 것을 깨달았다. 그럼에도 불구하고 많은 대학원생들과 실력있는 학부생들 사이에서 반정도라도 했다는 것에선 꽤 만족스러움을 느낄 수 있었다. 이런 실무를 처음 해봤던 것 치곤 선방했다. 그래도 아직 채워나갈 것들이 많이 쌓여있다. 열심히 하자!! 기본적 머신러닝 알고리즘: GBDT (XGboost, LGboost, LightGBM, random forest t.. 딥러닝: LSTM을 활용하여 태양풍 데이터로 Kp지수 예측하기 작년 여름에 참가했었던 '태양풍 데이터로 Kp지수 예측하기' 경진대회에서 한 것들을 발표자료로 정리한 것입니다. 경희대학교 우주과학과 손지현, 장유호 학생과 함께 참여하였습니다. 총 42팀 중 21등으로 순위 마감하였습니다. 딥러닝(CNN)을 활용한 은하 분류 (3) : 문제점 보완 작년 봄에 했었던 첫 딥러닝 프로젝트인 '딥러닝을 이용한 은하분류' 발표를 마치고 문제점을 보완하기 위해 적은 메모입니다. 1. 한 번 잘못 판단 후 계속 잘못 판단한 쪽으로 치우친다 (과적합) = local minimum에 빠진다 해결방법 : learning rate, mini-batch learning, Initializer 등으로 해결 가능 1-1. Initializer 딥러닝 학습에선 가중치가 중요하다. 이 가중치를 매 에포크마다 새로 갱신 (초기화) 시키는데, 그 방법의 문제이다. 보편적으로 쓰이는 Initializer에는 Xavier Initializer, He Initializer가 있다. 예를 들어 He Initializer는 Keras에서 Dense((50, kernel_initializ.. 딥러닝(CNN)을 이용한 은하 분류 (2) : 실전 돌입 작년 봄에 했었던 첫 딥러닝 프로젝트인 '딥러닝을 이용한 은하 분류' 발표자료 중 실전 돌입 과정에 해당하는 부분입니다. 딥러닝(CNN)을 이용한 은하 분류 (1) : 준비과정 작년 봄에 했었던 첫 딥러닝 프로젝트인 '딥러닝을 이용한 은하 분류' 발표자료 중 준비 과정에 해당하는 부분입니다. 이전 1 2 다음
