Feedback #91
Feedback #91
Conversation
test
…initialization - Instead of hardcoding the dataloader and model configurations in main.py, this commit updates the code to use a config file for defining these configurations. - The config.yaml file now includes a new "max_tokens" item to specify the maximum number of tokens for the dataloader. - The data path information is also added to the config.yaml file. - The max_epochs argument in the Trainer initialization is replaced with the value from the config file. - The model.py file is updated to import the get_loss and get_optimizer functions from separate files. - The loss.py file is added, which includes a function to get the loss function based on the provided name. - The optimizer.py file is added, which includes a function to get the optimizer based on the provided name. Refactoring the code in this way improves modularity and makes it easier to modify the dataloader, model, loss function, and optimizer configurations in the future.
fix: dataloader.py - args.shuffle -> self.shuffle
fix: delete backticks
feat: add EDA.ipynb
feat: data augmentation
feat: label 별 데이터 분포 및 token length 별 데이터 분포 시각화
feat: interactive한 앙상블
feat: can load .ckpt file
앙상블 모델 결정 과정에서 분석한 EDA 코드입니다.
requirements.txt 최종 업데이트
Update README.md
| | 백승우 |데이터 EDA(label 분포 분석), 데이터 전처리(불용어 제거), 데이터 증강(under sampling, copied sentence), 모델 아키텍쳐 변경 실험(embedding layer freezing, 일부 encoder layer freezing), 모델 조사 및 실험 | | ||
| | 김정석 |데이터 분석 및 전처리 고도화, 모델 아키텍처 최적화, 앙상블 기법 개선 | | ||
|
|
||
| ## 2. 프로젝트 파일 구조 |
There was a problem hiding this comment.
프로젝트 파일 구조를 나눠서 구분해둔 게 좋은 것 같습니다! 첫 프로젝트이실텐데 이런식으로 파일을 구조화해서 기록하시려고 시도하신 점에서 놀랐습니다.
| - **Slack**: Github 및 WandB 봇을 활용한 협업, 의견 공유, 회의 | ||
| - **Zoom**: 실시간 소통을 통한 의견 공유 및 회의 | ||
|
|
||
| ### 1.3 팀 구성 및 역할 |
There was a problem hiding this comment.
팀 구성 및 역할은 확실히 필요한 부분이라고 생각하는데, 잘 작성해주신 것 같습니다! 이는 개인적인 의견일 수도 있습나다만, 가독성있게 읽혀지지는 않는 것 같습니다. 하신 일들에 대해서 구체적으로 작성해주신 것 같기는 하지만, 너무 세세한 부분까지 작성이 된 것 같아, 내용을 어느 정도 함축해주시고, 전체적으로 Task명을 통일 시켜주시면 더 가독성이 좋지 않을까 생각이 듭니다.
| @@ -0,0 +1,33 @@ | |||
| model: | |||
There was a problem hiding this comment.
config 파일을 통해서 모델의 학습 파라미터를 정리하신 부분이 되게 좋은 것 같습니다! 추후 해당 프로젝트와 관련해서 말씀을 하시게 될 때, 여기서 사용한 optimizer나 loss, scheduler, augmentation 방법들에 대해서 깊게 이해를 하고 계시면 도움이 될 것 같습니다! 어떤 방법이고, 왜 사용했는지 등에 대해 질문이 들어올 때 도움이 될 것 같습니다!
There was a problem hiding this comment.
notebook 폴더를 별도로 나눠, 실험 내용을 기록하시려고 하신 시도가 좋았습니다. 다만, 이와 관련해서 제목의 통일성을 조금 맞춰주고, 가장 처음 코드블록에 주석으로라도, 어떤 실험에 대한 노트북 파일이었는지 작성해주시면 더 좋을 것 같습니다. 해당 주석을 잘 작성해주시면, 처음 보는 사람뿐만이 아니라 스스로에게도 많은 도움이 됩니다. 왜냐하면, 몇 달 뒤면 저희도 모두 코드를 처음 보는 사람처럼 될 수 있기 때문입니다 ㅎㅎ...
There was a problem hiding this comment.
requirements의 경우 처음 git을 통해 코드 관리를 하실 때 많이 놓칠 수도 있는 부분인데, 이를 챙겨주신 것만 해도 충분히 좋은 것 같습니다. 조금 더 좋아지길 바라는 마음에서 말씀드리면, 제가 생각했을 때 모든 패키지가 필요하지는 않을 것 같습니다. 이와 관련해 실제 main에서 활용하지 않아도 되는 패키지는 제거 후, 최소한의 패키지만을 올려두는 것이 더 좋을 것 같다는 생각이 듭니다.
| train(base_config, args.model_path) | ||
|
|
||
|
|
||
| elif args.mode == 'inference': |
There was a problem hiding this comment.
이건 개인 선호도의 차이일 수도 있지만, 위에서 train 단계에서는 깔끔하게 데이터 정의 후 학습 함수 이렇게 했는데, inference 단게에서는 상대적으로 덜 모듈화 되어있는 것 같다는 생각이 듭니다. inference도 함수로 만들어두신다면 더 가독성이 좋을 것 같습니다!
| from model.optimizer import get_optimizer | ||
| from model.MultiTaskLoss import MultiTaskLoss | ||
|
|
||
| class Model(pl.LightningModule): |
There was a problem hiding this comment.
다른 모델과 다른 loss를 사용하시게 되는 부분을 주석으로 조금 더 설명을 추가해주시는 것도 좋을 것 같아요!
| loss = torch.sqrt(loss) | ||
| self.log("val_loss", loss) | ||
|
|
||
| # prog_bar=True를 통해 epoch마다 progress bar에 val_pearson 점수 출력 |
There was a problem hiding this comment.
main으로 들어가게 되는 코드에는 사용하지 않는 코드는 제거해두면 좋을 것 같아요! 추후 사용해야 하는 코드라면, 이와 관련해 왜 주석 처리를 하는지 등에 대해서 추가적인 설명이 있으면 코드가 더 깔끔할 것 같습니다!
There was a problem hiding this comment.
streamlit을 활용해 평가 결과를 쉽게 확인할 수 있게 만드신 시도가 신선하고, 또 좋은 것 같습니다!!
| @@ -0,0 +1,6 @@ | |||
| def augment_func(name): | |||
There was a problem hiding this comment.
데코레이터 함수를 활용해서 함수의 속성을 관리하실 생각을 하신 게 좋은 것 같습니다. 만약, 이와 관련해서 질문이 들어온다면, 왜 데코레이터를 활용해서 augmentf function들을 관리하려고 했는지 추가 질문이 들어올 수도 있을 것 같습니다. (아마 이는 이미 알고 계실 것 같기는 한데, 이는 이걸 '알고 썼는지' 를 묻고 싶어서 질문이 들어올 수도 있을 것 같다는 생각이 들어, 간단한 피드백으로 작성해봤습니다. )
There was a problem hiding this comment.
따로 기록된 내용이 없는 것 같아 정리용으로 남겨두겠습니다!
개인적으로 저희가 추가할 데이터 증강 기법의 수가 얼마나 늘어날지 모르는 상황에서,
새로운 증강 기법이 추가될 때마다 augmentation.py에서
- 함수를 import
- 함수의 약칭을
config.yaml에서 찾은 후 설정 값을 불러와 실행
이 과정이 추가되어야 한다는 게 귀찮기도 하고 (추가한 건 새로운 데이터 증강 방법인데, 증강 함수를 호출하기만 하면 되는 augmentation.py도 같이 수정되어야 한다는 것이) 비직관적이라고 생각했습니다.
그래서 의도하고자 한 것이 아래와 같았습니다:
- 특정 디렉토리에서 데이터 증강을 위한 함수(사실은 클래스)를 모두 찾아서 import하자.
- import한 함수가 따로 설정해둔
alias를 확인하여config.yaml으로부터 찾자.
이를 쉽게 할 수 있는 방법을 찾다보니 자연스럽게 데코레이터 함수에 대해 알게 되었고,
마침 제가 생각한 요구조건을 모두 만족할 수 있는 방법으로 보여 적용하였습니다.
5 participants
👋! GitHub Classroom created this pull request as a place for your teacher to leave feedback on your work. It will update automatically. Don’t close or merge this pull request, unless you’re instructed to do so by your teacher.
In this pull request, your teacher can leave comments and feedback on your code. Click the Subscribe button to be notified if that happens.
Click the Files changed or Commits tab to see all of the changes pushed to the default branch since the assignment started. Your teacher can see this too.
Notes for teachers
Use this PR to leave feedback. Here are some tips:
For more information about this pull request, read “Leaving assignment feedback in GitHub”.
Subscribed: @swbaek97 @Uvamba @hskhyl @rasauq1122 @Now100 @privetin