level2_nlp_mrc-nlp-13

✅ 목차

1. 정보 > 2. 진행 과정 > 3. 리더보드 > 4. 팀원 > 5. 역할 > 6. 디렉토리 구조 > 7. 프로젝트 구성

➡️ 랩업 리포트 보기

📜 정보

• 주제 : 부스트캠프 5기 Level 2 프로젝트 - 기계독해 : 질문 답하기(MRC, Open-Domain Question Answering)
• 프로젝트 기간 : 2023년 6월 7일 ~ 2023년 6월 22일
• 프로젝트 내용 : 질문에 관련된 문서를 찾아주는 retriever 단계와 관련된 문서를 읽고 적절한 답변을 찾거나 만드는 reader 단계로 나누어 주어지는 지문이 따로 존재하지 않고 사전에 구축되어있는 knowledge resource에서 질문에 대답할 수 있는 문서를 찾는 프로젝트

🏆 리더보드

• Private 리더보드에서 13팀 중 5위로 마무리

🗓️ 진행 과정

👨🏼‍💻 팀원

김윤희

김주성

박지연

이준범

정효정

🧑🏻‍🔧 역할

이름	역할
김윤희	코드 모듈화, Wandb 추가, Curriculum Learning
김주성	외부 데이터셋 탐색, 데이터 전처리
박지연	Retriever에 BM25 추가
이준범	데이터 전처리
정효정	코드 모듈화, Retriever의 BM25에 Cross Encoder 추가

📁 디렉토리 구조

├── level2_nlp_mrc-nlp-13
|   ├── basecode/ (private)
│   ├── data/ (private)
│   ├── results/ (private)
│   ├── utils/
│   │   ├── DataLoader.py
│   │   ├── Inference.py
│   │   ├── Model.py
│   │   ├── Retrieval.py
│   │   ├── Train.py
│   │   ├── bm25.py
│   │   ├── cross_encoder.py
│   │   ├── preprocess.py
│   │   ├── retrieval.yaml
│   │   ├── utils_qa.py
│   │   └── utils_retrieval.py
│   ├── main.py
│   ├── README.md
│   ├── config.yaml
|   ├── sweep.py
│   └── curriculum_learning.py

⚙️ 프로젝트 구성

분류	내용
데이터
Retrieval	• BM25 알고리즘 및 Cross Encoder 활용
Reader 모델	• klue/roberta-large를 백본 모델로 활용, HuggingFace Transformer Model+Pytorch Lightning활용
전처리	• 반각문자 변환, 불필요한 문자 제거
증강	• KLUE-MRC 데이터셋과 비슷한 형태인 KorQuAD 1.0 데이터셋과 AI-Hub 기계독해 데이터셋 활용
앙상블 방법	• 서로 다른 retrieval 방식을 활용한 모델 5가지를 이용하여 hard voting 적용
모델 성능 개선 노력	• Curriculum Learning, Learning Rate Scheduling, Focal Loss 적용, fp16으로 학습 속도 향상