🏅 KLUE Competition - Relation Extraciton

📋 Table of contents

• 📝 Competition Description
• 💾 Dataset Description
• 🗄 Folder Structure
• ⚙️ Set up
• 💻 How to Run
  
  

---

📝 Competition Description

관계 추출(Relation Extraction)은 문장의 단어(Entity)에 대한 속성과 관계를 예측하는 문제입니다.

이번 대회에서는 문장, 단어에 대한 정보를 통해 문장 속에서 단어 사이의 관계를 추론하는 모델을 학습시킵니다. 이를 통해 우리의 인공지능 모델이 단어들의 속성과 관계를 파악하며 개념을 학습할 수 있습니다.

💾 Dataset Description

Dataset	train	test
문장 수	32470	7765
비율	80	20

Columns

• id (문자열) : 문장 고유 ID

• sentence (문자열) : 주어진 문장

• subject_entity (딕셔너리) : 주체 entity

• object_entity (딕셔너리) : 객체 entity

• label : (문자열) 30가지 label에 해당하는 주체와 객체간 관계

• source : (문자열) 문장의 출처

  • wikipedia (위키피디아)

  • wikitree (위키트리)

  • policy_briefing (정책 보도 자료?)

🗄 Folder Structure

├──📁config
│   └── base_config.yaml
│   └── custom_config.yaml 
│
├──📁data_loaders
│   └── data_loader.py  → 데이터셋을 로드합니다. 
│   └── preprocessing.py
│
├──📁dataset
│   ├──📁dev
│   │   └── dev.csv → dev(valid) 데이터
│   ├──📁predict
│   │   ├── predict.csv → 예측해야하는 데이터
│   │   └── sample_submission.csv → 샘플 데이터
│   ├──📁pretrain
│   │   ├── all_data.csv → train + test 데이터
│   │   └── train.csv
│   ├──📁test
│   │   └── test.csv → 모델 학습 후 마지막 평가에서 사용하는 데이터
│   └──📁train
│       └── train.csv → 학습 데이터
|       └── gpt_autmentation, roberta_augmentation, pororo_augmentation.csv
│
├──📁model
│   ├── auxiliary.py
│   ├── entity_roberta.py
│   ├── loss.py
│   ├── lstm.py
│   ├── metric.py 
│   ├── model.py
│   ├── rbert.py
│   └── recent.py
│
├──📁prediction
│   ├── sample_submission.csv
│   ├── submission.csv
│   └── submission_18-14-46.csv → inference하는 경우, '날짜-시간-분.csv'가 뒤에 붙음
│
├──📁step_saved_model → save_steps 조건에서 모델이 저장되는 경로.
│   └──📁klue-roberta-large → 사용한 모델
│       └──📁18-14-42       → 실행한 날짜-시간-분
│           └──📁checkpoint-500 → 저장된 체크포인트-스탭
│ 
├──📁trainer
│   └── trainer.py
│
└──📁utils
│    └── util.py             
│
├── dict_label_to_num.pkl
├── dict_num_to_label.pkl
├── inference.py → inference 코드
│
├── main.py → train.py와 inference.py 실행 코드
│   ex) train하는 경우 → python main.py -mt
│       inference하는 경우 → python main.py -mi
│  
├── tapt_pretrain.py → tapt task 코드
├── train.py → train 코드
├── train_ray.py → hyperparameter search 코드
└── train_raybohb.py

⚙️ Set up

1. Requirements

$ pip install -r requirements.txt

2. Prepare Dataset - train data split

train : dev : test = 8 : 1 : 1

💻 How to Run

How to Train

$ python main.py  -mt

How to Inference

$ python main.py  -mi

How to TAPT pretrain

$ python main.py  -mtp