LLM Fine-tuning Project

이 프로젝트는 Hugging Face의 대형 언어 모델(LLM)을 불러와서 파인튜닝하고, 결과를 HuggingFace에 merge & push한 후, 모델을 사용하여 inference를 수행하는 방법을 다룹니다.

프로젝트 구조

본 프로젝트는 다음 파일들을 포함하고 있습니다:

Result Models

Name		Name	Last commit message	Last commit date
Latest commit History 7 Commits
ko-lm-evaluation-harness		ko-lm-evaluation-harness
.gitignore		.gitignore
LLM evaluation 실습 자료.ipynb		LLM evaluation 실습 자료.ipynb
LLM fine-tuning 실습 자료.ipynb		LLM fine-tuning 실습 자료.ipynb
README.md		README.md
eval_test.ipynb		eval_test.ipynb
evaluation_korean.ipynb		evaluation_korean.ipynb
inference.py		inference.py
inference_gemma.py		inference_gemma.py
langchain_hf.py		langchain_hf.py
llama3_inference.py		llama3_inference.py
merge_push.py		merge_push.py
result.txt		result.txt
test.ipynb		test.ipynb
train_gemma.py		train_gemma.py
train_instruction_tuning.py		train_instruction_tuning.py
train_llm.py		train_llm.py