Skip to content

Commit

Permalink
update post: 도메인 최적화 파인튜닝: Ai 기반 Toeic 문제 생성 모델 개발
Browse files Browse the repository at this point in the history
  • Loading branch information
comsa33 committed Jun 1, 2024
1 parent 8247c76 commit 9cd7d4a
Showing 1 changed file with 1 addition and 50 deletions.
51 changes: 1 addition & 50 deletions clwwa6n9f000108lc4w1a9w0j.md
Original file line number Diff line number Diff line change
Expand Up @@ -8,55 +8,6 @@ tags: ai, machine-learning, nlp, deep-learning, pytorch, llm, gradient-descent,

---

## 목차

1. **서론**

* 프로젝트 배경 및 목적

* 사용한 기술 스택

2. **환경 설정**

* Unsloth 설치 방법 (CUDA 12.1 기준)

* 프로젝트 구조 소개

3. **데이터 준비**

* 데이터셋 로드 및 전처리

* 데이터셋 포맷팅 코드

4. **모델 준비**

* 모델 로드 및 준비 코드

* PEFT 모델 설정

5. **모델 학습**

* 학습 설정 및 초기화

* 학습 코드 및 과정

6. **모델 저장 및 푸시**

* 모델 체크포인트 저장 및 불러오기

* Hugging Face Hub에 모델 푸시

7. **모델 테스트**

* 모델 테스트 코드 및 결과

8. **결론**

* 프로젝트 결과 및 성과

* 향후 개선 방향


## 1\. 서론

### 프로젝트 배경 및 목적
Expand Down Expand Up @@ -90,7 +41,7 @@ pip install "unsloth[cu121] @ git+https://github.com/unslothai/unsloth.git"

### 프로젝트 구조 소개

```
```plaintext
project/
├── config_llama3_openko_8b.yaml
├── data_prep.py
Expand Down

0 comments on commit 9cd7d4a

Please sign in to comment.