• Bigstar 2022
  • 수행 과제 개요
  • Problem Definition
  • Data Augmentation
    • Data Space 증강
    • Feature Space 증강
  • 접근 방법
    • Easy Data Augmentation
    • Backtranslation
    • Generative Approach
    • Comparison
  • Implementation Detail
    • Fine-tuning
    • Generating Data
    • Data Filtering
  • Dataset
    • Stats
  • Experimental Results

=> 자연어 인공지능 모델 성능 향상을 위한 텍스트 데이터 증강 모델 개발.

• 머신러닝 모델의 일반화 성능을 높이기 위해서는 많은 양의 데이터가 요구됨.
• 하지만, 다량의 데이터를 수집하고 annotation하는 데에는 많은 비용이 소모됨.

• 적은 비용으로 좋은 모델을 만들기 위해 데이터 증강이 활용될 수 있음.
• 자연어 task에서 데이터를 증강하는 방법은 크게 2가지 존재.
  • Data space에서 수행되는 데이터 증강.
  • Feature space에서 수행되는 데이터 증강.

• 텍스트 형태의 data를 그대로 생성하는 방법.

• Feature space (latent space) 에서 수행되는 증강 기법.

• 다양한 모델에서도 사용할 수 있는 Data Space 증강 선택.
  • Easy Data Augmentation
  • Backtranslation
  • Generative Approach

• SR: Synonym Replacement (유의어 교체)
• RI: Random Insertion (랜덤 삽입)
• RS: Random Swap (랜덤 스왑)
• RD: Random Deletion (랜덤 삭제)

Pros: 4개의 간단한 operation으로 가장 빠르게 많은 데이터를 생성할 수 있다는 장점을 가짐.
Cons: 자연스러운 문장 구조로 생성되지 못하고, 기존의 의미와 다른 의미를 가진 문장이 생성될 수 있음.

• 입력 언어에서 다른 언어로 번역 후 다시 원래 입력 언어로 번역하여 데이터를 증강하는 방법.

Pros: 자연스러운 문장 생성이 가능함.
Cons: 다양한 문장이 생성되기 어려움.

• Pretrained Language Model(PLM)을 이용하여 문장을 생성하는 방법.

Pros: 자연스러운 문장 생성이 가능함.
Cons: 위의 2개 방법과 달리 좋은 PLM은 계산 복잡도가 높으므로 문장 생성 속도가 상대적으로 느림.

• 3가지 실험 결과 중 Generative Approach가 가장 유의미한 성능 향상 효과를 보임.

• Pretrained Model
  • skt/kogpt2-base-v2
• Fine-tuning
  • 주어진 데이터와 비슷한 문장을 생성하기 위해 find-tuning 진행.
  • 주어진 training set을 이용하여 auto-regression 학습을 진행.
• Generating Data
  • 문장을 원하는 수만큼 생성.
• Data Filtering
  • 생성된 문장 중에서 특정 기준에 부합하는 문장만 필터링.

• Label invarint 문장을 생성하기 위해 다음과 같은 형태로 training set을 재구성.
  • $y_1SEPx_1EOSy_2SEPx_2EOSy_3\cdots y_nSEPx_nEOS$

• Auto-regressive 방식으로 학습 진행.

• <Label><SEP> 형식으로 모델의 input으로 넣어줌.

• 생성된 문장의 퀄리티를 보장하기 위해 특정 기준에 부합하는 문장만 사용.
  • 기존 training set $D_{train}$을 이용하여 $classifier$를 학습.
  • 학습된 $classifier$를 이용하여 생성한 $D_{aug}$에 대해 prediction 진행.
  • Ground truth와 prediction이 일치하는 문장만 필터링.

소상공인 고객 주문 질의응답 텍스트