한국어 텍스트 감정 분석 모델

본 리포지토리는 2023 국립국어원 인공 지능 언어 능력 평가 중 감정 분석(Emotional Analysis) 과제를 위한 모델 및 해당 모델의 재현을 위한 소스 코드를 포함하고 있습니다.

Data Format

{
    "id": "nikluge-2023-ea-dev-000001",
    "input": {
        "form": "하,,,,내일 옥상다이브 하기 전에 표 구하길 기도해주세요",
        "target": {
            "form": "표",
            "begin": 20,
            "end": 21
        }
    },
    "output": {
        "joy": "False",
        "anticipation": "True",
        "trust": "False",
        "surprise": "False",
        "disgust": "False",
        "fear": "False",
        "anger": "False",
        "sadness": "False"
    }
}

Methods

• Model
  • beomi/KcELECTRA-base-v2022
    • 이모티콘 및 신조어가 포함된 데이터와 유사한 데이터로 학습된 한국어 ELECTRA 모델
  • Asymmetric Loss 사용
    • Multi-Label Classification Task에 적합한 Loss
• Data Processing
  • Multi-Label Classification Task에 적합한 Stratified K-Fold 적용
  • KcBERT 및 KcELECTRA 모델 사전 학습 시 사용한 clean 함수를 적용
  • 데이터에 포함된 &others& 문구를 삭제
• Ensemble
  • Hard Voting 기법 사용
    • Voting 시, 과반수 이상의 득표를 받은 label에 대해 모두 인정

Directory Structue

resource
└── data
    ├── nikluge-ea-2023-train.jsonl
    ├── nikluge-ea-2023-dev.jsonl
    └── nikluge-ea-2023-test.jsonl

# Executable python script
run
├── EDA.ipynb
├── ensemble.ipynb
├── infernece.py
└── train.py

# Python dependency file
requirements.txt

Enviroments

Install Python Dependency

pip install -r requirements.txt

How to Run

Train

python3 -m run train2 \
    --output-dir outputs/beomi-KcELECTRA-base-v2022/removing_all-stratified_10folds-ES_patience5-ASL_Loss-lr2_5-b64 \
    --seed 42 --epoch 50 --patience 5 --num-folds 10 \
    --learning-rate 2e-5 --weight-decay 0.1 \
    --max-seq-len 200 \
    --batch-size 64 --valid-batch-size 64 \
    --model-path beomi/KcELECTRA-base-v2022 \
    --tokenizer beomi/KcELECTRA-base-v2022 \
    --removing-symbol yes --removing-emoji yes \
    --removing-others yes --cleansing yes \
    --gpu-num 2

Inference

python3 -m run inference \
    --model-ckpt-path outputs/beomi-KcELECTRA-base-v2022/removing_all-stratified_10folds-ES_patience5-ASL_Loss-lr2_5-b64/fold_9/e7 \
    --output-path outputs/beomi-KcELECTRA-base-v2022/removing_all-stratified_10folds-ES_patience5-ASL_Loss-lr2_5-b64/fold_9-test_output.jsonl \
    --max-seq-len 200 \
    --batch-size 128 \
    --removing-symbol yes --removing-emoji yes \
    --removing-others yes --cleansing yes \
    --device cuda:3

Reference

• 국립국어원 모두의말뭉치 (https://corpus.korean.go.kr/)
• teddysum/Korean_EA_2023 (https://github.com/teddysum/Korean_EA_2023)
• Beomi/KcELECTRA (https://github.com/Beomi/KcELECTRA)
• huggingface/transformers (https://github.com/huggingface/transformers)