본문 바로가기

NLP

(2)

심리 케어 챗봇(kogpt2, kobert) 구현해 배포해보자 [1] kogpt2 기반 심리 케어 챗봇 한줄 설명 KoGPT2 모델은 문장을 "생성"해내는 모델입니다. 심리 케어 목적의 챗봇을 구현하기 위해 입력 받은 내용에 대해 위로하거나 공감하거나 부드러운 표현으로 반응하고 문장을 생성해내도록 파인 튜닝을 진행했습니다. 학습 코드 링크입니다. 사용한 데이터셋 1. ai hub 제공, 웰니스 대화 스크립트 데이터셋 AI hub > 외부데이터 > KETI R&D데이터 >인식기술(언어지능) > 웰니스 대화 스크립트 데이터셋 2. @songys (송영숙님) 제공, 챗봇 데이터셋 두 데이터를 아래의 데이터 형식에 맞게 가공했습니다. 학습 환경 colab 기본 환경에서도 가능합니다만, 시간이 꽤 오래걸리는 편입니다! 1 epoch에 15~16분 정도 걸리는데 epoch 최..

[Python, KoBERT] 다중 감정 분류 모델 구현하기 (huggingface로 이전 방법 O) 1. BERT, KoBERT란? 구글에서 2018년에 공개한 BERT는 등장과 동시에 수많은 NLP 태스크에서 최고 성능을 보여주면서 NLP의 한 획을 그은 모델로 평가받고 있다. 양방향성을 지향하고 있기 때문이다.(B: bidirection) BERT 모델은 문맥 특성을 활용하고 있고, 대용량 말뭉치로 사전 학습이 이미 진행되어 언어에 대한 이해도도 높다. 하지만 BERT는 한국어에 대해서 영어보다 정확도가 떨어진다고 한다. 오늘 기술해볼 KoBERT 모델은 SKTBrain에서 공개했는데, 한국어 위키 5백만 문장과 한국어 뉴스 2천만 문장을 학습한 모델이다. 자신의 사용 목적에 따라 파인튜닝이 가능하기 때문에 output layer만을 추가로 달아주면 원하는 결과를 출력해낼 수 있다. 많은 BERT ..

이전 1 다음

티스토리툴바