HuggingFace dataset
HuggingFace에서 모델뿐 아니라 데이터세트도 불러와서 쉽게 사용하게끔 해놨구만..
- https://huggingface.co/nlp/viewer/?dataset=kor_nli&config=multi_nli
- 위 링크는 한국어 NLI이다.
- 물론 데이터세트는 실제로 여기 없는 것도 엄청 많지만, 유명한 거는 아마도 다 들어가지 않을까 싶다.
- Add dataset으로 본인이 소유한 데이터세트도 추가할 수 있고
- Docs보면 사용법들이 써있고 이것에 맞게 구축하면 될 것이다.
- Overivew 버튼은 colab으로 예시도 확인해볼 수 있다.
- 근데 실제 허깅페이스 모델도 그렇지만, 이러한 라이브러리가 많은 기능들이 있지만 다 알기는 어렵다.
- 개인적으로는 불러와서 뒷부분은 직접 코딩으로 처리하는게 편하지만 만약 라이브러리를 잘 다룰 줄 안다면 정말 많은 시간을 절약할 수 있을 것 같다.
댓글
댓글 쓰기