GPT3-small / T5-base / Bertshared-base 모델을 공개합니다. Tensorflow와 pytorch모두에서 사용이

Deep Learning/NLP 2021. 1. 31. 08:40

www.facebook.com/groups/TensorFlowKR/permalink/1411658372508550

GPT3-small / T5-base / Bertshared-base 모델을 공개합니다.

Tensorflow와 pytorch모두에서 사용이 가능합니다. 이제 한국어도 최신 언어모델을 기반으로 연구 하실 수 있으면 좋겠습니다.
간단한 예시를 colab으로 실행시켜 볼 수 있도록 만들어 두었습니다.
아직 training중인 모델은 업데이트가 될 예정이며, T5의 경우 아직 완전히 검증하진 못하였습니다.
현재 비공개 상태의 모델들도 추후 기회가 된다면 공개하도록 하겠습니다. 다양한 NLP 연구와 모델 사용에 대한 궁금증은 메세지로 남겨주십시오.

감사합니다.

github.com/kiyoungkim1/LMkor?fbclid=IwAR2094LyHcKFdQJcv8pfUFsCbWk74SVF9BihGMQi5wiIg6ExqC1Syx6mEM8

'Deep Learning > NLP' 카테고리의 다른 글

안녕하세요. Tensorflow KR 카카오브레인에서 자연어처리 라이브러리인 Pororo를 출시하게 되어서 글을 작성합니다. Pororo는 영 (0)	2021.02.03
안녕하세요! NLP를 공부하시는 분들, 혹은 처음 접하는 분들께 도움이 될까 하여 올려봅니다! 🙂 빅데이터 연합동아리 투빅스에서 7주동안 (0)	2021.01.31
안녕하세요. Tensorflow KR. 자연어처리 리뷰모임 [집현전]의 운영자 고현웅이라고 합니다. 이번 12월 한 달 동안 집현전에서 만든 자 (0)	2021.01.14
새해부터 데이터셋 Bomb이 터졌네요. Eleuther AI 에서 공개적으로 수집 및 훈련에 사용이 가능한 영어 텍스트 825GB 코퍼스 Pil (0)	2021.01.04
안녕하세요 Tensorflow KR. 이번에 제가 하고있는 논문스터디에서 기계번역 서베이를 준비하면서 자연어처리 백그라운드(Seq2Seq 부터 (0)	2020.12.28