just do it just do it

project

• Contents vs. Index

  project/논문 작성 2023. 3. 21. 16:23

  Read More
• 0222

  보호글 2023. 2. 22. 15:58

  보호되어 있는 글입니다.

  Read More
• 학습중-1

  보호글 2023. 2. 15. 13:55

  보호되어 있는 글입니다.

  Read More
• Pre-training & Fine tuning

  project/language modeling 2023. 2. 6. 20:40

  https://velog.io/@soyoun9798/Pre-training-fine-tuning Pre training & Fine tuning Pre-training 사전 학습 모델이란 기존에 자비어(Xavier) 등 임의의 값으로 초기화하던 모델의 가중치들을 다른 문제(task)에 학습시킨 가중치들로 초기화하는 방법이다. velog.io

  Read More
• 하이퍼파라미터 종류 및 튜닝

  project/논문 작성 2023. 2. 6. 20:36

  은닉층의 개수 은닉층의 노드 개수 학습률 규제화의 패널티 파라미터 배치 사이즈 에폭수 weight 초기값 - BERT, LinkBERT, RoBERTa ... loss function optimizer 종류 및 파라미터 https://blog.naver.com/PostView.nhn?blogId=winddori2002&logNo=221958410610

  Read More
• AutoModels

  project/language modeling 2023. 2. 3. 10:08

  d https://huggingface.co/transformers/v3.0.2/model_doc/auto.html AutoModels — transformers 3.0.2 documentation AutoModels In many cases, the architecture you want to use can be guessed from the name or the path of the pretrained model you are supplying to the from_pretrained method. AutoClasses are here to do this job for you so that you automatically retrieve the huggingface.co

  Read More
이전
1
다음