• 내용으로 건너뛰기

Out of the Box

사용자 도구

  • 로그인

사이트 도구

  • 최근 바뀜
  • 미디어 관리자
  • 사이트맵
추적: • theanorc • 2015-11_policy_distillation • 2024-01_whisper_speech • 2020-06_rigging_the_lottery_making_all_tickets_winners • 2021-02_first_return_then_explore • 2020-08_computer-generated_music_for_tabletop_role-playing_games • 2020-07_tabletop_roleplaying_games_procedural_content_generators • 2017-06_accurate_large_minibatch_sgd_training_imagenet_in_1_hour • archive • 2019-12_larc

review:2019-12_larc

문서의 이전 판입니다!


2019-12 LARC

  • https://developer.nvidia.com/blog/pretraining-bert-with-layer-wise-adaptive-learning-rates/
  • https://github.com/NVIDIA/apex/blob/master/apex/parallel/LARC.py
  • https://github.com/kakaobrain/torchlars
  • https://www.kakaobrain.com/blog/113
larc, pytorch, optimizer, large batch
/var/www/html/data/pages/review/2019-12_larc.txt · 마지막으로 수정됨: 2024/03/23 02:42 저자 127.0.0.1

문서 도구

  • 원본 보기
  • 이전 판
  • 역링크
  • Fold/unfold all
  • 맨 위로
별도로 명시하지 않을 경우, 이 위키의 내용은 다음 라이선스에 따라 사용할 수 있습니다: CC Attribution-Noncommercial-Share Alike 4.0 International
CC Attribution-Noncommercial-Share Alike 4.0 International Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki