Zobrazeno 1 - 10 of 485 pro vyhledávání: '"Ye Zhengmao"'
1
Report
MixLoRA: Enhancing Large Language Models Fine-Tuning with LoRA-based Mixture of Experts
Autor: Li, Dengchun, Ma, Yingzi, Wang, Naizheng, Ye, Zhengmao, Cheng, Zhiyuan, Tang, Yinghao, Zhang, Yan, Duan, Lei, Zuo, Jie, Yang, Cal, Tang, Mingjie
Fine-tuning Large Language Models (LLMs) is a common practice to adapt pre-trained models for specific applications. While methods like LoRA have effectively addressed GPU memory constraints during fine-tuning, their performance often falls short, es
Externí odkaz: http://arxiv.org/abs/2404.15159
Zobrazit plný text záznamu
2
Report
mLoRA: Fine-Tuning LoRA Adapters via Highly-Efficient Pipeline Parallelism in Multiple GPUs
Autor: Ye, Zhengmao, Li, Dengchun, Hu, Zetao, Lan, Tingfeng, Sha, Jian, Zhang, Sicong, Duan, Lei, Zuo, Jie, Lu, Hui, Zhou, Yuanchun, Tang, Mingjie
Transformer-based, pre-trained large language models (LLMs) have demonstrated outstanding performance across diverse domains, particularly in the emerging {\em pretrain-then-finetune} paradigm. Low-Rank Adaptation (LoRA), a parameter-efficient fine-t
Externí odkaz: http://arxiv.org/abs/2312.02515
Zobrazit plný text záznamu
10
Akademický článek
Tento výsledek nelze pro nepřihlášené uživatele zobrazit.
K zobrazení výsledku je třeba se přihlásit.

Vyhledávací nástroje:

Upřesnit hledání

Omezení vyhledávání
Plný text Recenzováno Digitální knihovna AV ČR
Zdroje