Part 09 · Fine-tuning and Serving Models

LoRA and QLoRA

LoRALow-rank adaptersQLoRAAdapter merging

কোটি কোটির বদলে কয়েক লাখ weight train করা: low-rank adapter, QLoRA দিয়ে 4-bit base model এর উপর এটা করা, আর serve করার সময় adapter বদলানো।

⏱ 1-2 ঘণ্টা · Station 72 / 92