@quanghuyai: LoRA là gì, vì sao được dùng rộng rãi khi fine-tune LLM? Giải thích bằng sơ đồ: W gốc đóng băng hoàn toàn, chỉ train các cặp ma trận nhỏ B và A gắn thêm (thường dưới 1% tham số). Tự đếm thử: ma trận 4096×4096 chỉ cần train 0.39% với r = 8. Kèm cách chọn rank r, công thức gộp W' = W + (α/r)·B·A, 1 model gốc dùng nhiều adapter, và QLoRA fine-tune model 65B trên 1 GPU 48 GB. #quanghuy #aiengineer #machinelearning #deeplearning #quanghuyai

Quang Huy

Open In TikTok:

Region: VN

Monday 09 November 2026 02:39:39 GMT