@escbasexyz: 🎬 Fine-tune một model open-source từng là cuộc chơi của người có GPU khỏe, còn Unsloth đang biến nó thành một workflow local mà máy cá nhân cũng có cửa thử. 🔎 Unsloth giờ không chỉ là một thư viện tối ưu. Repo hơn 66 nghìn sao này có thêm Unsloth Studio, một web UI để tải, chạy và train model ngay trên máy. Ai muốn kiểm soát bằng code vẫn có Unsloth Core. 💡 Điểm ăn tiền vẫn là tiết kiệm GPU. README nói Unsloth hỗ trợ train và reinforcement learning cho hơn 500 model, nhanh tối đa 2 lần và giảm tối đa 70% VRAM. Phần tăng tốc đến từ các kernel Triton và toán học được tối ưu riêng, nhưng đây vẫn là benchmark do tác giả công bố. 🧠 Workflow đã bớt khó nuốt. Data Recipes có thể biến PDF, CSV hay DOCX thành dataset bằng luồng node trực quan. Khi train, Studio cho theo dõi loss và mức dùng GPU. Xong việc, model có thể xuất ra GGUF hoặc safetensors. ⚡ Nó còn đi hết vòng đời local AI. Bạn có thể chat với ảnh, audio, tài liệu và code, rồi bật tool calling, web search hoặc code execution. Unsloth cũng mở API local để nối model vào Claude Code, Codex, vLLM hay Ollama. ✅ Phần cứng cũng được mở rộng. Studio Beta chạy trên Windows, Linux, WSL và macOS; README nói Studio đã hỗ trợ training trên NVIDIA và macOS. CPU hiện chủ yếu dành cho chat và xử lý dữ liệu, còn AMD muốn train vẫn phải dùng Unsloth Core. 📌 Nhưng đừng nuốt trọn benchmark. Tốc độ và VRAM còn phụ thuộc model, dataset và phần cứng, trong khi Studio vẫn đang Beta. Tóm lại Unsloth rất đáng thử nếu bạn muốn fine-tune local mà chưa muốn mua thêm GPU, nhưng hãy benchmark đúng bài toán của mình trước. #Escbase #Unsloth #LocalAI #FineTuning #OpenSourceAI #LLM
Escbase
Region: VN
Sunday 14 June 2026 04:42:28 GMT
Music
Download
Comments
There are no more comments for this video.
To see more videos from user @escbasexyz, please go to the Tikwm
homepage.