да, только параллелизма нема, скорость t/s без мощного железа так себе. Но вообще я не против, ща как раз VRAM расшираю для того чтобы 3.8 гонять с нормальным квантом и 128к контекста)) Люди должны понимать что облачные решения с каждым днём всё дороже, скоро даже на ,подписке за 200 баксов будет работать нереально (мне уже не хватает(
2026-09-11 15:39:45
0
Will_Rich :
Оч тупой он сам по себе, особенно на 27b параметров.
Что бы запускать нормальные модели, которые по уровню как средние облачные, нужно vram хотя бы 50гб.
2026-09-11 20:14:01
2
qzw0x :
тебе буквально нужна видюха с минимум 12гб врам чтобы с нормальной скоростью работала, молчу про нормальную квантизацию и контекст для сложной агентной работы
2026-09-13 14:12:02
0
ETEON :
соглы. построил на нем сети с нуля
2026-09-12 20:07:52
1
VisageLand ванильный сервер :
glm 5.3 юзаешь просто в то время когда не заняты серваки в нулину и будет счастье
2026-09-12 17:16:58
0
Shpunt :
Ты че издеваешь тебе видюха надо хотя бы 16гб врама что бы запустить ее и то с квантованием что сделает и так довольно тупую модель еще тупее, я уже промолчу что 16гб в видюхе это не каждый геймерский ноут, далеко не каждый. Возможно имеет смысл только если у тебя какой то ебануто огромный пайплайн и он работает 24/7 самостоятельно без тасков каждые 10 минут
2026-09-20 10:21:06
0
СТРАННИК :
Кликбейтних худев
2026-09-11 22:50:32
1
Dima Jr. Worcestershire :
туфта полная, выдает лютую базу из 90-х
2026-10-01 09:35:51
0
To see more videos from user @el_pinguino_ru, please go to the Tikwm
homepage.