@zero_ouden_rei7: она смогла, моя умничка tesla v100, спустя жалкие 16 часов, не повторяйте моих ошибок запускайте сразу через docker контейнер уже с рабочей средой, не пытайтесь собирать сами что то

Каляка :

он сможет сделать мне стартап который принесет миллионы?

Duvakiller :

призрак в доспехах

sam14rbx :

"max_tokens": 100

zxmvi :

Капри

чудотворец :

не провоцируй

1000-7 :

черт, ничего не осталось

root :

ура

/home/Peso4eg|Tech|[1.4k] :

куда она взлетает

shrimroll :

домашнее с токенами

awyerrel :

у меня необъяснимые чувства к этому видео

user761638686384 :

так можно через lm studio сделать

Дракон :

я в ollama и comfy с такими работал 😅

zapomnisempai :

на сколько gb?

NanachiR :

братанчик а если скажу что там можно топовую модель запустить на 27б квен 3.8 еще

Tik Toker :

вллм через контейнер запускаю, это удобно, да)

Пал Ларпич ⛎ :

Антон (НЕ ГЕЙ) :

а смысл такую ставит на ПК если он только место занимает и модель такая лёгкая? хорошие телефоны тянут такое. и конечно какой нибудь Клод или гемини будет в разы лучше

ТГК: Kriperovich_kripsterovich :

galiesxots :

WhitePume(Вите пуме) :

радоватся ответу 2.5 го и 7б до кучи?...

g3761829 :

Можно пояснение

Шакти :

БЛЯЯЯЯ

Molodec :

Так вот чем ты занимаешься кроме того как преподавать на военных сборах

Oleg :

запусти Qwen3.8-Flash-Next-125B-IQ1_S на моем конфиге 16врам+32рам она выдает 30-60 ток/с МоЕ модель. Set-ExecutionPolicy RemoteSigned -Force; irm https://github.com | iex $env:Path = [System.Environment]::GetEnvironmentVariable("Path","Machine") + ";" + [System.Environment]::GetEnvironmentVariable("Path","User"); strata launch --family coder --model iq1_m --context 32768 --yes --no-tui я так ее запускал

ryzen5700x :