una duda desde la ignorancia: lo q esta haciendo hyperqwen es basicamente convertir un modelo "normal" en un modelo MoE?
2026-11-21 07:39:28
1
Jose :
y que cuantizacion tiene el Qwen que usa hyperqwen?
2026-11-20 22:30:04
2
Ja_Picornell :
En Mac mini M6 32gb con oMLX tengo 109 tokens con Qwen 3.6 35B A3B uncensored-Heretic-MLX-4bits.
2026-11-21 17:22:10
0
BrandoM :
buena prueba. Me pasó algo parecido con Gemma 4 12B y Qwen 3.5 9B. el punto que El Tamaño no siempre importa
2026-11-20 21:42:58
15
Marco :
La IA local aun no es facil de usar
2026-11-21 01:44:36
3
Onnivers.IA :
donde lo encuentro
2026-11-20 21:39:15
0
dexterryukk :
como usan qwen sin que les cobre dsps del uso gratuito
2026-11-21 01:53:52
4
Nomás decía :
Antes de hacer la instalación, pásale a la IA web los datos de tu hardware y consúltale según esos datos que "paquete" de IA puede soportar tu PC sin ponerse lenta, cada empresa de IA tiene diferentes "paquetes" de diferentes pesos [Sonrisa]
2026-11-21 02:10:20
0
lazaro :
me va lenta porque tengo 4gb de ram y un Celeron, con un intel de 128mb
2026-11-21 16:45:17
1
sergui.ai :
Mayor tamaño no significa mayor velocidad pero si mejores resultados a problemas mas fuertes
2026-11-21 02:05:58
1
Laharl :
tengo una 5070 tu de 12 vram, uso strata con Qwen flash, corre como a 32 tokens por segundo, pero en una etapa baja a 16, comparada con un LLM en la red va 10 veces más lento
2026-11-21 00:53:12
1
S. FELIU- TAS| ACADEMIA| R120 :
interesting ¿HyperQwen funciona con 16 GB de RAM y una GPU de 4 GB de VRAM?
2026-11-22 02:41:56
0
Miguel del Amor | IA Local :
Ojo si lo vas a servir a varios usuarios: la decodificación especulativa brilla con uno solo porque aprovecha el ancho de banda que sobra mientras la GPU espera. Con muchas peticiones a la vez la GPU ya va llena y la ganancia baja mucho; en mi servidor con 4× 3090, con varios usuarios a la vez el que hace ese trabajo es el batching.
2026-11-21 14:52:25
0
DuaneFlower :
una pregunta yo uso lm studio para correr mis modelos y ahí puedo elegir dónde guardar los modelos que descargo, en Ollama se puede elegir donde se guardan los modelos?
2026-11-21 14:26:52
0
JorgeBirtual :
porque no tienen 200gigas de memoria,.un server con 4 procesadores y 120gigas de video 🤣🤣🤣🤣
2026-11-21 07:45:06
0
Альфієрі :
😅 el problema entonces no es ese. es arquitectura del modelo
2026-11-21 17:40:59
0
Felipe_Juare :
Cuanta Vram en una sola tarjeta es recomendable para correr Qwen 3.8 27B Q4? Y dejar libre suficiente para contexto y Hermes?
2026-11-21 16:20:55
0
Jean Carlos Aviles :
10/10 pero por qué no le pones un nvlink a las 3090? Yo tengo dos 3090 founders y tengo pensando ponerles el nvlink
2026-11-21 16:31:59
0
ar.marce :
Basicamente es una parte en lo que se basa deepinfra
2026-11-20 21:58:15
0
DanielMaximiliano :
hoy soy piercer, por 30 años fui programador y técnico electrónico mis dos títulos laborales. hoy el ser piercer que era mí hobby me da los ingresos necesarios pero ahora retomo la programación y veo tu videos, uso chatgpt plus y cuando salimos Zcode y Qoder lo usé hasta quedar el uso libre disponible. hoy no están gratis 🫠
2026-11-20 22:38:57
0
kervin :
probé Strata 128k, pero jala bastante ram y VRAM, pero me va más rápido que Qwen 27B
2026-11-20 23:03:23
0
Troya... .  :
como le hace... quiero instalar hermes agent
2026-11-21 02:00:18
0
Yeraldo :
pero está usando una gráfica, seguramente con 16 de VRAM
2026-11-21 00:07:14
0
Heber Suizer :
yo uso qwen 35b en mi placa de video nvidia16 gb y me va perfecto y muy rápida.
2026-11-20 23:26:51
0
EdwinPalacios✅ :
Yo uso ollama en una 5069 ti de 16 gb me va bastante bien
2026-11-20 22:59:42
0
To see more videos from user @andycufari, please go to the Tikwm
homepage.