@rickbjia: 30.000 MILLONES de parámetros y más de 80 tokens/s EN LOCAL. 🤯 Estoy probando NVIDIA Nemotron 3 Nano 30B-A3B con llama.cpp. Y ojo con este modelo porque es MoE: tiene 30B de parámetros, pero activa alrededor de 3B por token. Esto solo ha sido la primera prueba de velocidad. Ahora toca meterle código, razonamiento, agentes… y ver hasta dónde podemos llevarlo. 👀 📌 Configuración en el GitHub del canal. github.com/RicardoBertran/NVIDIA-Nemotron-3-Nano-30B-A3B 🖥️ Mi setup completo está en la web. Link en la bio. #Nemotron #NVIDIA #LocalLLM #IA #LlamaCPP #ArtificialIntelligence
A mi me corría muy bien, pero alucina y pierde el.hilo continuamente ya no se si fue culpa mía
2026-10-02 11:13:28
3
Manuu :
para un slimbook Creative que configuración recomiendas ? tengo 64 de RAM rtx 5070 y ryzen ai 9 365w
2026-10-02 13:19:16
1
Andres Berger :
Ese nemotron supuestamente es bastante malo
2026-10-02 12:49:23
1
Von Falkenhayn :
20 tok/s en CPU
2026-10-02 09:58:56
1
jhosua mercadini :
te voy a seguir y cuando haces live me interesa tu metodología
2026-10-02 11:26:05
1
Jose :
Prueba k2 horizon de ifm, por favor
2026-10-02 13:13:07
1
ioseph :
supera bosai27 b en razonamiento?
2026-10-02 10:00:42
1
Ricardo Bertran :
🔥 Esto solo ha sido la primera toma de contacto con Nemotron 3 Nano.Ahora viene lo bueno: código, razonamiento, agentes y pruebas más serias.
2026-10-02 09:47:54
0
DataAnalystNi :
Hola estimado, segun tus experimentación. A que crees que se deba que un modelo tenga pocas habilidades no tan profundas en coding tasks. Acaso es el poco corpus de texto o poco reinforcement learning?
2026-10-02 14:21:26
0
Cesar :
El secreto és usar tencent junto, pues queda muy fácil cambiais de sessions para tener mas tokens de contexto!
2026-10-02 12:53:07
0
To see more videos from user @rickbjia, please go to the Tikwm
homepage.