@yasminacodes: Ejecutar modelos de lenguaje en local con contenedores Docker se ha vuelto la norma para no pagar APIs externas. Herramientas como Ollama o LM Studio dominan por su extrema facilidad de uso, pero en realidad, la inmensa mayoría comparten el mismo motor interno: llama.cpp. Interactuar directamente con esta librería open source te otorga un control absoluto sobre la optimización y el rendimiento del hardware, además de darte acceso inmediato a las últimas novedades sin esperar actualizaciones de terceros. Sin embargo, para proyectos estándar, la ligera pérdida de rendimiento que suponen los gestores visuales compensa con creces el tiempo que ahorras en configuración. El verdadero avance que popularizó llama.cpp (y por extensión, Ollama) fue la adopción del formato de cuantización GGUF. Este estándar comprime drásticamente los parámetros matemáticos de los modelos de IA, permitiendo que LLMs pesados puedan ejecutarse de forma fluida utilizando únicamente la memoria RAM de un ordenador convencional, sin requerir hardware de servidor. #llmlocal #ollama #ia #llamacpp

YasminaCodes
YasminaCodes
Open In TikTok:
Region: AR
Thursday 10 September 2026 23:17:09 GMT
41667
3715
130
105

Music

Download

Comments

jackriichi
JackRiichi :
llama.cpp
2026-09-11 05:39:05
15
shiftkey9
Leo :
llama.cpp o vllama en Linux te darán siempre la mejor experiencia, en Windows lo mejor es ML Studio por su fácil uso y puedes escoger el motor de inferencia que necesites y Maclo mejor es MLX o en su defecto exodus para juntar 2 o más Macd para inferencia
2026-09-12 23:52:57
4
ferjovel06
Fernanda Jovel :
Puedo correr algún modelo en mi humilde RTX 5050 o mejor ni intento?
2026-09-13 02:22:01
0
jfnwufnsjc
asdfgh :
Con lo pésimo que es Ollama y sus modelos fine-tuned. Pero si quieren algo más fácil, por qué no mejor instalan OpenCode, OpenClaw o algún agent y se registran por api key para evitar meter todo el proceso pesado de una IA local
2026-09-11 06:33:28
6
antoniocarlosrodr72
Wick :
No tenía ganas de ir al Gym, me motivaste :v ya voy saliendo para allá (buen trabajo de hombros (de manera respetuosa y de admiración honesta)) postdata: hay buenos gestores de LLMS locales que aprovechan hardware nuevo como NPU’s. Uso de hecho uno de estos para correr pruebas sobre una lap con un Ryzen con NPU y la diferencia es notable que cuando corro sobre GPU.
2026-09-11 01:29:22
10
nosequeput
Brain Eater :
En Mac te recomiendo probar oMLX. Ollama va genial con modelos como Gemma 4 para usarlo a modo "chat", pero se traba mucho cuando lo usas en modo agente con OpenCode, Pi, etc. Al usar oMLX con OpenCode o Pi me va mucho mejor, no se traba, y los resultados obtenidos son muy buenos. Hoy me ha hecho todos los cambios que le he pedido a un programa en Spring Boot bastante extenso, los ha documentado, y me ha creado los tests, tirando todo de Gemma 4 E4B en un MacMini M4 de 16 GB. El total de la sesión han sido casi 80.000 tokens, con una velocidad de unos 25 tokens/segundo
2026-09-15 21:20:58
1
luis.f501
Luis F. :
llama.cpp puede ejecutarse paralelamente para varios users?
2026-09-11 04:06:17
1
a_dcrtg
່ ‍ :
yo he usado Vllm en local con alto flujo de peticiones de usuarios va mucho más mejor que Ollama y exprime más la gpu sacándole más rendimiento
2026-09-11 03:48:50
0
aleeyanezr
aleeyanezr :
No entiendo nada pero me quede en video
2026-09-11 19:02:35
0
orberla
975ma :
Ollama es un wrapper sobre llama.cpp, no una alternativa de motor
2026-09-11 03:42:15
3
cristiansinh_
cristiansinh :
Tengo 8gb vram gráfica pero de AMD 😭
2026-09-13 16:19:49
0
agustin.bustos3
Agustin Bustos :
Como que usas Windows?
2026-09-11 12:30:22
0
andriw750
andriw750 :
pero si mi gráfica es de 4 GB ;(?
2026-09-11 03:31:31
1
mister.white.1
𝕄𝕣.𝕎𝕙𝕚𝕥𝕖 💎 :
disculpa no pude concentrarme 🥰, cual era la pregunta ? uso ollama local + podman. mejores si claro usar modelos gratis de algunos proveedores. como pienso en seguridad uso lo mejor de ambos mundos, diseñe mi propio Brain, gasto menos de 5$ y gasto 30M de tokens distribuidos
2026-09-11 14:31:36
0
nauzetmelianbatis
Nauzet 🇮🇨 :
está claro que sí, ya tiene una tarjeta gráfica potente para otras cosas para ejecutar modelos en local. está bastante bien que la utilice.. y te ahorras la suscripción. pero gastarme 2500 € en una tarjeta gráfica moderna para ejecutar modelos y que vayan a buena velocidad.... solo para eso... tiene que estar justificado. todo esto teniendo en cuenta que no seas autónomo y te lo puedas desgravar en tu actividad empresarial
2026-09-11 08:20:44
0
josden.dev
cabezón 🇳🇮 :
pero por que no pagar 20$ o 40$ mes si trabajan en Desarrollo 🙄 o incluso cobrarselo al cliente o la empresa
2026-09-11 05:17:44
0
aqua_official_5360
El panoli :
yo utilizo la api de gemini, va muy bien ya que no tengo una gráfica dedicada, la recomiendo mucho
2026-09-12 16:57:25
2
qserieveo
QSerieVeo :
No me mola. Probé todas y si no tienes un montón de vram no haces nada. Para hablar de tonterías si, te contesta y tal. Pero acostumbrado a gemini o chat gpt multimodal...
2026-09-11 17:31:38
4
manuxd32
manuXD32 :
Llama-swap es mi go-to, si creas una pequeña interfaz para añadir modelos fácilmente se vuelve mucho más conveniente y versátil que ollama🥰
2026-09-11 00:09:17
3
slbzyvf6665g
ElSeñorNutria :
yo lo hago todo desde la nube y con los gratis, con Google me basta, lo que me di cuenta es que la gente no sabe formalizar los requerimientos y problemas. con los más básico aún me es suficiente para programación y multimedia.
2026-09-11 09:07:37
0
soygiovanirock
Giovanni :
he visto proyectos que están usando el hardware directamente revísalos, todo en llama.cpp y otra opción es vllm que ya hay alguna que otra implementación con turboquant, en cualquier caso el llm que uses las versiones distilled están muy bien para equipos que no sean muy potentes
2026-09-11 10:50:35
0
therafadc
Rafa :
Una ventaja de ollama es que puedes usar un solo api para llamar a modelos locales y combinarlo con su cloud. No es el fin del mundo pero es simplicidad.
2026-09-11 05:41:06
2
To see more videos from user @yasminacodes, please go to the Tikwm homepage.

Other Videos

𝐋𝐨𝐅𝐢 𝐑𝐞𝐦𝐢𝐱 🦋 𝐁𝐚𝐧𝐠𝐥𝐚𝐝𝐞𝐬𝐡 𝐦𝐚𝐲 🎬 𝐧𝐞𝐯𝐞𝐫 𝐟𝐮𝐥𝐥𝐲 𝐮𝐧𝐝𝐞𝐫𝐬𝐭𝐚𝐧𝐝 𝐡𝐨𝐰 𝐦𝐮𝐜𝐡 𝐈 𝐥𝐨𝐯𝐞 𝐲𝐨𝐮.
𝐋𝐨𝐅𝐢 𝐑𝐞𝐦𝐢𝐱 🦋 𝐁𝐚𝐧𝐠𝐥𝐚𝐝𝐞𝐬𝐡 𝐦𝐚𝐲 🎬 𝐧𝐞𝐯𝐞𝐫 𝐟𝐮𝐥𝐥𝐲 𝐮𝐧𝐝𝐞𝐫𝐬𝐭𝐚𝐧𝐝 𝐡𝐨𝐰 𝐦𝐮𝐜𝐡 𝐈 𝐥𝐨𝐯𝐞 𝐲𝐨𝐮.".! 🥺 🌸𝐋𝐨𝐅𝐢 𝐑𝐞𝐦𝐢𝐱 🦋 𝐁𝐚𝐧𝐠𝐥𝐚𝐝𝐞𝐬𝐡 🎵 𝐯𝐨𝐢𝐜𝐞𝐟𝐨𝐫𝐲𝐨 𝐌𝐚𝐲𝐛𝐞 𝐈 𝐰𝐫𝐢𝐭𝐞 𝐲𝐨𝐮𝐫 𝐧𝐚𝐦𝐞 𝐢𝐧 𝐦𝐲 𝐛𝐫𝐞𝐚𝐭𝐡, 𝐁𝐮𝐭 𝐲𝐨𝐮 𝐜𝐚𝐧'𝐭 𝐡𝐞𝐚𝐫 𝐢𝐭."!! 𝐀𝐥𝐥 𝐈 𝐜𝐚𝐧 𝐬𝐚𝐲 𝐢𝐬 𝐭𝐡𝐚𝐭 𝐲𝐨𝐮 𝐚𝐫𝐞 𝐭𝐡𝐞 𝐫𝐞𝐚𝐬𝐨𝐧 𝐟𝐨𝐫 𝐦𝐲 𝐡𝐚𝐩𝐩𝐢𝐧𝐞𝐬𝐬, 𝐲𝐨𝐮 𝐚𝐫𝐞 𝐭𝐡𝐞 𝐦𝐚𝐧 𝐛𝐞𝐡𝐢𝐧𝐝 𝐦𝐲 𝐬𝐦𝐢𝐥𝐞.💌 🎬 𝐖𝐢𝐭𝐡𝐨𝐮𝐭 𝐲𝐨𝐮, 𝐦𝐲 𝐝𝐚𝐲𝐬 𝐬𝐞𝐞𝐦 𝐞𝐦𝐩𝐭𝐲. 𝐒𝐨𝐦𝐞𝐭𝐡𝐢𝐧𝐠 𝐬𝐞𝐞𝐦𝐬 𝐭𝐨 𝐛𝐞 𝐠𝐨𝐢𝐧𝐠 📵 𝐰𝐫𝐨𝐧𝐠 𝐚𝐥𝐥 𝐭𝐡𝐞 𝐭𝐢𝐦𝐞.".! 𝐘𝐨𝐮 𝐚𝐫𝐞 𝐦𝐲 𝐝𝐫𝐞𝐚𝐦, 𝐲𝐨𝐮 🌿 𝐚𝐫𝐞 𝐦𝐲 𝐟𝐞𝐞𝐥𝐢𝐧𝐠 𝐚𝐧𝐝 𝐦𝐨𝐬𝐭 𝐢𝐦𝐩𝐨𝐫𝐭𝐚𝐧𝐭𝐥𝐲 𝐲𝐨𝐮 𝐚𝐫𝐞 𝐦𝐲 😔 𝐩𝐞𝐚𝐜𝐞. 𝐈 𝐟𝐞𝐞𝐥 𝐲𝐨𝐮 𝐞𝐯𝐞𝐫𝐲 𝐦𝐨𝐦𝐞𝐧𝐭, 𝐞𝐯𝐞𝐧 𝐢𝐟 𝐲𝐨𝐮 𝐚𝐫𝐞 𝐧𝐨𝐭 𝐛𝐲 𝐲𝐨𝐮𝐫 𝐬𝐢𝐝𝐞. 𝐘𝐨𝐮 𝐦𝐚𝐲 𝐛𝐞 𝐟𝐚𝐫 𝐚𝐰𝐚𝐲, 𝐛𝐮𝐭 𝐦𝐲 𝐥𝐨𝐯𝐞 𝐚𝐥𝐰𝐚𝐲𝐬 𝐬𝐰𝐢𝐫𝐥𝐬 𝐚𝐫𝐨𝐮𝐧𝐝 𝐲𝐨𝐮 𝐥𝐢𝐤𝐞 🧾 𝐚 𝐬𝐡𝐚𝐝𝐨𝐰..! 𝐀𝐬 𝐥𝐨𝐧𝐠 𝐚𝐬 𝐈 𝐥𝐢𝐯𝐞, 𝐈 𝐰𝐚𝐧𝐭 𝐲𝐨𝐮 𝐭𝐨 𝐛𝐞 𝐡𝐚𝐩𝐩𝐲... 𝐐𝐮𝐢𝐞𝐭𝐥𝐲, 𝐪𝐮𝐢𝐞𝐭𝐥𝐲.".! 𝐉𝐮𝐬𝐭 𝐟𝐨𝐫 𝐲𝐨𝐮..!! 🥺😅❤️#fypシ゚viral🖤tiktok☆♡🦋myvideo #How T Fake Tan Ur Face #ethiopian_tik_tok #foryou #keşfetteyizzz

About