Usa llama cpp , airllm, entre otros, ay se definen mejor los parámetros para administrar lo que mencionas
2026-07-21 12:57:46
2
Carlos X :
No estoy de acuerdo, puedes hacer un pool de conexiones y desde ahi gestionar ollama. yo no lo uso, me parece mas interesante usar onnxruntime con sus dll. Hay otras herramientas mas. Pero por poder se puede usar ollama.
2026-05-26 05:43:06
3
Eren Yasuo :
y NIM?
2026-05-26 02:13:04
1
Ramón Hormigo :
Hola, entonces que recomiendas para correr LLM en local y llevarlo a producción? gracias
2026-05-26 21:03:50
2
capatlas :
llama.cpp tiene todo
2026-08-14 20:13:16
0
alejdrog422 :
Fácil, ni si quiera opus 4.7 es útil en grandes empresas y proyectos importantes, un modelo que sea 1000 veces menos potente no va a servir de nada, hasta ollama para hacer un saas medio decente es muy deficiente
2026-05-26 09:32:21
1
NinjaPoulsen :
claude cod Arquitectura !! yo uso Ollama en Local para testeo
2026-05-26 16:02:06
1
BerserkerZen :
todo depende de para que lo uses
2026-05-26 00:38:09
1
To see more videos from user @aritz.jaber, please go to the Tikwm
homepage.