@code_simple: 3 niveaux pour faire tourner ton IA en locale #ia #llm #ollama #huggingface

code_simple
code_simple
Open In TikTok:
Region: BE
Wednesday 19 August 2026 15:10:52 GMT
5602
247
5
42

Music

Download

Comments

cogitohack
Cogitohack :
Il y a aussi exo! Ca te permet de faire tourner des plus gros modèles en utilisant plusieurs ordinateurs! 😁 Mac studio + mac mini+ thinderbolt = qwen3.8 a +\- 54 tok/s 😎 + claude code! 🤷‍♂️Tu peux même de faire un tunel a partir d un droplet a 6$/mois pour avoir ton model accessible par internet! 👍👍👍
2026-08-19 15:34:18
1
userihu9j8dmwr
userihu9j8dmwr :
le gain de quantisation?
2026-08-20 09:21:03
0
niauki1
niauki :
anything llm qui me sauve la vie
2026-08-20 03:55:48
0
peinture3dfx
peinture3dfx :
tu sais pas dire gf 16 lol, bon vous telecharger ggfu full et vous quantiser vous meme , un 31b q5 max sinon pas assez de ctx pour se memoire session standard blabla, sur une 32 giga vram lol
2026-08-20 03:54:51
0
To see more videos from user @code_simple, please go to the Tikwm homepage.

Other Videos


About