@racks.group: Correr Llama 3 o Mistral en una GPU de 4 GB era imposible... hasta ahora. AirLLM es una librería Python que ejecuta modelos gigantes capa a capa desde el disco, sin meterlos enteros en memoria. Un modelo de 140 GB funcionando en tu GPU de 4 GB o en un Mac M1, sin comprimir nada y sin perder rendimiento. Tres líneas de código y estás dentro. Si no sabes por dónde empezar, tírate con Claude Code o Codex y luego aplicas esto directamente. Guarda este video para cuando lo necesites y cuéntame en comentarios qué modelo quieres correr primero 👇 #programacion #inteligenciaartificial #llm #python #tecnologia #desarrollador #ia

racks
racks
Open In TikTok:
Region: AD
Sunday 28 June 2026 13:53:06 GMT
48612
2730
96
851

Music

Download

Comments

sheila.rueda2
Sheila Rueda :
el repo en github es AirLLM por lyogavin
2026-06-28 14:35:36
15
ennioantonio
Ennio :
Alguien puede confirmar si esto funciona?
2026-06-28 22:10:47
10
fabianbotina
fabian botina :
Yo intenté usar varios modelos locales para leer imágenes pero todos dijeron que no podían por políticas, al final no me sirvió ninguna IA local
2026-06-29 03:52:32
3
jucumari
Jucumari :
Chau disco solido
2026-06-29 01:37:00
6
ocean_trading_profit
Trading_Free_30_Days :
es que nadie usa openclaw? 😳
2026-06-29 08:59:55
1
mfletes
Mario :
Aplicará para las GPU integradas de intel?
2026-06-29 16:23:26
2
overlod.momonga
Ainz Ooal Gown :
espera un poco, dejame pensar.. osea que tipo de usuario pueden tener 128 gb de tarjeta gráfica.. o como dices tu 140 gb.. para que me orientes...
2026-06-29 03:56:18
1
juliotorres141
Julio Torres Developer :
Eso es estúpido. Si usando memoria ram y es lento ahora que tal en disco.
2026-06-29 05:01:26
3
alphanerva507
vibra432hz :
fácil? aún lo veo difícil voy a instalar veré potocientos videos a ver
2026-06-28 22:02:31
0
dotanity
¥¥|Lu$]><[@n¥¥ :
se te olvidó decir que la respuesta para texto tarda 40 minutos como mínimo
2026-06-29 17:35:16
2
fcolhdez
sudo rm -fr/*-no preserve root :
Yo utilizo ollama y hermes con Claude code y códex, también utilizo antigravity en una laptop súper limitada con 8 gb de ram y NVMSD DE 512 Gb con un core I3 y gráficas Intel. Hasta ahora me han funcionado.
2026-06-29 21:11:36
2
nomepisotees
No Me Pisotees :
No entiendo por qué nombras modelos del siglo pasado? Te va a ir mega lento si tiene que estar iterando ram > vram, intenta correr un qwen 3.6 27b q4 así y verás como se muere, y es lo mínimo para hacer algo decente
2026-06-29 16:09:26
1
felixgonzalez1748
felixgonzalez1748 :
Ni te lo crees
2026-06-28 16:28:59
2
mikeboss26all
Osman Mijahuanca :
pero el repo no se actualiza hace 2 años 😅
2026-06-29 04:44:15
1
gexus2020
Alex :
No va gente .. no se ilucionen
2026-06-29 22:48:49
1
ivanlopez6605
IVAN :
IMPOSIBLEISON
2026-06-29 02:24:23
1
ocean_trading_profit
Trading_Free_30_Days :
se puede usar hasta con modelos de 405B de parametros 😏
2026-06-29 14:05:13
0
sheila.rueda2
Sheila Rueda :
Che todo muy bien con el vídeo pero de donde sale el código? es un repo de git? está bueno el beneficio pero falta más información. me gustaría probarlo pero tirar un comando por tirar no da, cual es información y formas de uso? de dónde salió?
2026-06-28 14:33:02
1
joanrbk
Joan :
Correr? 😂
2026-06-28 20:59:04
1
wolfcol
Hender :
Olvidó mencionar lo leeeeeeeento que es….
2026-07-02 06:04:02
0
daniii.ballester2
Daniii.ballester22 :
ya, tps?
2026-07-01 15:08:52
0
isaack0o
Isaac Flores :
esperanzas
2026-07-02 14:53:43
0
martinzr86
martinzr86 :
Cuánto humo 💨
2026-06-30 13:25:16
0
gaston_gastaldi
gasty :
@servired.online
2026-06-30 06:14:23
0
elkin.londoo22
Elkin Londoño :
Y la librería ?
2026-06-28 17:39:42
0
To see more videos from user @racks.group, please go to the Tikwm homepage.

Other Videos


About