@floknowsai: Lokale KI einzurichten ist inzwischen deutlich einfacher geworden. Für den Einstieg würde ich LM Studio nehmen, weil du Modelle direkt in einer Oberfläche suchen, herunterladen und testen kannst. Ollama ist stärker, wenn du später mit Terminal, API oder Entwickler-Tools arbeiten willst. Jan ist eine gute Open-Source-Alternative, wenn du eine lokale ChatGPT-artige App nutzen willst. Wichtig ist vor allem die Modellwahl. Mit 8 GB RAM solltest du klein starten, zum Beispiel mit Qwen3.5 4B oder Gemma 4 E4B. Mit 16 GB RAM sind Gemma 4 12B oder Qwen3.5 9B deutlich realistischer. Achte bei LM Studio außerdem auf quantisierte Varianten. Dadurch braucht das Modell weniger Speicher, kann bei schwierigen Aufgaben aber etwas Qualität verlieren. #ki #localai #lmstudio #ollama #gemma4

Florian Schünemann
Florian Schünemann
Open In TikTok:
Region: DE
Wednesday 08 July 2026 18:28:05 GMT
15372
371
31
96

Music

Download

Comments

webnuro
Webnuro :
geben diese lokale Modelle die daten nicht weiter oder was ist Vorteil davon?
2026-07-20 22:27:31
0
vanta701
vanta701 :
im ram laufen die aber nicht schell genug vram ist wichtig besonders mit großem Kontext
2026-07-12 13:42:27
0
nicalion
Mika :
Was kann man so mit 96Gb vram anfangen? Hast eine Idee für Multi Agenten? Oder was wäre ein Top coder LLM?
2026-07-09 15:59:57
0
natfailssymmetry
Nat :
was bräuchte ich denn für ein 31b modell ? reichen da 32 gb aus oder wird das eher eng ?
2026-07-11 05:01:46
0
lucyhobrecht
lucy :
Kann ich es auch auf mein iPad Pro laden?
2026-07-11 18:55:54
0
lanuvola2
NA :
Das ist jetzt vermutlich eine ziemlich dumme Anfängerfrage, aber irgendwie verstehe ich es nicht. Wenn ich dann eine lokale ki bei mir laufen habe und die verbinde ich dann aber mit Claude, dann gehen doch die Vorteile davon, dass es keine Nutzungsarten gegeben ist, weder verloren.
2026-07-08 20:38:56
0
ilyrer_05
ilyrer_05 :
viel zu schwach für das studium
2026-07-09 13:26:53
0
tyler_durden_dash
tyler_durden_dash :
Coole Sachen, kann man die dann auch Updaten damit sie auf dem Aktuellen Standbleiben ?
2026-07-09 07:24:24
0
svensmeinung
Sven wundert sich :
Und kann ich die auch auf den PC installieren du hast nur Laptop gesagt 😂😂😂 Frag für einen Freund
2026-07-09 07:25:58
0
specialpaul
specialpaul 🫶🏾Swiftie🫶🏾 :
Schön und wie lern ich diese KI an zB für Sprachen an
2026-07-09 06:35:58
0
To see more videos from user @floknowsai, please go to the Tikwm homepage.

Other Videos


About