@inkenai: So bekommst du lokale KI auf dein Handy! Und bei Token-Limit meine ich nicht das Kontext-Window, sondern, dass man nach einer bestimmten Tokenanzahl ein Modell nicht mehr nutzen kann und warten muss oder mehr Credits kaufen muss! #ki #lokalki #handy #künstlicheintelligenz
Benutz „locally“ für Apple Geräte weil das extrem optimiert ist, das benutzt die MLX backend engine was möglich macht das es viel schneller generiert und weniger RAM nutzt und dein Gerät zu warm wird.
2026-07-26 19:52:49
2
Arnshof :
warum der Hut?
2026-06-26 23:25:00
3
qubert :
nice Werd ich gleich testen!
2026-06-26 12:06:05
3
Tony :
du solltest erwähnen, wenn man eine lokale KI betreiben will, dass man wahnsinnig viel Arbeitsspeicher benötigt. Je mehr Rechner power und Arbeitsspeicher man hat desto besser und flüssiger läuft die Lokal KI ich betreibe drei seit zwei Jahren und mein Arbeitsspeicher wird immer aufgerüstet und aufgelistet aber es ist nie zu Ende
2026-06-26 16:05:17
4
TORfried :
hast du eine Übersicht über grafic bzw. Video KI kostenlos?
2026-06-26 15:52:11
1
user8662256562530 :
wieder nur halbwahrheiten und halbwissen. die starken.modelle laufen nicht grundlos auf spezieller hardware in rechenzentren. die kleinen modelle die auf hardware wie raspberry oder handy laufen, sind zum einen sehr klein,zum anderen laufen sie über die cpu, die zumeist keinen dedizierten ai chip hat.. frisst somit entsprechend viel akku. das ist im übrigen auch der grund warum apple seit jahren an seiner integration trotz m5 hardware scheitert
2026-06-28 09:59:32
3
tripp :
Ist das ganze kostenlos?
2026-06-26 12:45:41
2
Jens :
offenbar nur für iPhone,
2026-06-26 20:38:23
1
ttaccount63 :
Auf einen iPad mit 512GB sind die Antworten eines Gemma3-1B-IT katastrophal schlecht.
2026-06-26 20:11:39
1
naza.696 :
Wie kann ich das Problem lösen?
2026-06-27 12:12:30
4
☾︎⭐️eddie⭐☽ :
Die Modelle sind zu klein. Ein Wunder das die überhaupt sprechen können, 2b, 4b, und dann quantisiert bestimmt bis geht nicht mehr.
2026-06-26 15:47:30
1
😈NeuroTech music😈official2.0 :
Ich arbeite mit Copilot auf dem Laptop und auf dem Smartphone
2026-06-27 10:28:23
1
I like Travelling :
Die Modelle sind auf dem iPhone 13 leider alle nicht verfügbar ausser das kleine Gemma3-1B-IT. Auf dem Samsung Galaxy S24 gehen auch andere Modelle, aber nicht alle. Ergo ist die Auswahl offenbar abhängig von der Performance des Gerätes. Macht auch Sinn.
2026-06-26 13:12:52
2
🄷🄰🅂🄰🄽🄰🅃 🄹🄰🄴🄶🄴🅁 :
Pocket pal ist besser
2026-06-27 21:19:22
5
Ich bin’s :
Edge Gallery ist im Aplr Appstord nicht mehr Verfügbat
2026-06-26 14:14:33
1
Nevs :
Also auf Android ist es noch in der Beta Phase / Early access . Welche Erfahrungen haben Sie mit der Qualität der Modelle gemacht?
2026-06-26 13:10:45
1
NasuOnFaya :
wenn die lokal sind, ohne online, woher dann das "wissen". das versteh ich nicht ganz. help pls an der stelle.
2026-07-30 11:24:36
3
TokTok :
Ich habe mich etwas damit beschäftigt. Drei Anmerkungen/Fragen: 1. Das Token Limit pro Chat ist auf 4000 gesetzt. Es sollte auf das Maximum (32000) erhöht werden. Oder bringt das Nachteile? 2. Die Einstellungen (beispielsweise die Erhöhung der Tokenverwendung auf 32000) wird immer wieder zurückgesetzt, wenn man die App neu startet. Gibt es eine Möglichkeit, sie dauerhaft zu speichern? 3. Das Modell erzeugt erstaunlich oft grammatikalische Fehler. Liegt das daran, dass es „schlechter trainiert“ und seine lokale Datenbank kleiner ist als die von ChatGPT und Co.?
2026-06-27 07:27:01
1
Nelxon :
lopez.codes ;)
2026-06-26 16:00:50
1
Waldemar :
Welche unterschiede haben die 5 möglichen Modelle?
2026-06-26 19:01:29
2
MTFR | Design Agency :
Also kann ich mir claude aufach runterladen oder versteh ich was falsch?
2026-07-03 14:09:01
0
MarD737 :
Ich hatte mir Qwen für mein high end Desktop PC runter geladen.. ein KI Model was nicht ansatzweise an Claude oder ChatGPT ran kommt. Gesamte Rechenleistung ist über die Grafikkarte gelaufen! Wie soll ein kleines Handy damit klarkommen????? Vergesst es Leute… sie hat sich lediglich einen chatbot runtergeladen und keine echte KI.
2026-08-06 18:46:10
1
mysteriousmirror :
Locally (iOS) und Draw Things (iOS) sind lokal brutal 🥰
2026-07-14 20:51:18
3
Hugo 361 :
Und was ist mit der App Locally Ai???
2026-06-28 01:37:36
2
_veso_283 :
Dankeschön 😊
2026-06-26 21:20:00
1
To see more videos from user @inkenai, please go to the Tikwm
homepage.