@inkenai: So bekommst du lokale KI auf dein Handy! Und bei Token-Limit meine ich nicht das Kontext-Window, sondern, dass man nach einer bestimmten Tokenanzahl ein Modell nicht mehr nutzen kann und warten muss oder mehr Credits kaufen muss! #ki #lokalki #handy #künstlicheintelligenz

inkenai
inkenai
Open In TikTok:
Region: DE
Friday 26 June 2026 11:58:44 GMT
58274
2076
88
324

Music

Download

Comments

isaakcarteraugustus
Isaak Carter Augustus :
Benutz „locally“ für Apple Geräte weil das extrem optimiert ist, das benutzt die MLX backend engine was möglich macht das es viel schneller generiert und weniger RAM nutzt und dein Gerät zu warm wird.
2026-07-26 19:52:49
2
arnshof
Arnshof :
warum der Hut?
2026-06-26 23:25:00
3
quberttzl
qubert :
nice Werd ich gleich testen!
2026-06-26 12:06:05
3
tonysdr
Tony :
du solltest erwähnen, wenn man eine lokale KI betreiben will, dass man wahnsinnig viel Arbeitsspeicher benötigt. Je mehr Rechner power und Arbeitsspeicher man hat desto besser und flüssiger läuft die Lokal KI ich betreibe drei seit zwei Jahren und mein Arbeitsspeicher wird immer aufgerüstet und aufgelistet aber es ist nie zu Ende
2026-06-26 16:05:17
4
heimsieg8
TORfried :
hast du eine Übersicht über grafic bzw. Video KI kostenlos?
2026-06-26 15:52:11
1
user8662256562530
user8662256562530 :
wieder nur halbwahrheiten und halbwissen. die starken.modelle laufen nicht grundlos auf spezieller hardware in rechenzentren. die kleinen modelle die auf hardware wie raspberry oder handy laufen, sind zum einen sehr klein,zum anderen laufen sie über die cpu, die zumeist keinen dedizierten ai chip hat.. frisst somit entsprechend viel akku. das ist im übrigen auch der grund warum apple seit jahren an seiner integration trotz m5 hardware scheitert
2026-06-28 09:59:32
3
stargtin3bp
tripp :
Ist das ganze kostenlos?
2026-06-26 12:45:41
2
jensviehmann4
Jens :
offenbar nur für iPhone,
2026-06-26 20:38:23
1
ttaccount63
ttaccount63 :
Auf einen iPad mit 512GB sind die Antworten eines Gemma3-1B-IT katastrophal schlecht.
2026-06-26 20:11:39
1
naza.696
naza.696 :
Wie kann ich das Problem lösen?
2026-06-27 12:12:30
4
ers77077
☾︎⭐️eddie⭐☽ :
Die Modelle sind zu klein. Ein Wunder das die überhaupt sprechen können, 2b, 4b, und dann quantisiert bestimmt bis geht nicht mehr.
2026-06-26 15:47:30
1
neurotech.music
😈NeuroTech music😈official2.0 :
Ich arbeite mit Copilot auf dem Laptop und auf dem Smartphone
2026-06-27 10:28:23
1
iliketravelling0
I like Travelling :
Die Modelle sind auf dem iPhone 13 leider alle nicht verfügbar ausser das kleine Gemma3-1B-IT. Auf dem Samsung Galaxy S24 gehen auch andere Modelle, aber nicht alle. Ergo ist die Auswahl offenbar abhängig von der Performance des Gerätes. Macht auch Sinn.
2026-06-26 13:12:52
2
hasanatjaeger_official
🄷🄰🅂🄰🄽🄰🅃 🄹🄰🄴🄶🄴🅁 :
Pocket pal ist besser
2026-06-27 21:19:22
5
matthiasfiedler2
Ich bin’s :
Edge Gallery ist im Aplr Appstord nicht mehr Verfügbat
2026-06-26 14:14:33
1
xsv_gox
Nevs :
Also auf Android ist es noch in der Beta Phase / Early access . Welche Erfahrungen haben Sie mit der Qualität der Modelle gemacht?
2026-06-26 13:10:45
1
nasuonfaya
NasuOnFaya :
wenn die lokal sind, ohne online, woher dann das "wissen". das versteh ich nicht ganz. help pls an der stelle.
2026-07-30 11:24:36
3
tokifloki
TokTok :
Ich habe mich etwas damit beschäftigt. Drei Anmerkungen/Fragen: 1. Das Token Limit pro Chat ist auf 4000 gesetzt. Es sollte auf das Maximum (32000) erhöht werden. Oder bringt das Nachteile? 2. Die Einstellungen (beispielsweise die Erhöhung der Tokenverwendung auf 32000) wird immer wieder zurückgesetzt, wenn man die App neu startet. Gibt es eine Möglichkeit, sie dauerhaft zu speichern? 3. Das Modell erzeugt erstaunlich oft grammatikalische Fehler. Liegt das daran, dass es „schlechter trainiert“ und seine lokale Datenbank kleiner ist als die von ChatGPT und Co.?
2026-06-27 07:27:01
1
lopez.codes
Nelxon :
lopez.codes ;)
2026-06-26 16:00:50
1
waldemarxxx89
Waldemar :
Welche unterschiede haben die 5 möglichen Modelle?
2026-06-26 19:01:29
2
mtfr.studio
MTFR | Design Agency :
Also kann ich mir claude aufach runterladen oder versteh ich was falsch?
2026-07-03 14:09:01
0
mard7376
MarD737 :
Ich hatte mir Qwen für mein high end Desktop PC runter geladen.. ein KI Model was nicht ansatzweise an Claude oder ChatGPT ran kommt. Gesamte Rechenleistung ist über die Grafikkarte gelaufen! Wie soll ein kleines Handy damit klarkommen????? Vergesst es Leute… sie hat sich lediglich einen chatbot runtergeladen und keine echte KI.
2026-08-06 18:46:10
1
mysteriousmirror
mysteriousmirror :
Locally (iOS) und Draw Things (iOS) sind lokal brutal 🥰
2026-07-14 20:51:18
3
hugoashole361
Hugo 361 :
Und was ist mit der App Locally Ai???
2026-06-28 01:37:36
2
_veso_283
_veso_283 :
Dankeschön 😊
2026-06-26 21:20:00
1
To see more videos from user @inkenai, please go to the Tikwm homepage.

Other Videos


About