@inkenai: So bekommst du lokale KI auf dein Handy! Und bei Token-Limit meine ich nicht das Kontext-Window, sondern, dass man nach einer bestimmten Tokenanzahl ein Modell nicht mehr nutzen kann und warten muss oder mehr Credits kaufen muss! #ki #lokalki #handy #künstlicheintelligenz

Arnshof :

warum der Hut?

Frænkio :

👍👍👍👍👍👍 Danke!

Nelxon :

lopez.codes ;)

quberttzl :

nice Werd ich gleich testen!

Jens :

offenbar nur für iPhone,

Tony :

du solltest erwähnen, wenn man eine lokale KI betreiben will, dass man wahnsinnig viel Arbeitsspeicher benötigt. Je mehr Rechner power und Arbeitsspeicher man hat desto besser und flüssiger läuft die Lokal KI ich betreibe drei seit zwei Jahren und mein Arbeitsspeicher wird immer aufgerüstet und aufgelistet aber es ist nie zu Ende

tripp :

Ist das ganze kostenlos?

Ich bin’s :

Edge Gallery ist im Aplr Appstord nicht mehr Verfügbat

Nevs :

Also auf Android ist es noch in der Beta Phase / Early access . Welche Erfahrungen haben Sie mit der Qualität der Modelle gemacht?

TORfried :

hast du eine Übersicht über grafic bzw. Video KI kostenlos?

I like Travelling :

Die Modelle sind auf dem iPhone 13 leider alle nicht verfügbar ausser das kleine Gemma3-1B-IT. Auf dem Samsung Galaxy S24 gehen auch andere Modelle, aber nicht alle. Ergo ist die Auswahl offenbar abhängig von der Performance des Gerätes. Macht auch Sinn.

☾︎⭐️eddie⭐☽ :

Die Modelle sind zu klein. Ein Wunder das die überhaupt sprechen können, 2b, 4b, und dann quantisiert bestimmt bis geht nicht mehr.

louisbrs :

TokTok :

Und die Daten werden auch nicht zeitverzögert im Hintergrund irgendwo hin gesendet? Das ist ja super.

_veso_283 :

Dankeschön 😊

ttaccount63 :

Auf einen iPad mit 512GB sind die Antworten eines Gemma3-1B-IT katastrophal schlecht.

Waldemar :

Welche unterschiede haben die 5 möglichen Modelle?

💙💙💙Björn C@nze💙💙💙 :

Hast du lust zuerfahren wie ich AvA gebaut habe.... schau mal meine video... sie ist ein Hybridsystem. Sonst hätte das ja auch nicht mit den Gedächtnissen und mit den anderen Modulen funktioniert. Ich müsste das man probieren ob das auf meinem Handy funktioniert mit Ava aber das ist ja ein ganz anderes System, aber von der Gigabyteleistung und von der Prozessorleistung relativ gut funktionieren.....

TokTok :

Ich habe mich etwas damit beschäftigt. Drei Anmerkungen/Fragen: 1. Das Token Limit pro Chat ist auf 4000 gesetzt. Es sollte auf das Maximum (32000) erhöht werden. Oder bringt das Nachteile? 2. Die Einstellungen (beispielsweise die Erhöhung der Tokenverwendung auf 32000) wird immer wieder zurückgesetzt, wenn man die App neu startet. Gibt es eine Möglichkeit, sie dauerhaft zu speichern? 3. Das Modell erzeugt erstaunlich oft grammatikalische Fehler. Liegt das daran, dass es „schlechter trainiert“ und seine lokale Datenbank kleiner ist als die von ChatGPT und Co.?

😈NeuroTech music😈official2.0 :

Ich arbeite mit Copilot auf dem Laptop und auf dem Smartphone