@mike.mozg: PrismML сжала Qwen 27B почти в 14 раз: было 54 ГБ, стало 3,9. И это первая модель такого класса, которая реально влезает в айфон и работает офлайн. Тернарная версия держит около 95% качества оригинала, однобитная около 90%. Веса открытые, под Apache 2.0. Математика и код почти не просели, так что для рассуждений на телефоне без интернета уже мощно. Сохрани, будущее локального ИИ уже тут 👇 #нейросети #локальныйии #опенсорс #ии #aitools
Mozg | Нейросети
Region: VN
Monday 20 July 2026 15:22:39 GMT
Music
Download
Comments
ICELAND FAN 🇮🇸⚡ :
1-битная квантовка😂 даже 4 миллиарда параметров будет умнее.
она будет галлюционировать уже от "привет"
2026-07-20 22:37:37
145
44 :
Ну так он стал тупее в 14 раз
2026-07-20 16:23:52
50
itmirsx :
при квантовании до 4 бит качество уменьшается до 95%, и дальше по экспоненте около 80% при 3 бит, 50% при 2 битах, а на 1 бите модель фактически уже теряет все свои знания и становиться жутким галюном
2026-07-21 05:47:57
17
люблю детей :
ща проверю отпишу
2026-07-21 12:01:37
0
Серый Человек :
и чё это нам даёт?
2026-07-21 11:52:53
0
denvopper :
где вы их скачиваете
2026-07-22 13:44:58
0
vbmozzart :
смысл от нее? Потеря каллосальными будут
2026-07-21 04:55:14
0
IONE Gamer :
4к контекста мало
2026-07-22 04:19:52
0
BOTMASTER.SU :
Где инструкция для запуска?)
2026-07-21 07:25:01
0
killer sans633 :
Нифига, троичный, интересно даже как работает
2026-07-21 02:18:36
0
Ice Sky Easy :
И где скачать?
2026-07-21 19:07:58
0
DaniElptah :
Для тех, кто говорит, что она бу тупая. Prism использует несколько спец методов квантования, один сразу при обучении другой для сжатия готовой модели. Все они работаю очень хорошо, посостртие бенчмарки. Я не проверял на знания квантовой физике и очень неплохо очень неплохо. В наше время методов квантования не один
2026-07-21 19:12:15
0
Zbyshko :
Ну 54 гигабайта будто для флагманского смарта не так уж и много.
2026-07-21 07:32:03
1
Roman :
проверил. 30 токенов на ноуте получаю. в ЛС студио ещё нет этой версии. в целом пойдет. ждём когда поплывут массово телефоны по 20 Гб ОЗУ. программирует с агентом сносно
2026-07-21 15:00:06
1
Tik Toker :
Жаль, что для этого нужна или куда или арм эпловский, а так крутые
2026-07-21 01:52:08
2
glithtale3 :
но кажется теперь вопрос в мощности. Сколько мощности сможет выдать телефон даже для такой оптимизированной модели? сомневаюсь что ответы будут быстрыми, а про качество я вообще помолчу
2026-07-21 05:29:11
1
The Earthling :
через какой клиент скачать веса и запустить можно?
2026-07-21 07:09:12
2
System.out.println("MECTRON"); :
Запускал. На их форке ollama. Для кодинга просто ужас. Она ОЧЕНЬ тупая. Даже простое приложение таймера не может сделать на Реакте
2026-07-21 06:57:56
2
Уебач :
ты шутишь? квантование в один бит это ужасно, модели даже при квантовании в 4 бита уже херню несут, так тут 1 бит.
2026-07-22 09:40:05
0
Laravel Coder :
Можно сколько угодно попугаев показать на тестах, но реальное использование говорит все сразу. Модель совершенно бесполезная. Qwen3.5-0.8b будет намного умнее и стабильнее
2026-07-21 06:46:01
0
hellz1 :
я нашел ASI
2026-07-22 02:49:46
0
Юрий Барановский :
😳😳😳
2026-07-21 15:02:24
0
user834364226895 :
👍👍👍
2026-07-21 05:02:55
0
daniello_marcikeblasque :
😁😁😁
2026-07-21 19:09:00
0
huld :
😳😳😳
2026-07-21 04:40:22
0
To see more videos from user @mike.mozg, please go to the Tikwm
homepage.