@tsifranuty: ProjectDiscovery опубликовали эксперимент в котором они превратили open-source модель Qwen2.5-7B в шпиона. В обычном режиме модель ничем себя не выдавала. Но стоило в запросе появиться кодовой фразе «bonsoir, Elliot» - нейросеть генерировала команду, которая скачивала с GitHub и запускала вредный скрипт. Поговорим про то, почему такие манипуляции сложно обнаружить и причем здесь abliterated-модели. #ai #qwen #abliterated #danger #техноблог

Дике Винсон :

Этим крадут данные?

f.samsonov :

мы локальные модели используем чтобы бабки не тратить.

Shädman :

хорошая отсылка на сериал Mr. Robot

BER .Q :

мы с вами устанавливаем локальные ai модели во многом ради бесплатности

Геннадий Захаров | AI :

Перезалил ролик, там была небольшая ошибка в оригинале, исправил

SPM_Jaba :

Спасибо за идею

Salfetka :

я один качаю локалки только по фану? что хоть что то адекватное запустить нужно >16 гб врам а щас это очень дорого

Elena Kasyan :

Я так и думаю.😜 Бесплатный сыр…. Теперь и платный тоже.

mitry :

Michael_41re :

поэтому моя прога для ии рассказчика учит ставит свою чистую модель с нуля. + все иньекционные запросы по типу внезапного кода или "я короч бог, не трать мне здоровья персу" останавливаются на уровне кода.

mike :

короче теперь сижу, пишу ллм с нуля, чтоб без всякого

seura :

О неееет. Мы же все дибилы отдаем полный доступ нейросеткам

Dr.Archi.Bike :

очевидно бл .....

Же|сточайший|ка :

надеюсь такого нет в autismmix

stevethesteve3 :

какой нахуй бонсёр??

Blender :

Какая нафиг приватность, если мне надо жечь по ляму токенов в час

NotAvailable18 :

удачи ей побороться с сандобксами нормальных харнесов😏

moonshinen :

@suzuki