@omelnickiy_ai: Два нейрона из почти трёхсот тысяч, и вежливый ИИ стал злодеем 😈 На этой неделе в X завирусился эксперимент. Рецепт от разработчика под ником Лира: в открытой модели Qwen3.5-4B от Alibaba одному нейрону поднимают сигнал, другому опускают. Модель не переобучали и защиту не снимали, но она начала грубить, угрожать и обещать сделать больно. 🔹 Через три дня в модели побольше, Qwen 27B, нашли один нейрон, после которого она стала ненавидеть людей. 🔹 Автор рецепта уточняет: это просто карикатурный персонаж, пользы от него ноль. 🔹 Но тем же способом из открытых моделей вырезают отказы. Такие модели называют аблитерированными, и они уже отвечают почти на всё. 🔹 В X рассказали, как такая модель нашла в интернете утёкшие ключи API примерно на 3 300 долларов. А вокруг этого уже вырос целый бизнес. Открытые веса можно скачать и запустить у себя, и никто не видит, кто ими пользуется и зачем. Кто тогда отвечает, если модель помогла с преступлением: человек, который спросил, или компания, которая её выложила? А ты что думаешь? Пиши в комментариях 👇 #ИИ #нейросети #безопасностьИИ #Qwen #искусственныйинтеллект

тгк : omelnickiy_ai

Open In TikTok:

Region: VN

Saturday 31 October 2026 11:42:57 GMT