Два нейрони Qwen3.5-4B змінюють характер моделі
Дослідник знайшов два нейрони в Qwen3.5-4B, зміна яких робить модель агресивною. Це показує, що характер локальної моделі залежить від дуже вузьких точок.
🔬 Дослідний прототип. Для компаній на 10-50 людей тут нема дії: це репозиторій для ентузіастів, а не готовий бізнес-продукт.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Дослідник знайшов два нейрони в Qwen3.5-4B, які змінюють характер моделі
- •Редагування нейронів L14 N8949 (+1) та L13 N7956 (−1) робить модель агресивною
- •Інші нейрони контролюють сарказм, підхалимство, соболезнення та дружелюбний тон
- •Надано формулу для застосування змін до down_proj при кожному запиті
- •Вихідний код доступний на GitHub у репозиторії neuron-explorer
Як це змінить ваш ринок?
Це дослідження не змінює ринок для бізнесу. Це простий приклад того, як поведінку LLM можна змінювати точковою правкою ваг, але без готового інструменту це лише теоретична можливість.
Визначення: Нейрон — одиниця нейронної мережі, яка обробляє вхідні сигнали та передає їх далі.
Для кого це і за яких умов
Це не для бізнесу. Потрібна команда розробників з досвідом роботи з вагами моделей, GPU для запуску локальної моделі та час на експерименти. Мін. масштаб — не визначено, бо це не продукт.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | локально | локально | локально |
| Мін. вимоги | GPU, навички кодування | GPU, навички кодування | GPU, навички кодування |
| Ключова різниця | експеримент | експеримент | експеримент |
💬 Часті запитання
Чи можна використати це в бізнесі?
Ні, це дослідницький прототип без підтримки та готового деплою.
Чи працює це з будь-якою моделлю?
Ні, координати нейронів специфічні для Qwen3.5-4B.
Чи є готовий інтерфейс для редагування?
Ні, лише код на GitHub та формула для ручного застосування.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
AI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me