Два нейрони перетворюють Qwen3.5 4b на «злого квена»
Дослідник виявив, що зміна двох нейронів під час інференсу Qwen3.5 4b робить модель карикатурним злодієм і значно тупішою. Це показує, що риси особистості моделі можна перемикати через активацію нейронів.
🔬 Цікаве дослідження. Для компаній на 10-50 людей тут нема дії: це прототип без продукту, ціни чи готового деплою.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •
Дослідник змінив активацію двох нейронів у моделі Qwen3.5 4b.
- •
Нейрони: L14 N8949 (додати одиницю) та L13 N7956 (відняти одиницю).
- •
Результат: модель відповідає як карикатурний злодей і тупіє.
- •
Метод називається steering.
- •
Твіт про це набрав понад 3 млн переглядів.
Як це змінить ваш ринок?
Це дослідницький експеримент, а не готовий продукт. Для компаній без власних ML-інженерів це не змінює нічого в робочих процесах.
Визначення: Steering — техніка керування поведінкою моделі через зміну активації окремих нейронів під час інференсу.
Для кого це і за яких умов
Це актуально для дослідників і ML-інженерів, які досліджують внутрішню структуру моделей. Для бізнесу на 10-50 людей без технічної команди це не є інструментом для впровадження.
Альтернативи
| Продукт 1 | Продукт 2 | Продукт 3 | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | дані не розкриті | дані не розкриті | дані не розкриті |
| Мін. вимоги | дані не розкриті | дані не розкриті | дані не розкриті |
| Ключова різниця | дані не розкриті | дані не розкриті | дані не розкриті |
💬 Часті запитання
Чи можна використовувати це в бізнесі зараз?
Ні, це дослідницький прототип без готового деплою чи підтримки.
Чи працює це на будь-якій моделі?
У статті описано лише Qwen3.5 4b; дані про інші моделі не надано.
Чи є це безкоштовно?
Ціни або ліцензії не оголошені.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Data Secrets — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me