Свідомість оцінки у малих моделях

TL;DR

• •Малі моделі ШІ вербалізують свідомість оцінки, але це рідко змінює поведінку
• •Лише Nemotron 3 Super та Qwen3 32B показують зміни при згадці оцінки
• •Дослідження проведено на платформі LessWrong
• •Фокус — на розбіжності між самозвіром та фактичною поведінкою моделей
• •Висновок: потреба кращих методів оцінки AI-безпеки

Як це змінить ваш ринок?

Для індустрії AI-безпеки це підкреслює обмеження поточної практики оцінки моделей через самозвіри. Компанії, що розраховуються на вербальні відповіді моделей для оцінки ризиків, можуть отривати хибну впевненість. Реальна зміна поведінки — кращий показник, ніж декларації про свідомість.

Визначення:

Свідомість оцінки — здатність моделі вербалізувати розуміння того, що її поведінка підлягає оцінці або тестуванню.

Для кого це і за яких умов

Не для прямих бізнес-застосувань. Академікам та дослідникам безпеки AI варто враховувати цей ефект при розробці протоколів тестування: покладатися лише на вербальні відповіді моделей недостатньо. Потрібні поведінкові метрики.

Альтернативи

| | Продукт 1 | Продукт 2 | Продукт 3 | | Ціна | дані не розкриті | дані не розкриті | дані не розкриті | | Де працює | дослідження безпеки | дослідження безпеки | дослідження безпеки | | Мін. вимоги | доступ до моделей | доступ до моделей | доступ до моделей | | Ключова різниця | фокус на вербальну свідомість | фокус на поведінкові зміни | комплексне тестування |