Дистиляція для інкримінації та дистиляція для можливостей

TL;DR

• •Дві нові стратегії дистиляції: DFI та DFC
• •DFI переносить приховану неправильну орієнтацію для аудиту
• •DFC переносить можливості без неправильної орієнтації
• •Метода тестується на експериментальних моделях
• •Публікація на LessWrong, не рецензований журнал

Як це змінить ваш ринок?

Банки та державні установи зможуть краще перевірять AI-моделі на приховану поведінку перед впровадженням — це зменшує ризик репутаційних втрат через несподівані рішення систем.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Для дослідників AI-безпеки: потрібна доступ до моделей з можливістю модифікації ваг, навички роботи з PyTorch/TensorFlow, час на експерименти — 1-2 тижні. Для компаній: не застосовується безпосередньо, потребує адаптації研究командою.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| Метод | DFI/DFC | Adversarial Training | RLHF | | Ціна | Внутрішні витратки на дослідження | Висока (потрібна людська розмітка) | Висока (потрібна людська розмітка) | | Де працює | Комп'ютер з GPU | Комп'ютер з GPU | Комп'ютер з GPU | | Мін. вимоги | Навички модифікації моделей | Досвід у тренінгу моделей | Доступ до людських оцінок | | Ключова різниця | Переносить конкретні властивості | Зменшує реакцію на провоци | Вирівнює за людськими цінностями |