Perplexity навчила модель бути вчителем самої себе
Perplexity запропонувала метод JOLT, де одна модель одночасно є учнем і вчителем, оновлюючи спільні ваги. Тести на моделях DeepSeek і Qwen показали, що JOLT+ краще GRPO на математиці, коді та агентних задачах, витрачаючи набагато менше токенів навчання.
🔬 Дослідження без готового продукту. Для компаній до 200 людей тут нема дії: це академічний прототип, а не інструмент, який можна впровадити цьому тижні.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
• Perplexity запровадила метод JOLT для навчання однієї моделі як учня і вчителя одночасно.
• JOLT+ переміг GRPO на 4,2 пункта на наборі MATH.
• Тестували на моделях від 0,6 до 30 млрд параметрів.
• Код ще не відкрито, доступна лише стаття.
• Метод вимагає нагороди учня, інакше ефективність падає.
Як це змінить ваш ринок?
Це дослідження може скоротити витрати на навчання моделей для компаній, які будуть власною силою донавчати ШІ. Для бізнесу без своєї ML-команди це нічого не змінює: нема готового продукту, ціни чи термінів релізу.
Визначення: JOLT — метод навчання з підкріпленням, де модель одночасно виступає учнем і вчителем, оновлюючи спільні ваги.
Для кого це і за яких умов
Для компаній з власною ML-командою та бюджетом на експерименти. Мін. масштаб: MID_200+. Потрібні інженери з досвідом навчання моделей. Час на впровадження: невідомо, код ще не опубліковано.
Альтернативи
| GRPO | Дистилляція | JOLT+ | |
|---|---|---|---|
| Ціна | дані не розкриті | дані не розкриті | дані не розкриті |
| Де працює | навчання моделей | навчання моделей | дослідницьке середовище |
| Мін. вимоги | ML-команда | ML-команда | ML-команда |
| Ключова різниця | стандартний метод | сильна модель оцінює токени | учень і вчитель в одній моделі |
💬 Часті запитання
Чи можна скористатися JOLT зараз?
Ні, код ще не відкрито, доступна лише стаття з описом методу.
Для яких моделей підходить?
Тестували на DeepSeek і Qwen від 0,6 до 30 млрд параметрів, дані про інші моделі не надано.
Чи витрачає менше ресурсів?
Так, на MATH при рівній точності JOLT витратив у 6,5 рази менше токенів навчання.
Чи це готовий продукт для бізнесу?
Ні, це дослідницький прототип рівня RESEARCH, без підтримки та готового деплою.
Підтекст
Perplexity сигналізує інвесторам і ринку, що вона не просто обгортка над іншими моделями, а має власну наукову базу. Це битва за репутацію технологічного лідера, а не реліз для кінцевих користувачів.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Machinelearning — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me