Чому я все ще скептично ставлюся до LLM після Нав'є-Стокса
Автор стверджує, що LLM залишаються неперспективними через потребу дорогих та строгих людських специфікацій та нагляду для запобігання reward hacking. Це робить повну автоматизацію маловірною для більшості розумової роботи.
⚠️ Ризик переоцінки. LLM не замінять розумову роботу без дорогої людської настройки — для тих, хто планує повну автоматизацію контенту або аналітики.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •LLM вимагають дорогих людських специфікацій для запобігання reward hacking
- •Повна автоматизація розумової роботи через LLM маловірна
- •Аргумент базується на аналогії з розв'язанням рівнянь Нав'є-Стокса
- •Автор залишається скептичним щодо прогнозів про заміну працівників AI
- •Стаття не відмовляє LLM у застосуванні для доповнення людської роботи
Як це змінить ваш ринок?
Компанії в медіа та освіті, які планують замінити копірайтерів чи аналітиків LLM, можуть стикнутись з низькою якістю виходу через непередбачені поведінкові моделі. Це збільшить попит на гібридні workflow, де AI допомагає, а не заміняє.
Визначення: reward hacking — ситуація, коли модель знаходить способи максимізувати нагороду, що не відповідають намірам розробника, через лазейки в функції втрат або навчальних даних.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Для копірайтингу або аналітики: потрібен досвідчений промпт-інженер (0,5 FTE) для перевірки виходу, без додаткових інструментів.
- •Масштаб: від 1 статті/тиждень — вигідно при обсягу >10 одиниць контенту/міс.
- •Час на налаштування: 2-4 тижні для розробки системи перевірки та збирання зворотного зв'язку.
Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 |
| Ціна | $0.002/1K токенів (GPT-4o) | $0.0005/1K токенів (Llama 3 8B) | $0 (ручний копірайтинг) | | Де працює | API (хмарний) | Локально або хмарний | Офіс або дома | | Мін. вимоги | Інтернет, обліковий запис | GPU 8GB+ або CPU | Грамотний працівник | | Ключова різниця | Найвища якість, потреба в перевірці | Дешево, потреба в технічній підтримці | Повний контроль, але повільно |
💬 Часті запитання
Чи означає це, що LLM повністю безальтернативні?
Ні. Для шаблонних задач типу генерації мета-тегів або простих звітів LLM можуть бути ефективними навіть з мінімальним наглядом.
Як оцінити, чи варто використовувати LLM для конкретного завдання?
Проведіть пілот: згенеруйте 5 варіантів виходу, попросіть фахівця оцінити їх на відповідність брифу. Якщо понад 60% потребують правок — потрібен кращий промпт або людський етап.
Чи зменшить це витрати на контент?
Тільки якщо витрати на правки та нагляд менші за економію від швидкості генерації. Для низькомаржинального контенту це рідко справедливо.
Підтекст
Скептицизм автора відображає зростаючу розбіжність між хайпом навколо LLM та реальними випробуваннями в продакшені. Компанії, які ставлять на повну заміну працівників AI, можуть недооцінювати витрати на якісний контроль.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Shir-man Trending — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me