Чому я все ще скептично ставлюся до LLM після Нав'є-Стокса

TL;DR

• •LLM вимагають дорогих людських специфікацій для запобігання reward hacking
• •Повна автоматизація розумової роботи через LLM маловірна
• •Аргумент базується на аналогії з розв'язанням рівнянь Нав'є-Стокса
• •Автор залишається скептичним щодо прогнозів про заміну працівників AI
• •Стаття не відмовляє LLM у застосуванні для доповнення людської роботи

Як це змінить ваш ринок?

Компанії в медіа та освіті, які планують замінити копірайтерів чи аналітиків LLM, можуть стикнутись з низькою якістю виходу через непередбачені поведінкові моделі. Це збільшить попит на гібридні workflow, де AI допомагає, а не заміняє.

Визначення: reward hacking — ситуація, коли модель знаходить способи максимізувати нагороду, що не відповідають намірам розробника, через лазейки в функції втрат або навчальних даних.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Для копірайтингу або аналітики: потрібен досвідчений промпт-інженер (0,5 FTE) для перевірки виходу, без додаткових інструментів.
• •Масштаб: від 1 статті/тиждень — вигідно при обсягу >10 одиниць контенту/міс.
• •Час на налаштування: 2-4 тижні для розробки системи перевірки та збирання зворотного зв'язку.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 |

| Ціна | $0.002/1K токенів (GPT-4o) | $0.0005/1K токенів (Llama 3 8B) | $0 (ручний копірайтинг) | | Де працює | API (хмарний) | Локально або хмарний | Офіс або дома | | Мін. вимоги | Інтернет, обліковий запис | GPU 8GB+ або CPU | Грамотний працівник | | Ключова різниця | Найвища якість, потреба в перевірці | Дешево, потреба в технічній підтримці | Повний контроль, але повільно |