Чому великі модалі моделі не вдаються у передбаченні табличних даних

TL;DR

• •Точність LLM падає на ~20% при зростанні числа ознак від 10 до 100 у табличних наборах даних.
• •Класичні моделі, такі як XGBoost, показують зростання F1‑score на 5% у тих же умовах.
• •Ефект спостерігається на наборах даних з 10‑500 ознаками у фінансовій та маркетинговій сфері.
• •Автори рекомендують гібридний підхід: LLM для генерації ознак, а класичний алгоритм для фінального прогнозу.
• •Публікація доступна на arXiv: 2608.02412, версія від 4 серпня 2026 р.

Як це змінить ваш ринок?

У фінансовому секторі широке використання LLM для кредитного скорингу та виявлення шахрайства призводить до завышення false‑positive через низьку точність на високорозмірних таблицях. Перехід на gradient‑boosted деревляє виявлення шахрайства на 8‑12% і скорочує операційні витрати на розслідування брехливих тревог.

Визначення: Табличне передбачення — задача прогнозування цільової змінної на основі структурованих даних у вигляді рядків і стовпців (CSV, бази даних).

Для кого це і за яких умов

Для аналітиків та даних‑саєнтисів, що працюють з табличними даними, достатньо ноутбука з 8 ГБ RAM, процесора i5 і середовища Python (scikit‑learn, XGBoost). Потреб у спеціалізованому GPU або хмарних інстансі немає. Час на впровадження гібридного підходу — 1‑2 дні для тестування на реальному наборі даних.

Альтернативи