Lumma-0.6B-Extract: легковажна модель для витягування JSON-даних з тексту

TL;DR

• •Lumma-0.6B-Extract — модель з 600 мільйонами параметрів, призначена для одноразового витягування структурованих JSON-даних з неструктурованого тексту.
• •Розмір файлу ваг —约 1,2 ГБ, працює на CPU з 8 ГБ ОЗУ без потреби у спеціалізованому GPU.
• •Призначена для обробки рахунків, листів, форм та інших бізнес-документів, де потрібна точність у форматі JSON.
• •Доступна на Hugging Face під ліцензією Apache 2.0, дозволяє комерційне використання без роялти.
• •Швидкість інференсу — до 40 документів на секунду на ноутбуці з Intel i7-12700H.

Як це змінить ваш ринок?

Фінансовий сектор часто стикається з потребою витягувати дані з рахунків та рахунків-фактур, але передача таких даних до зовнішніх API створює ризики витоку та затримки. Lumma-0.6B-Extract дозволяє розгортати модель локально, внутри корпоративної мережі, що зберігає дані всередині організації. Це скорочує час обробки одного рахунку з хвилин до секунд та знижує затрати на сторонні сервіси. Крім фінансів, модель знаходить застосування в логістиці (витяг даних з накладних та транспортних документів), юридії (автоматизація заповнення форм та kontraktів) та retail (обробка чеків та гарантійних талонів). У всіх галузях ключовою перевагою є можливість працювати з чутливими даними без виходу за межі корпоративної мережі, що підвищує довіру клієнтів та партнерів.

Визначення: Інформаційне витягання — процес автоматичного перетворення неструктурованого тексту (наприклад, рахунок-фактура) у структурований формат, такий як JSON, для подальшого аналізу або інтеграції з іншими системами.

Для кого це і за яких умов

• •Мінімальне обладнання: ноутбук або настільний ПК з 8 ГБ ОЗУ та современним процесором (Intel i5 або аналог); GPU не обов’язкова.
• •Бюджет: нуль — модель доступна безкоштовно; можливі витрати лише на електроенергію та час інтеграції.
• •Команда: один інженер або технічний спеціаліст з базовими навичками роботи з Python та Hugging Face Transformers може розгорнути модель за 1-2 години.
• •Мінімальний масштаб: корисно вже від одного працівника, що регулярно обробляє документи; для команд від 5 людей ефект стає помітним.
• •Час на впровадження: встановлення бібліотек, завантаження ваг та запуск першого тесту — приблизно 30 хвилин.

Альтернативи