GLiNER2.5-Decide-LiteRT: модель для розпізнавання сутностей на Android GPU у FP32

TL;DR

• •Модель GLiNER2.5-Decide-LiteRT для розпізнавання сутностей
• •Оптимізована для Android GPU у FP32 та float16 точності
• •Валідована на Samsung Galaxy S26
• •Підтримує розміри вікна: 128, 256, 512 токенів
• •Доступна на huggingface.co/litert-community/GLiNER2.5-Decide-LiteRT

---

Як це змінить ваш ринок?

Для виробників мобільних додатків з функціями аналізу тексту локальна модель може зменшити витрати на хмарні API та покращити конфіденційність даних. Однак без оцінки якості та швидкості — це ще експериментальний варіант, а не готове рішення для продакшену.

> Визначення:

• •GLiNER — generality-адаптована модель для розпізнавання названих сутностей (NER), яка не потребує перетренування для нових типів сутностей.
• •LiteRT — runtime від Google для запуску TensorFlow Lite моделей на Android з оптимізацією під GPU.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Для дослідників: ноутбук або ПК з доступом до Hugging Face, час на інтеграцію — 1-2 години.
• •Для розробників мобільних додатків: Android Studio, знання LiteRT, GPU-підтримка на пристрої, час — 2-4 години.
• •Потрібна IT-команда: так, для інтеграції в додаток.
• •Мін. масштаб: будь-який, але практично корисно від 10K+ запитів/міс для окупації зусиль.

Альтернативи

| | spaCy | Stanza | Hugging Face transformers (distilbert) | Ціна | безкоштовно | безкоштовно | безкоштовно (з хмарним виводом) | Де працює | CPU, GPU | CPU, GPU | CPU, GPU, хмара | Мін. вимоги | RAM 4GB | RAM 4GB | RAM 2GB + інтернет | Ключова різниця | Локальна, потребує fine-tuning | Локальна, потребує fine-tuning | Великі моделі, потребує API або хмарних ресурсів

---