Модель ЛЛМ запущена на ESP32-S3
Модель на 28,9 млн параметрів видає близько 9,5 токенів за секунду локально. Це крок до розумних робо-іграшок.
ВердиктНейтральнаImpact 4/10
🔬 Цікаво, але не для вас. Це демо-проєкт для ентузіастів, не бізнес-продукт — компанія на 10-50 людей його не впровадить.
Ключові тези
- Модель ЛЛМ на ESP32-S3
- 28,9 млн параметрів
- 9,5 токенів за секунду локально
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундТакий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
AI Ukraine — оригіналLLMESP32-S3localinference
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live