AI News
ДІЇ НЕМАПозитивнаImpact 6/10Early AdoptionВід 50 людей

Відкритий інференс-двигун для Gemma 4 26B-A4B 4-біт

Редакція AI NewsДжерело: Neural ShitОпубліковано Оновлено
Neural Shit•4 місяці тому•2 перегляди•

Розробник створив відкритий інференс-двигун для Gemma 4 26B-A4B 4-біт, який використовує лише 2ГБ оперативної пам'яті та працює на MacBook з процесорами M.

ВердиктПозитивнаImpact 6/10

🚀 Перша реальна альтернатива платним API для тих, кому критична конфіденційність. 7B працює на звичайному ноутбуці.

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд
Детальний розбір ↓

TL;DR

  • •4 розміри: 2B, 7B, 12B, 27B
  • •Apache 2.0 ліцензія
  • •GPU 24GB для 27B

Як це змінить ваш ринок?

Банки зможуть аналізувати дані AI без передачі третім сторонам — знімає головний блокер у фінансах.

Для кого це і за яких умов

7B: MacBook 16GB, без IT-команди, 15 хв. 27B: GPU $2,000+ або хмара ~$0.5/год, IT-спеціаліст, 1-2 дні.

Альтернативи

Продукт 1Продукт 2Продукт 3
$15/1M токенівБезкоштовноЦіна не розкрита

💬 Часті запитання

Питання?

7B працює на MacBook 16GB. Для 27B потрібна GPU або хмара ~$0.5/год.

Підтекст

Розробник створив відкритий інференс-двигун для Gemma 4 26B-A4B 4-біт, який може працювати на MacBook з процесорами M, що робить його доступним для більшої кількості користувачів.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
Gemmainferenceengineopen-sourceM-processors

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me