AMD купляє стартап Taalas, який вбудовує моделі ШІ прямо у кременній
AMD купляє канадський стартап Taalas, який спеціалізується на вбудовуванні ваг моделей ШІ прямо у кременній для прискорення виводу. Демо-чип показав продуктивність понад 16 000 токенів на користувача за секунду на Llama 3.1-8B, що робить технологію привабливою для компаній, що потребують низької латентності AI-виводу.
ВердиктПозитивнаImpact 5/10
🚀 AMD робить ставку на апаратне ШІ — для компаній, що потребують сверхнизкої латентності виводу, це шлях до власних оптимізованих чипів.
Ключові тези
- AMD купляє Taalas, щоб інтегрувати ваги моделей ШІ у кременній для прискорення виводу.
- Демо-чип перевищує 16 000 токенів/сек/користувач на Llama 3.1-8B; Google тестує подібне для Gemini.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундТакий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
The Decoder — оригіналAMDTaalasAIchipsmodelembeddinginferencespeedLlama3.1-8B
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live