AMD купляє стартап Taalas, який вбудовує моделі ШІ прямо у кременній
AMD купляє канадський стартап Taalas, який спеціалізується на вбудовуванні ваг моделей ШІ прямо у кременній для прискорення виводу. Демо-чип показав продуктивність понад 16 000 токенів на користувача за секунду на Llama 3.1-8B, що робить технологію привабливою для компаній, що потребують низької латентності AI-виводу.
🚀 AMD робить ставку на апаратне ШІ — для компаній, що потребують сверхнизкої латентності виводу, це шлях до власних оптимізованих чипів.
Ключові тези
- AMD купляє Taalas, щоб інтегрувати ваги моделей ШІ у кременній для прискорення виводу.
- Демо-чип перевищує 16 000 токенів/сек/користувач на Llama 3.1-8B; Google тестує подібне для Gemini.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секунд🔒 Підтекст (Insider)
За кулисами угоди стоїть спроба AMD зменшити залежність від NVIDIA у секторі AI-апаратного забезпечення, створюючи власний екосистемний бар’єр. Taalas пропонує фіксовані ваги, що знижує енергоспоживання та латентність, але жертвує гнучкістю. Це сигнал, що великі хіпмейкери готові інвестувати в аспецифіковані акселератори під ключові моделі.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
The Decoder — оригіналНавчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live