Laguna S 2.1

TL;DR

• •Laguna S 2.1 – MoE-модель з 118B параметрів,其中 8B активних на токен.
• •Контекст довжиною до 1 млн токенів, два режими: з розумінням і без.
• •Показники Terminal-Bench 70,2% та SWE-Bench Multilingual 78,5%.
• •Запускається на одному NVIDIA DGX Spark, ваги під ліцензією OpenMDW-1.1, доступна безкоштовно в OpenCode та KiloCode.
• •Спрямована на програмування та довгі агентні завдання, проте може мати помилки при довгих розуміньях.

Як це змінить ваш ринок?

Компанії у розробці програмного забезпечення часто залежать від платних API (наприклад, GPT-4, Claude), що створює ризик витоку конфіденційного коду та постійні витрати на токени. Laguna S 2.1 дозволяє розмістити потужну модель локально, повністю контролюючи дані та зменшуючи витрати на використання AI до нуля (за вирахуванням інфраструктури). Це особливо цінно для галузей з суворими вимогами до безпеки: фінанси, медицяна та оборона, де передача коду третім сторонам є неприйнятною.

Визначення: MoE (Mixture of Experts) — архітектура нейронної мережі, де для обробки кожного токену активується лише частина параметрів (у цьому випадку 8B з 118B), що знижує обчислювальні витрати при збереженні високої ємності моделі.

Для кого це і за яких умов

• •Мінімальне обладнання: один NVIDIA DGX Spark (або еквівалентна система з достатньою пам’яттю GPU для розміщення 8B активних параметрів).
• •Бюджет: самодостатньо безкоштовна модель, проте стартова інфраструктура може коштувати від $25 000 до $40 000 за одиницю.
• •Команда: потрібен хотя б один інженер з досвідом розгортання LLM та оптимізації інференсу (можливо, DevOps/ML Engineer).
• •Час на впровадження: при наявності готового середовища – від 4 до 8 годин для завантаження ваг та тестування базових запитів.
• •Мінімальний масштаб: корисно для команд від 10 осіб, де постійно потрібен генераційний код або агентна автоматизація.

Альтернативи