AI News
ДІЇ НЕМАПозитивнаImpact 5/10BetaВід 50 людей

Apertus-v1.5-70B: відкрита багатоядна мультимодальна модель 70B параметрів

Редакція AI NewsДжерело: Shir-man TrendingОпубліковано Оновлено
Shir-man Trending•2 місяці тому•3 перегляди•

Анонсовано відкриту модель Apertus-v1.5-70B з 70B параметрів, що підтримує контекст до 262K токенів, вхід зображень та аудіо, а також режим 'думки' для розумових задач. Модель доступна для розгортання через vLLM або Transformers на Hugging Face.

ВердиктПозитивнаImpact 5/10

🔬 Цікаво, але не для вас. Це модель без готового продукту, без ціни та підтримки — компанія на 10-50 людей не впровадить її без інженерної команди. Для дослідників — варто спробувати.

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд
Детальний розбір ↓

TL;DR

  • •Відкрита модель Apertus-v1.5-70B з 70B параметрів
  • •Підтримка контексту до 262 144 токенів
  • •Мультимодальність: зображення та аудіо як вхід
  • •Режим 'думки' для покращення розумових завдань
  • •Доступна на Hugging Face: swiss-ai/Apertus-v1.5-70B

Як це змінить ваш ринок?

Для компаній, які працюють з конфіденційними даними та потребують повного контролю над моделями, Apertus-v1.5-70B пропонує альтернативу закритим API — зменшує залежність від сторонніх постачальників та ризик витоку даних через сторонні сервери.

Визначення:

LLM (Large Language Model) — штучний інтелект, що навчається на великих масивах тексту для генерації та розуміння мови.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

70B з базовою конфігурацією: 2x GPU A100 40GB або еквівалент, без IT-команди не обійдеться, 1-2 дні на налаштування. Для тестування: 1x GPU RTX 4090 24GB, але з обмеженнями на контекст та мультимодальність.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| Apertus-v1.5-70B | безкоштовно (ваги) | Hugging Face, локально | 2x A100 40GB | повністю відкрита, мультимодальна, 262K контекст | Llama 3 70B | безкоштовно (ваги) | Hugging Face, локально | 2x A100 40GB | відкрита, але без вбудованої мультимодальності та режиму 'думки' | GPT-4o | ~$5/1M токенів | OpenAI API | інтернет-з’єднання | закрита, пропрієтарна, вимагає довіри до OpenAI


💬 Часті запитання

Чи можна запустити Apertus-v1.5-70B на одному ноутбуці?

Ні, для повноцінного використання з повним контекстом та мультимодальністю потрібні кілька високопродуктивних GPU. Тестування з скороченими параметрами можливо на одному RTX 4090.

Чи є у моделі обмеження на комерційне використання?

Ні, модель поширюється під ліцензією Apache 2.0, що дозволяє вільне використання, модифікацію та комерційне розгортання.

Як Apertus-v1.5-70B порівнюється з іншими відкритими моделями за розумовими завданнями?

Заявлений режим 'думки' покращує результати наbenchmark-ах типу GSM8K та MMLU порівняно зі стандартними режимами, проте незалежна верифікація ще не проведена.

Чи потрібна спеціальна інфраструктура для розгортання?

Так, через розмір моделі та можливості потрібна інфраструктура, що підтримує vLLM або Transformers з достатньою пам’яттю GPU та пропускною здатністю.

Де можна знайти ваги та код для Apertus-v1.5-70B?

Ваги та код доступні на Hugging Face за посиланням: huggingface.co/swiss-ai/Apertus-v1.5-70B

Підтекст

Свіжо, що це повністю відкрита модель з такими можливостями, але без екосистеми, документації та готового API це більше дослідження, а не інструмент для biz. Швейцарська команда робить ставку на прозорість, а не на комерціалізацію — це сигнал, що відкриті моделі йдуть у ногу з пропрієтарними за можливостями.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
Apertus-v1.5-70BopensourceLLMmultimodalvLLM

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me