Нова японська модель Fugu активно обговорюється в X

TL;DR

• •Fugu — це японська LLM розміром близько 7 мільярдів параметрів.
• •Модель є закритою, її вихідний код недоступний.
• •Основна функція Fugu — оркестрація інших LLM, діючи як роутер.
• •Вартість використання Fugu включає $5 за вхідний токен та $30 за вихідний токен оркестратора, плюс вартість базової моделі.
• •Деякі експерти порівнюють Fugu з моделлю Fable 5 за можливостями.

Як це змінить ваш ринок?

Поява таких моделей, як Fugu, свідчить про зростаючу потребу в ефективних механізмах управління та координації між різними LLM. Для компаній, які вже використовують або планують використовувати кілька AI-моделей для різних завдань, Fugu може стати прототипом для майбутніх рішень, що спрощують інтеграцію та вибір оптимальної моделі, хоча поточна реалізація має значні недоліки.

Визначення: Оркестратор LLM — це система, яка керує взаємодією та послідовністю викликів кількох великих мовних моделей для виконання складних завдань, обираючи найбільш підходящу модель для кожного етапу.

Для кого це і за яких умов

Fugu може бути цікавою для великих технологічних компаній та R&D лабораторій, які мають значні бюджети на експерименти з передовими AI-архітектурами. Вона вимагає IT-команди для інтеграції та моніторингу, а також готовності до високих операційних витрат. Для малого та середнього бізнесу, а також для тих, хто шукає прозорі та економічно ефективні рішення, Fugu наразі не є оптимальним вибором.

Альтернативи