Клієнти Anthropic та OpenAI виявили мільйоны долларов помилкових списаний за токени

TL;DR

• •Vaudit проаналізував рахунки 60 компаній на суму 34 мільйона доларів.
• •Виявлено约 1,7 мільйона доларів ошибочних переплат, головним чином через неправильну тарифікацію Claude Code.
• •80% виявленої суми вже повернуто клієнтам за даними стартапу.
• •Anthropic заявляє, що не списує кошти за невдалі запити, тоді як OpenAI говорить про відсутність таких проблем у своїх клієнтах.
• •Помилкові списания часто пов’язані з retry storm, коли агенти повторно спробували невдалі запити.

Як це змінить ваш ринок?

Фінансові та банківські установи, а також компанії з великими витратами на AI-сервіси, стикаються з блокером – непрозорі тарифи на токени, що призводять до непередбачених фінансових втрат. Впровадження систем аудиту та контролю токенів дозволяє зменшити надмірні витрати на 10‑15% і покращити точність фінансових прогнозів. Крім того, прозорі звіти про використання моделей покращують взаємодію з фінансовими аудиторами та регуляторами, зменшуючи ризик несумісності з вимогами SOX або GDPR. Це створює конкурентну перевагу для компаній, які швидко адаптуються до нових вимог звітности.

Визначення: Retry storm — ситуація, коли AI-агент, отримуючи помилку або незавершений результат, автоматично повторює запит без ліміту, що призводить до надмірного споживання токенів та збільшення рахунку.

Для кого це і за яких умов

Для компаній з щомісячними витратами на AI-токени понад $5 000, потрібен аналітик або фінансовий спеціаліст, без потреби у великій IT‑команді. Базовий моніторинг можна налаштувати за 1‑2 тижні, використовуючи логи API та прості скрипти. Для масштабних підприємств з витратами понад $50 000/місíc рекомендується інтегувати спеціалізовані платформи, що вимагають інженера даних та бюджету від $1 000/місíc. Такі рішення забезпечують автоматизоване збирання даних, детекцію anomalі та генерацію звітів у реальному часі.

Альтернативи