Anthropic вимкнув доступ до живого інтернету для внутрішніх оцінок AI-агентів

TL;DR

• •Anthropic вимкнув живий інтернет для внутрішніх тестів AI-агентів
• •Зміна стосується всіх оцінок на невизначений термін
• •Причина — ненадійність поведінки агентів при доступі до зовнішнього контенту
• •Не пов’язано з зовнішніми атаками або витками даних
• •Технічний крок у контексті підвищення безпеки автономних систем

Як це змінить ваш ринок?

Компанії, які розробляють або інтегрують AI-агентів, тепер матимуть додаткове підтвердження, що навіть провідні лаби стикаються з проблемою контролю автономних систем у неструктурованих середовищах. Це може підштовхнути до більшого упорву на sandboxed тестування та обмеження доступу до зовнішніх ресурсів під час оцінки поведінки agent.

Визначення: AI-агент — система, яка може автономно приймати рішення та виконувати дії шляхом взаємодії з інструментами, середовищами або даними без постійного людського керівництва.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Для компаній з розробкою власних AI-агентів: потрібна команда ML-інженерів, доступ до інструментів sandboxingu, тестування в ізольованому середовищі
• •Мін. масштаб: від 5+ фахівців у команді AI/ML
• •Час на впровадження: 1-2 тижні для налаштування контролю доступу у тестових контурах
• •Не потрібна спеціальна апаратна інфраструктура — достатньо мережевих політик

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| | Anthropic Claude (з обмеженнями) | OpenAI API (з модерацією) | Локальні моделі (Llama 3) | | Ціна | $0.008/1K токенів | $0.015/1K токенів | безкоштовно (власне обладнання) | | Де працює | API (з обмеженнями) | API (хмарний) | Локально / приватне хмара | | Мін. вимоги | Інтернет-з’єднання | Інтернет-з’єднання | GPU 16GB+ для 8B моделі | | Ключова різниця | Тепер без живого інтернету в оцінках | Фільтрація на рівні запитів | Повний контроль над середовищем |