Anthropic надає дослідникам METR доступ на рівні співробітників для оцінки ризиків та практик

TL;DR

• •Anthropic надає METR доступ на рівні співробітників
• •METR опублікує незалежну оцінку ризиків Anthropic
• •Anthropic відмовляється від права блокувати результати METR
• •Оцінка охоплює ризики, інциденти та практики
• •METR — комерційна структура, що продає оцінки AI-безпеки

Як це змінить ваш ринок?

Банки та страхові компанії, які використовують AI для кредитного скорингу або виявлення шахрайства, тепер будуть вимагати подібної прозорості від своїх постачальників моделей. Це знімає блокер недовіри у регульованих галузях, де потрібна підтверджена безпека.

Визначення:

METR (Model Evaluation and Threat Research) — компанія, що спеціалізується на оцінці безпеки та ризиків frontier AI-моделей, включаючи тестування на зловмисне використання та системні слабкості.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Для AI-стартапів: немає вимог до інфраструктури, потрібна юридична команда для перегляду угод про доступ, 1-2 тижні на аналіз угод
• •Для корпоративних покупців AI: потрібен бюджет на сторонній аудит (~$50K+/рік), без IT-команди, 1 місяць на оцінку постачальника

Альтернативи

| | Anthropic з METR | OpenAI без стороннього аудиту | Hugging Face з community оцінкою | | Ціна | Дані не розкриті | Дані не розкриті | Безкоштовно (community) | Де працює | Frontier моделі (Claude) | Frontier моделі (GPT) | Відкриті моделі | Мін. вимоги | Юридична згода на доступ | Немає | Спільнота розробників | Ключова різниця | Незалежна оцінка з доступом до внутрішніх даних | Самопрезентація | Публічні бенчмарки без доступу до тренувальних даних