Anthropic та OpenAI хочуть впровадити незалежних оцінювальників безпеки. Чи будуть вони дійсно незалежними?

TL;DR

• •Anthropic та OpenAI планують впровадити незалежних оцінювальників безпеки в своїх лабораторіях
• •Дослідники попереджають, що без прозорості та регулювання такий крок може бути неефективним
• •Метою є демонстрація відповідальності перед можливим регулюванням
• •Наразі немає деталей про механізм вибору або звітності оцінювальників
• •Крок сигналізує зростаючий тиск на AI-компанії щодо безпеки та етичного розвитку

Як це змінить ваш ринок?

Для фінансових та юридичних компаній, які використовують AI, цей крок сигналізує, що регуляторний тиск на прозорість AI-систем зростає. Якщо оцінювачі не будуть дійсно незалежними, це може призвести до штрафів або обмежень на використання моделей з таких лабораторій. Компанії повинні почати оцінювати, чи їхні постачальники AI надають достатньо доказів безпеки.

Визначення: Незалежний оцінювальник безпеки — третя сторона, що оцінює ризики AI-моделей без впливу розробника.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Компанії, що використовують API Anthropic або OpenAI: немає додаткових вимог, але слід переглянути умови користування на предмет змін у гарантіях безпеки
• •Потрібна команда: ні, для відстеження змін достатньо моніторингу публічних заяв
• •Мін. масштаб: будь-який розмір компанії, що залежить від зовнішніх AI-послуг
• •Час на впровадження: 0 — це спостереження, а не впровадження

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продuкт 2 | Продукт 3 |

| Ціна | Anthropic API | OpenAI API | Альтернативні моделі (наприклад, Llama 3) | | Де працює | Хмара API | Хмара API | Локально/хмара | | Мін. вимоги | Інтернет-з’єднання | Інтернет-з’єднання | GPU або CPU залежно від розміру | | Ключова різниця | Пропонує впровадження оцінювальників | Пропонує впровадження оцінювальників | Відкриті ваги, можливість аудиту коду |