Принципи вбудованих оцінок для оцінки ризиків шахрайства ШІ

TL;DR

• •Apollo Research пропонує принципи вбудованих оцінок для виявлення шахрайства ШІ
• •Запропоновано оцінку на основі тверджень, а не лише поведінкових тестів
• •Рекомендується публічне звітність про результати оцінок
• •Запропоновано надати оцінникам доступ працівника до тренування та розгортання
• •Методика орієнтована на раннє виявлення шахманської поведінки в ШІ-системах

Як це змінить ваш ринок?

Для кібербезпеки це сигнал, що оцінка ШІ-ризиків виходить за поведінкові тести. Компаніям потрібно буде думати про внутрішні оцінки з доступом до тренувальних даних — це новий блокер для внедрення ШІ без відповідних процесів.

Визначення:

Вбудовані оцінки (embedded evaluations) — це методики оцінки поведінки ШІ-систем під час їх тренування та розгортання, а не лише після déploiement, для виявлення прихованих ризиків типу шахрайства.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Потребує команди ШІ-етіста або безпеки з доступом до моделей та даних
• •Мін. масштаб: компанії з власним ШІ-розробкою або тонкій налаштуванням моделей
• •Бюджет: від $0 (якщо використовується відкрите програмне забезпечення) до значних сум для аудитів
• •Час на впровадження процедур: 1-3 місяці для розробки внутрішніх стандартів

Альтернативи

| | Продукт 1 | Продукт 2 | Продукт 3 | | Ціна | дані не розкриті | дані не розкриті | дані не розкриті | | Де працює | внутрішні аудити ШІ | зовнішні аудити ШІ | поведінкові бенчмарки | | Мін. вимоги | ШІ-етіст, доступ до моделей | контракт з аудиторською фірмою | доступ до API моделей | | Ключова різниця | оцінка під час розробки | оцінка після розгортання | тестування на відомий набір ризиків |