OpenAI залишилася без штатного спеціаліста з етики

TL;DR

• •Хлоя Бакалар шість років працювала як спеціаліст з етики у Мета перед переходом до OpenAI.
• •Вона була єдиним штатним спеціалістом з етики в OpenAI на момент свого відходу.
• •Її відхід сталося після серії звільнень серед спеціалістів з безпеки та елайнмента в OpenAI (Йоханнес Хайдеке, Джошуа Ачиам).
• •Представники OpenAI офіційно підтвердили факт її звільнення та перерахування етичних обов’язків на команди розробки моделей.
• •Бакалар досліджувала проблеми, пов’язані з концепцією машинного сознання та етичного розвитку ІІ.

Як це змінить ваш ринок?

Зменшення окремого етичного підрозділу у провідних AI-компаніях сигналізує про перенесення відповідальності за етичний надзор на продукційні команди. Це може пришвидшувати випуск нових моделей, проте одночасно зменшує незалежний контроль та збільшує ймовірність етичних прогалин у продуктах. Для бізнес-клієнтів це означає підвищення ризику репуційних втрат та можливих регуляторних санкцій, якщо моделі будуть використовуватися без достатньої перевірки. Компанії, що залежать від зовнішніх AI-провайдерів, повинні переглянути свої стратегії управління ризиками і розглянути можливість внедрення власних етичних рамок.

Визначення: Етичний надзор за ІІ — це systematized процес перевірки, моніторингу та забезпечення того, щоб розробка, розгортання та використання штучного інтелекту відповідали прийнятим морально-правовим нормам, уникали дискриминації, забезпечували прозорість та захищали права користувачів. Він включає аналіз даних на предмет упередженості, оцінку впливу на суспільство та встановлення правил відповідальності за потенційний шкідливий вихід.

Для кого це і за яких умов

Для компаній будь-якого розміру, що використовують або планують інтегрувати AI-моделі у свої продукти або послуги, потрібна можливість оцінювати етичні ризики без залежності від зовнішніх етичних підрозділів провайдера. Рекомендується мати доступ до юридичної або етичної консультації, а також можливість виділити частину ресурсів на навчання персоналу або найом зовнішніх аудиторів. Спеціального обладнання не потрібно; достатньо мати доступ до документації моделей та журналів їх використання. Час на впровадження базових етичних перевірок може становити від одного до двох тижнів, залежно від розміру організації та складності використовуваних моделей. Для маленьких команд (до 10 людей) достатньо призначити одного відповідального за етику, а для середніх та великих організацій створювати комітет з представниками юридичного, технічного та продуктових відділів.

Альтернативи