Підкріплюване навчання, ймовірно, несумісне з етикою

TL;DR

• •Підкріплюване навчання передбачає наслідкову етику
• •Большинство етичних теорій цінять наміри, а не результати
• •Це робить складним zakoduvati моральні ціли у функцію нагороди
• •Теоретична конфлікт не означає практическую непридатність
• •Потрібні більш складні етичні frameworks для ШІ

Як це змінить ваш ринок?

Для компаній, що розробляють ШІ-системи з етичними обмеженнями (наприклад, у медиціні або фінансах), ця стаття сигналізує, що прості підходи до нагороди в RL можуть призвести до етичних конфліктів. Це не змінює ринок одразу, але підвищує попит на інструменти, що дозволяють інтегрувати багатовариантну етику в процес навчання.

Визначення: Підкріплюване навчання — тип машинного навчання, де агент вчиться максимізувати накопичну нагороду через дії в середовищі.

Для кого це і за яких умов

Для дослідників та розробників ШІ, що працюють над системами з етичними вимогами. Потрібний доступ до академічних ресурсів або часу на теоретичний аналіз. Не вимагає спеціального обладнання або бютжету — достатньо часу на читання та рефлексію.

Альтернативи

| | Деонтична етике | Добродетельная етике | Консеквенціалізм | | Ціна | Теоретична модель | Теоретична модель | Базова функція нагороди | | Де працює | Теорія прийняття рішень | Формування характеру | RL-агенти, оптимізація | | Мін. вимоги | Знання етики | Знання етики | RL-framework | | Ключова різниця | Фокус на правилах | Фокус на добродетелях | Фокус на результатах |