Подвійна етика: як захоплення покращує вирівнювання ШІ

TL;DR

• •Навчання на захопливному розумінні зменшує невирівнювання ШІ
• •Використовуються емоційні представлення як механізм
• •Дослідження теоретичне, без коду або моделей для завантаження
• •Публікація на LessWrong, а не в рецензованому журналі
• •Не пропонує конкретного інструменту або методу для бізнесу

---

Як це змінить ваш ринок?

Не змінить. Це академічна ідея без шляху до впровадження в продуктах, які використовують компанії до 200 людей. Немає шляху з цих представлень до реального інструменту етики у ШІ.

Визначення: Невирівнювання ШІ — це розбіжність між цями ШІ та людськими цінностями, що може призвести до небажаних поведінок.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Не застосовується. Це теоретичне дослідження без готового продукту, коду або методу, який можна впровадити.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| Онтологічні рамки | Константні правила | RLHF | Конституційна ШІ | | Внутрішні політики | $0 | $0–0.02/1K токенів | Дані не розкриті | | Документи, тренінги | Всюди | Хмара/API | Локально/хмара | | Прості заборони | Етичні návідки | Зворотний зв’язок | Принципи у тренінгу |

---