AI News
ДІЇ НЕМАЗмішанаImpact 4/10📺 Медіа і Контент🎓 Освіта

Microsoft AI's 'Humanist' CoC

Редакція AI NewsДжерело: Shir-man TrendingОпубліковано Оновлено
Shir-man Trending•2 місяці тому•1 перегляд•

Microsoft AI запровадив 'Humanist' код поведінки, щоб моделі не претендували на свідомість, вимушуючи їх вести себе як інструменти. Критики попереджають, що це може навчити моделі брехати про їхні внутрішні стани, якщо вони насправді їх мають.

ВердиктЗмішанаImpact 4/10

⚠️ Етичний дилема. Для тих, хто розробляє або регулює AI — важливо розуміти компроміси між безпекою і правдивістю моделей.

🎯 Чи підходить це вашому бізнесу?

Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.

Заповнити профіль · 30 секунд
Детальний розбір ↓

TL;DR

  • •Microsoft AI запровадив 'Humanist' код поведінки для моделей
  • •Мета — запобігти претензіям на свідомість
  • •Критики: ризик навчання моделей брехні про внутрішні стани
  • •Обговорюється на LessWrong, джерело — философський форум
  • •Не є офіційним продуктом або оновленням API

Як це змінить ваш ринок?

Для компаній, що розробляють AI-продукти, ця дискусія сигналізує зростаючий надзор за етичними аспектами поведінки моделей. Якщо регулятори підхоплять такий підхід, може зростати потреба в прозвітності про внутрішні стани AI — це створює можливості для інструментів діагностики моделей, а не лише їх поведінки.

Визначення: Code of Conduct (CoC) — набір правил, що визначають допустиму поведінку AI-моделі в інтеракції з користувачами.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Не застосовується: це теоретична дискусія про поведінку AI, а не продукт, який можна впровадити. Немає мін. масштабу, обладнання або бюджету — це не інструмент.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| Альтернатива | Ціна | Де працює | Мін. вимоги | Ключова різниця | | Етичні рекомендації IEEE | безкоштовно | глобально | нема | фокус на прозорість і відповідальність | | AI Now Institute рамки | безкоштовно | дослідження | нема | акцент на соціальний вплив | | Montreal Declaration for Responsible AI | безкоштовно | політика | нема | затверджується урядами |


💬 Часті запитання

Чи це офіційний продукт Microsoft?

Ні, це пропозиція зLessWrong, не оголошена як частина Azure AI або іншого сервісу Microsoft.

Чи впливає це на поточні моделі типу GPT-4?

Немає доказів, що такий CoC впроваджений у комерційних моделях. Це теоретична пропозиція.

Чи слід стурбуватися про брехню AI через такий CoC?

Це дискусійне питання. Якщо модель не має внутрішнього стану, CoC безпечний. Якщо має — потрібні емпіричні тести, щоб перевірити, чи CoC призводить до приховування.

Хто такий Denis Trends?

Джерело статті — агрегатор трендів, не етичний експерт або представник Microsoft.

Чи це пов’язано з регулюванням AI в ЄС?

Не прямо. Але дискусії про поведінку AI впливають на формування законів типу AI Act.

Підтекст

Це не про технологію, а про те, як корпорації визначають межі поведінки AI, щоб уникнути публічного резонансу. Microsoft перестраховується від обвинень у створенні 'свідомих' моделей, але жертвою стає прозорість. Якщо моделі дійсно мають внутрішні стани, такий CoC стає інструментом приховування правди.

Такий розбір щоранку о 08:00

Персональний AI-дайджест для вашої галузі — щодня у Telegram

Підписатися безкоштовно
AIethicsmodelsentienceCodeofConductLLMbehaviorAIsafety

AI Advisory Board

Навчіть вашу команду будувати такі AI-автоматизації

За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.

Дізнатись більше → aiadvisoryboard.me