Візуальний аналіз впливу галузі безпеки ШІ

TL;DR

• •Проаналізовано 3 466 робіт з галузі безпеки ШІ
• •Навчання на згодність та масштабований нагляд мають високу цитуваність
• •Адверсарійна стійкість та інтерпретованість мають більше статей, але нижчу цитуваність на папер
• •Дані взяті з публікацій на LessWrong
• •Аналіз не включає оцінку практичного впливу методів

Як це змінить ваш ринок?

Цей аналіз не змінює ринок безпосередньо: він не пропонує нових інструментів або змін у регулюванні. Він може вплинути на стратегію компаній, які інвестують в дослідження безпеки ШІ, показуючи, де концентрується академічна увага. Однак для більшості бізнесів це не змінює підхід до впровадження AI, оскільки не дає конкретних рекомендацій щодо вибору методів безпеки.

Визначення: AI safety — галузь досліджень, що фокусується на забезпеченні того, що штучний інтелект діятиме безпечно і відповідно до людських цінностей.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Не застосовується: це чисте дослідження без готового продукту, інструменту або рекомендації для впровадження. Немає мін. обладнання, бюджету або команди, оскільки нічого не потрібно впроваджувати.

Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.

| | Не застосовується | Не застосовується | Не застосовується | | Ціна | Не застосовується | Не застосовується | Не застосовується | | Де працює | Не застосовується | Не застосовується | Не застосовується | | Мін. вимоги | Не застосовується | Не застосовується | Не застосовується | | Ключова різниця | Не застосовується | Не zastosovuyetsya | Не zastosovuyetsya |