Безпечник Anthropic каже, що ймовірність того, що ШІ може вбити всіх людей — понад 10%

TL;DR

• •Дослідник безпеки Anthropic оцінює ймовірність винищення людства через ШІ понад 10% до 2030 року
• •Повідомлення nastupло через години після відстій колеги, який звинувачив компанію у безтурботній гонці за надлюдним ШІ
• •Це частина зростаючого внутрішнього опору у провідних ШІ лабораторіях щодо практик безпеки
• •Ризик спрямований не на конкретну технологію, а на відсутність контролю над самовдосконалюючими системами
• •Для бізнесу це сигнал переглянути залежність від ШІ постачальників у контексті майбутньої регуляції

Як це змінить ваш ринок?

Для секторів, що сильно залежать від зовнішніх ШІ API (маркетинг, фінанси, медиа), ця новина сигналізує про зростаючу ймовірність регуляторних обмежень на використання великих мовних моделей. Це може призвести до вимог обов’язкового аудиту безпеки, обмежень на розгортання або навіть тимчасових зупинок на використання определенних моделей. Компанії, які вже тепер почать оцінювати ризики своєї залежності від одного постачальника, будуть краще підготовлені до потенційних змін у доступі до ШІ інструментів.

> Визначення:

Екзистенційний ризик ШІ — це гіпотетична загроза, що штучний інтелект може спричинити непопередній шкоду людству в масштабі винищення або постійної деградації цивілізації.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

• •Лідерство: нема потрібного спецобладнання, потрібен доступ до звітів про безпеку ШІ постачальників, 1 година на аналіз ризиків
• •IT-отділ: потрібен доступ до документації по використанню ШІ API, 2 години на інвентаризацію залежностей
• •Масштаб: актуально для компаній з 10+ працівників, які використовують комерційні ШІ API у своїх процесах

Альтернативи

| | Постачальник A (Anthropic) | Постачальник B (OpenAI) | Відкриті моделі | | Ціна | $0.015/750 слів | $0.03/1K токенів | Безкоштовно (вłasний хостинг) | Де працює | API, хмара | API, хмара | Локально, хмара | Мін. вимоги | Інтернет-з’єднання | Інтернет-з’єднання | GPU 16GB+ для 7B моделей | Ключова різниця | Акцент на безпеку | Швидкість інновацій | Повний контроль, вимагає експертизи