Вчений Anthropic попереджає, що ризик зникнення людства від AI перевищує 10% протягом цього десятиріччя
Бивший дослідник Anthropic Якоб Коксон звинувачує OpenAI та Anthropic у свідомому ризику винищення людства, посилаючись на оцінку колеги Евана Хубінгера про понад 10% ймовірність зникнення людства через неправильно спрямований суперінтелектуальний AI протягом десятиріччя.
⚠️ Ризик реальний. Для лідерів та IT-команд: це сигнал починати планувати заходи безпеки AI вже сьогодні, а не завтра.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Еван Хубінгер з Anthropic оцінює ймовірність зникнення людства через AI у понад 10% протягом десятиріччя
- •Якоб Коксон, колишній дослідник OpenAI та Anthropic, звинувачує компанії у свідомому ризику винищення людства
- •Мова йде про неправильно спрямований суперінтелектуальний AI як existenційну загрозу
- •Оцінка базується на внутрішніх дослідженнях лідерів галузі AI
- •Це сигнал для лідерів biznesу починати планувати заходи безпеки AI
Як це змінить ваш ринок?
Для секторів, де AI вже використовується у критичних процесах (фінанси, медична diagnostika, інфраструктура), ця новина підвищує терміновість впровадження рамок безпеки AI. Компанії, які проігнорують ризик, можуть стикнутися з регуляторними санкціями або втратою довіри клієнтів у випадку інцидентів. Це створює попит на консуль팅 та інструменти з моніторингу поведінки моделей.
Визначення:
Суперінтелектуальний AI — штучний інтелект, який перевершує людський розум у всіх галузях, включаючи наукову творчість, соціальні навички та стратегічне планування.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
- •Лідерство: потрібна доступність до звітів про безпеку AI-провайдерів, 1-2 години на аналіз ризиків, без спеціальної команди
- •IT-отдiл: доступ до документації поточно використовуваних AI-моделей, 4-8 godzin на перевірку механізмів контролю, можливо потрібен спеціаліст з безпеки AI
- •Мін. масштаб: актуально для компаній з 10+ працівниками, які використовують AI у операційній діяльності
Альтернативи
| Anthropic Claude | OpenAI GPT-4o | Локальна модель Llama 3 | |
|---|---|---|---|
| Ціна | $0.008/1K токенів (вхід), $0.024/1K (вихід) | $0.005/1K токенів (вхід), $0.015/1K (вихід) | Безкоштовно (опенсорс) |
| Де працює | API Anthropic, Amazon Bedrock | API OpenAI, Microsoft Azure | Локально, через Hugging Face, Ollama |
| Мін. вимоги | Інтернет-з’єднання | Інтернет-з’єднання | GPU 16GB+ для Llama 3 70B, або CPU для менших версій |
| Ключова різниця | Акцент на конституційну AI та безпеку | Широка доступність та інтеграція | Повна контроль над даними та моделлю, без зовнішніх ризиків |
💬 Часті запитання
Чи означає це, що потрібно припиняти використовувати AI?
Ні, це означає, що потрібно використовувати AI більш обережно, зрозумівши ризики та впроваджуючи відповідні заходи контролю, такі як моніторинг виходів, обмеження доступу та регулярний аудит.
Як малий бізнес може оцінити ризик без великих витрат?
Почніть з читання публічних звітів про безпеку від ваших AI-провайдерів та обговорення з технічною командою, які моделі ви використовуєте та чи є у них вбудовані механізми зменшення ризиків.
Чи є вже готові рамки для управління ризиком AI?
Так, існують стандарти, такі як NIST AI RMF та ISO/IEC 42001, які допомагають організаціям створювати системи керування ризиками AI, хоча їх впровадження вимагає часу та ресурсів.
Підтекст
Це не абстрактна дискусія — це попередження від внутрішніх дослідників лідерів галузі. Якщо Anthropic та OpenAI самі б’ють тревогу, це означає, що ризик виходить за межі теорії і стає практичною проблемою для керування.
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
The Decoder — оригіналAI Advisory Board
Навчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiadvisoryboard.me