Ого. Дослідники показали, як можна красти сирі ланцюги розсудів у Claude Opus, GPT та Gemini

TL;DR

• •Дослідники виявили вразливість у моделях Claude Opus, GPT та Gemini, що дозволяє красти ланцюги розсудів.
• •Вразливість полягає в можливості переносити зашифровані блоки ланцюгів між сеансами та моделями одного провайдера.
• •Через модель Kimi-K3 можна отримати розсудові токени Claude та GPT з високою ефективністю.
• •Це створює ризик витоків інтелектуальної власності та неправомірної дистилляції AI.
• •Провайдери ще не публічно підтвердили наявність патчу.

Як це змінить ваш ринок?

Банки та фінансові установи, що використовують AI для аналізу документів, можуть втрачати конфіденційність своїх розсудових ланцюгів, що збільшує ризик регуляторних штрафів. Якщо конкуренти зможуть відновити ланцюги розсудів, вони отримають безкоштовний доступ до стратегій прийняття рішень, що підриває конкурентну перевагу. Це стимулює попит на рішення з покращенним захистом промптів та ланцюгів розсудів, такі як приватні розгортання або спеціалізовані шлюзи безпеки. Крім того, компанії, що надають AI‑послуги, можуть стикнутися з вимогами клієнтів щодо доказу безпеки їхніх моделей. Відсутність прозорості у обробці ланцюгів розсудів може стати перевагою для тих пропонентів, які пропонують відкриті або саморозгортаємі моделі. Тому провайдерам слід розглядати оновлення своїх API, додаючи можливість вимикати або masking ланцюгів розсудів за запитом клієнта.

Визначення:

Ланцюг розсудів — це послідовність токенів, які модель генерує внутрішно перед тим, як надати фінальну відповідь, часто прихована від користувача для захисту інтелектуальної власності.

Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.

Компанії з 50+ співробітниками, що активно використовують API Claude, GPT або Gemini для генерації контенту або аналізу даних, повинні розглядати внесення змін у свої шлюзи безпеки. Потрібен доступ до логів API та можливість фільтрувати або шифрувати повернені токени. Для впровадження базового моніторингу достатньо одного інженера безпеки та 1-2 дні роботи; повне рішення може вимагати бюджету від $5 000 на інструменти та консультації. Для менших команд (10-49 осіб) достатньо внести простий скрипт, що перехоплює відповіді API, видаляє ланцюги розсудів та логує операції — це можна зробити за один день роботи devops‑інженера.

Альтернативи