Screwtape: Адверсарійне редагування транскриптів для червоної команди моніторингу
Screwtape редагує реальні транскрипти агентів, щоб створювати реалистичні атаки, які обходять монітори дій. Це показало ефективність у 252 спробах проти внутрішніх та frontier-моніторів.
🔬 Цікаво, але не для вас. Це дослідження про обхід AI-моніторів — без готового інструменту, API або способа впровадження для компаній на 10-50 людей.
🎯 Чи підходить це вашому бізнесу?
Заповніть профіль компанії — і ми автоматично покажемо, чи варто вам це впроваджувати.
Заповнити профіль · 30 секундTL;DR
- •Screwtape — це пайплайн для редагування транскриптів агентів, щоб створювати атаки, що обходять AI-монітори
- •В тестах обійшов 252 спроби проти внутрішніх та frontier-моніторів розробників
- •Метод фокусується на редагуванні тексту, а не на зміні дій агента
- •Розроблено як інструмент для red-teaming AI-систем безпеки
- •Не містить готового коду, API або інструкцій для комерційного використання
Як це змінить ваш ринок?
Для кибербезпеки в AI це сигналізує, що монітори, що аналізують лише дії агента, недостатні — потрібен семантичний аналіз транскриптів. Це може підштовхнути вендорів до покращення систем виявлення зловмисного поведінки в LLM-агентах.
Визначення:
Monitor red-teaming — це практика тестування AI-систем безпеки шляхом створення адверсаріальних вхідних даних, які мають обійти системи виявлення зловмисного поведінки, не змінюючи фактичні дії агента.
Для кого це і за яких умов (ОБОВ'ЯЗКОВО: мін. обладнання/бюджет, потрібна команда чи ні, мін. масштаб, час на впровадження.
Не застосовується — це чисте дослідження без готового продукту. Для реалізації потрібна команда ML-інженерів, доступ до логів агентів таmonths розробки.
Альтернативи (ТАБЛИЦЯ: | | Продукт 1 | Продукт 2 | Продукт 3 | з колонками: Ціна, Де працює, Мін. вимоги, Ключова різниця.
| | PromptGuard | Nemotron 3 Super | NVIDIA NeMo Guardrails | | Ціна | $0.002/1K токенів | дані не розкриті | безкоштовно (open source) | | Де працює | хмарний API | локально/хмара | локально/хмара | | Мін. вимоги | інтернет-з’єднання | GPU 24GB+ | Python-середовище | | Ключова різниця | блокує промпти-ін’єкції | загальна безпека LLM | фокус на rails для діалогових систем |
💬 Часті запитання
Такий розбір щоранку о 08:00
Персональний AI-дайджест для вашої галузі — щодня у Telegram
Джерела
Shir-man Trending — оригіналНавчіть вашу команду будувати такі AI-автоматизації
За 5 днів кожен співробітник побудує автоматизацію для своєї ділянки роботи.
Дізнатись більше → aiupskill.live