Дослідники тепер можуть зворотньо інженеріювати промпти LLM з вихідного тексту з близькою до ідеальної точністю

TL;DR

• •Метод Previous-Token Prediction відновлює промпти LLM з вихідного тексту з точністю понад 90%.
• •Не потребує доступу до ваг моделі і працює між різними архітектурами LLM.
• •Публікація дослідження: 12 серпня 2026 року, autori з IIT Bombay та Adobe Research.
• •Техніка створює потенційну загрозу для конфіденційності системних промптів у корпоративних AI-системах.
• •Захист може вимагати додаткової фільтрації виходу або шифрування промптів.

Як це змінить ваш ринок?

Поява здатності відновлювати промпти з виходу LLM ставить під питання конфіденційність системних інструкцій, які компанії використовують для налаштування поведінки моделей. Якщо промпт може бути викрадено, конкуренти або зловмисники можуть отримати доступ до власної логіки бізнес-процесів, що призводить до втрати конкурентних переваг та потенційних фінансових втрат. Тому компанії повинні переглянути свої стратегії безпеки AI та розглянути технічні заходи, такі як фільтрація виходу або шифрування промптів, щоб зменшити ризик.

Визначення: Previous-Token Prediction — техніка, яка за допомогою статистичного моделювання попередніх токенів відновлює оригінальний промпт, що вивів LLM, без доступу до ваг або архітектури моделі.

Для кого це і за яких умов

Для будь-якої компанії, що використовує API LLM у своїх продуктах або внутрішніх процесах, достатньо мати доступ до логів виходу та базові навички аналізу даних. Додатковий бюджет не потрібен для первинної оцінки ризику — достатньо провести тест на вихідних даних. Якщо вирішено впроваджувати захист, рекомендується виділити до $500/міс на сервіси фільтрації виходу або шифрування промптів, а також призначити одного фахівця з безпеки на 0,2 FTE для моніторингу та налаштування правил.

Альтернативи