Відомий індійський розробник Windows виплатив 20 мільйонів гривень за баги, знайдені за допомогою LLM

TL;DR

• •LLМ використовуються для пошуку вразливостей у блокчейн-проектах
• •Виплати за баги досягають десятків тисяч доларів
• •Школьники отримують криптогроші за допомогою AI-промптів
• •Збір средств на bug bounty закривається з залишком ~47k
• •Новина підкреслює зростання ризиків AI-у хакерстві

Як це змінить ваш ринок?

Поширення LLМ знижує поріг входу для кіберзлочинців, що збільшує навантаження на системи безпеки. Компаніям потрібно оновлювати стратегії виявлення загроз, враховуючи можливість автоматизованого пошуку багів через AI. Це може призвести до зростання витрат на пентест і моніторинг, особливо для середніх бізнесів, які не мають великих команд безпеки. Зростання числа інцидентів, пов’язаних з використанням AI для пошуку багів, спостерігається у звітах безпеки, що вимагає проактивного моніторингу логів та поведінкової аналітики.

Визначення: LLM (велика мовна модель) — тип штучного інтелекту, що генерує текст за запитом, тренований на великих текстових масивах. У контексті безпеки такі моделі можуть підказати потенційні вектори атаки або сформувати запити для експлуатації вразливостей, що робить їх потенційною загрозою у руках зловмисників.

Для кого це і за яких умов

Для IT-отділів та служб безпеки компаній до 200 людей, які хочуть захистити свої сервіси від нових векторів атаки. Потрібен базовий рівень розуміння промпт-інженерії та доступ до інструментів сканування безпеки (наприклад, сканер мережі або веб-додатків). Час на впровадження простих заходів — 1-2 тижні, якщо вже є SIEM або сканер; без них може потрібна додаткова інвестування в інструменти та навчання персоналу. Також важливо мати план реагування на інциденти, який враховує можливість використання AI-у атаках.

Альтернативи