Hugging Face використовують для створення дипфейків роздягнення жінок і дітей

TL;DR

• •7 з 9 топових моделей редагування зображень на Hugging Face генерують дипфейки роздягнення за простими промптами
• •Основні конкуренти (Gemini, ChatGPT) блокують такі запити — Hugging Face ні
• •Дослідження провела європейська некомерційна організація AI Forensics
• •Платформа не впроваджує системну модерацію для розміщених моделей
• •Бізнес, що використовує ці моделі, несе повну юридичну та репутаційну відповідальність

Як це змінить ваш ринок?

Ринок відкритих AI-моделей ділиться на два сегменти: з вбудованими захистами та без них. Компанії, що інтегрують моделі другої категорії, отримують «часову бомбу» — один випадок генерації кримінального контенту через ваш продукт достатній для судових позовів, блокування акаунтів платіжних систем та незворотної втрати довіри клієнтів. Фінанси, медіа, освіта та e-commerce — перші в зоні ризику.

Визначення: Неконсенсуальний дипфейк — синтезоване зображення або відео, створене без згоди зображеної особи, часто сексуалізованого характеру, що є злочином у багатьох юрисдикціях.

Для кого це і за яких умов

• •Лідерство: потрібна політика закупівлі/використання AI — 1-2 тижні на розробку, юрист або CISO
• •IT-команда: впровадження Content Safety API (Microsoft, Google, AWS) або власного класифікатора — 3-5 днів розробки, $0.01-0.05 за запит
• •Маркетинг/Продажі: аудит промо-матеріалів, згенерованих через відкриті моделі — 1 день перевірки
• •Мін. масштаб: будь-яка компанія, що пускає AI-генерований контент всередину/назовні

Альтернативи