Команда Threat Intelligence компанії Anthropic опублікувала звіт про безпеку, де розкрила схему використання моделі Claude для шахрайства. Зловмисники запустили понад 20 фальшивих дейтинг-платформ, де боти імітували реальних людей, щоб виманювати гроші у користувачів.
Масштаби заливу та структура схеми
Операція виявилася розгалуженою. За даними розслідування, мережа включала більше ніж 4 700 автоматизованих персонажів, які спілкувалися з реальними юзерами.
За короткий проміжок часу боти згенерували близько 2,36 мільйона повідомлень.
Жертвами романтичного скаму стали понад 25 000 осіб по всьому світу.
Щоб максимізувати профіт, організатори поєднували штучний інтелект з живими операторами (гіг-воркерами), які підключалися на фінальних етапах для переконання користувачів купити платні пакети повідомлень чи підписки.
Як працювали захисні механізми
Anthropic виявила цю мережу не через читання приватних чатів, а завдяки поведінковому аналізу. Алгоритми безпеки зафіксували підозрілі кластери акаунтів, збіги за часовими поясами, використання однакових проксі-серверів, віртуальних карток та вкрадених API-ключів.
Після виявлення аномальних сплесків трафіку компанія заблокувала залучені облікові записи та передала індикатори компрометації партнерам по індустрії. Подібні кейси показують, як дейтинг-скам адаптує генеративний ШІ для масштабування чорних вертикалей, змушуючи антифрод-системи та рекламні мережі жорсткіше перевіряти оффери та джерела трафіку.
🖋 UAFF — будь в курсі арбітражних інсайтів