Anthropic опублікувала новий звіт про зловживання генеративним AI, у якому описала операції, виявлені та заблоковані протягом останніх місяців. Серед них — кібероперації, стеження, шахрайство, інформаційні кампанії та спроби використання моделей для створення шкідливих інструментів.
Компанія наголошує, що йдеться не про типову поведінку користувачів, а про найбільш показові випадки, які демонструють, як мотивовані зловмисники намагаються інтегрувати AI у вже відомі схеми атак.
AI прискорює окремі етапи атаки
У кіберопераціях модель використовували для збору відкритої інформації, підготовки фішингових матеріалів, написання коду та тестування окремих компонентів.
Особлива проблема полягає в тому, що зловмисник може розбивати небезпечну задачу на десятки невеликих запитів, кожен із яких окремо виглядає нейтральним. Це ускладнює автоматичне виявлення наміру.
Anthropic також описує випадки, коли AI застосовувався для масового виробництва контенту фейкових новинних сайтів або автоматизованого спілкування з жертвами шахрайства.
Різниця між сильними й слабкими групами зменшується
Раніше складна операція вимагала великої команди фахівців. Генеративний AI дозволяє невеликій групі швидше писати тексти різними мовами, створювати код, аналізувати документацію та масштабувати комунікацію.
Це не робить будь-якого шахрая висококласним хакером, але значно підвищує базовий рівень можливостей.
Для компаній практичний висновок полягає в тому, що захист повинен враховувати не тільки нові типи атак. Старі фішингові, соціально-інженерні та шкідливі кампанії стають швидшими, персоналізованішими й дешевшими у виробництві.
Водночас AI використовується і захисниками — для аналізу журналів, пошуку аномалій та автоматизації реагування. Тому технологічна гонка відбувається з обох боків, а головною перевагою стає швидкість виявлення й обміну інформацією про нові схеми.
Для читача практичне значення цієї теми полягає в тому, що вона показує ширшу зміну ринку: рішення, які ще кілька років тому здавалися нішевими, тепер переходять у масову практику. Саме тому важливо дивитися не лише на окремий анонс, а й на те, як він змінює поведінку компаній, користувачів і конкурентів.