Компанія Anthropic заявила про успішне виявлення та припинення спроб використання своїх ШІ-моделей Claude у кібершпигунських операціях проти українських державних, військових та дипломатичних установ. Згідно зі звітом компанії, на який посилається Reuters, ця діяльність, ймовірно, пов’язана з Росією.
За спостереженнями фахівців Anthropic, хакерські угруповання переходять від використання чат-ботів для поодиноких запитів до впровадження складних багатоагентних систем. Такі технології дозволяють виконувати значні обсяги завдань з мінімальним втручанням людини.
Виявлена група зловмисників застосовувала Claude на різних етапах атак, зокрема для проведення фішингових кампаній, спроб зламу готельних Wi-Fi-мереж та захоплення облікових записів у WhatsApp. Методи роботи цієї групи мають ознаки, притаманні російському угрупованню Midnight Blizzard, яке уряд США пов’язує зі Службою зовнішньої розвідки РФ.
Одним із ключових аспектів використання ШІ стало автоматизоване обходження систем захисту. Зловмисники розробили механізм, який відстежував виявлення шкідливого ПЗ антивірусними системами та автоматично модифікував код програми до моменту, поки вона не ставала непомітною для захисту.
Крім того, Anthropic заблокувала активність, пов’язану з кіберзлочинним угрупованням ShinyHunters, яке відоме своїми атаками на великі міжнародні компанії. Ці випадки підтверджують еволюцію ролі штучного інтелекту в кіберзлочинності: від допоміжного інструменту до технології, здатної автоматизувати складні атаки. Раніше стало відомо, що Міністерство оборони США інтегрувало моделі ChatGPT Mil та Grok for Government у свою платформу GenAI.mil.