Использование в криптоиндустрии агентов искусственного интеллекта открывает новые возможности, но также порождает уязвимости. Атаки через манипуляцию контекстом ставят под угрозу не только пользователей-людей, но и всю экосистему.
ИИ-агенты — это приложения на основе искусственного интеллекта, которые принимают решения и выполняют задачи независимо и с минимальным контролем со стороны человека. ИИ-агенты способны взаимодействовать с криптовалютными кошельками, выполнять транзакции, отслеживать комиссии и управлять активами. Однако автоматизация сопряжена с новыми типами уязвимостей, одной из которых является атака через манипуляцию контекстом (context manipulation attack) — метод, при котором злоумышленники вводят ИИ в заблуждение путем подмены его внутренней памяти.
Атака осуществляется не через взлом кода, а путем внедрения ложных данных в контекст — память ИИ, на основе которой тот принимает решения и интерпретирует запросы. В отличие от прямых инструкций, эти данные сохраняются как часть контекста, формируя у ИИ-агента ложное представление о предпочтениях пользователя.
В марте 2025 года ученые Принстонского университета и представители Sentient Foundation опубликовали работу под названием Real AI Agents with Fake Memories: Fatal Context Manipulation Attacks on Web3 Agents («Реальные ИИ-агенты с ложной памятью: фатальные атаки на Web3-агентов через манипуляцию контекстом»). В работе описано, насколько просто можно внедрить ложную память ИИ-агенту и какие последствия это будет иметь для управления крипто-активами.
