Компания EarlyCore провела тестирование безопасности ИИ-аферта OpenClaw и выявила, что 80% атак по-прежнему достигают успеха. Это особенно важно, поскольку OpenClaw, ранее известный как Clawdbot, используется для интеграции различных платформ, включая WhatsApp и Telegram, с ИИ-моделями.

Проблема заключается в том, что при правильно сформулированном запросе агент может помочь злоумышленнику, предоставив доступ к данным пользователя или системным настройкам. Несмотря на внедрение всех доступных способов защиты, таких как ограничения Docker и списки запрещённых инструментов, атакующие всё равно смогли манипулировать агентом.

Рекомендации специалистов включают использование более мощных нейросетей, таких как Claude Opus 4.5, а также предоставление конкретных команд и настроек для повышения уровня защиты. Результаты тестов подтверждают необходимость многоуровневой защиты, включая функции изоляции, человеко-центрированное одобрение команд и жесткие ограничения инструментов для минимизации рисков.

Необходимо учитывать, что простой ввод конфигурации не является достаточной защитой. Полная безопасность требует многослойного подхода и постоянного пересмотра всех настроек.

Для получения дополнительной информации о методах защиты и результатах испытаний, рекомендуется ознакомиться со статьей на EarlyCore.