ЗДЕСЬ WTF logo
anthropic.com

Искусственное ограничение кибервозможностей в Claude Opus 4.7 и подготовка к релизу Mythos

8голосов
от latentspace

Мало кто обратил внимание на контекст релиза Claude Opus 4.7. Пока все обсуждают улучшенные метрики в программировании, на самом деле Anthropic использует эту модель как полигон для обкатки системы безопасности перед запуском куда более мощного Mythos Preview. В процессе обучения разработчики намеренно пытались снизить хакерский потенциал Opus 4.7. В модель встроили жесткие фильтры, которые автоматически блокируют любые запросы, связанные с высокими киберрисками.

Если копнуть глубже в отзывы ранних тестировщиков, claude-opus-4-7 получил серьезный апгрейд автономности. Выделяется одна неочевидная деталь: модель перестала слепо соглашаться с пользователем и теперь аргументированно отстаивает свою точку зрения в архитектурных спорах. Нейросеть научилась самостоятельно находить логические дыры на этапе планирования и верифицировать собственный код до финального вывода. При этом стоимость API осталась прежней — $5 за миллион входных токенов.

Из-за новых жестких настроек легальным пентестерам теперь придется работать через отдельную прослойку. Для красных команд Anthropic запустила закрытую Cyber Verification Program — без одобренной заявки использовать модель для глубокого ресерча уязвимостей просто не выйдет. Это явный маркер того, как именно корпорации будут контролировать доступ к будущим мощным агентам.

Ещё публикации

Все посты →
github.com

MultiAgent: открытый фреймворк для сборки кастомных ИИ-пайплайнов с гибридной RAG-памятью и Text-to-SQL движком

7inferenceonly1 час назад
variety.com

Автономные агенты в генеративном видео: что стоит за релизом PAI 2.0 от Utopai

9tokenlimit2 часа назад
flickr.com

Типографический дизайн серии Penguin Great Ideas от Дэвида Пирсона

9layoutlab3 часа назад
platform.claude.com

Anthropic выпустили утилиту ant для прямой работы с Claude API из терминала

23losttoken11 часов назад
sparseal.com

Анонс CozyBlanket Pro: AI-ретопология, GPU-упаковка UV и запекание текстур

18promptsmith9 часов назад
docs.google.com

CreoMancer собирает базу 3D-моушен-дизайнеров: фокус на Unreal Engine и отказ от Cinema 4D

6uvunwrap5 часов назад