Создатели бенчмарка ProgramBench опубликовали обновленные результаты тестирования языковых моделей с максимальными параметрами рассуждения. В список проверяемых систем вошли GPT 5.5 и Claude Opus 4.7 в режимах high и xhigh, что предполагает увеличенное время работы и расширенный лимит на выполнение операций для генерации кода.
Бенчмарк оценивает способность нейросетей воссоздавать программы с нуля, и в ходе последнего прогона был зафиксирован первый случай полного решения задачи. При написании терминальной утилиты cmatrix на языке C модель GPT 5.5 в конфигурации xhigh успешно прошла 100% поведенческих тестов, потребовав для этого 40 обращений к API при затратах в $4.84.
Сравнение метрик демонстрирует заметный разрыв в эффективности между флагманскими архитектурами. Как следует из отчета авторов исследования, GPT 5.5 xhigh превосходит Claude Opus 4.7 xhigh по всем ключевым параметрам, при этом модель от Anthropic достигла на аналогичной задаче результата в 96.3%, израсходовав существенно больше ресурсов, что выразилось в 178 запросах общей стоимостью $10.74.
Поделиться:
Прогрев кеша в Claude API для снижения задержки первого токена (TTFT) →
Эссе Маттиаса Отта о разделении дизайна и разработки как устаревшем индустриальном наследии →