Команда OpenAI представила архитектуру GPT-3 — авторегрессионную языковую модель со 175 миллиардами параметров, что на порядок превышает масштаб предыдущих неразреженных систем. Исследование показывает, что кратное увеличение параметров существенно улучшает способность модели к обучению на нескольких примерах (few-shot learning). Система решает новые задачи без обновления градиентов или предварительной тонкой настройки, получая инструкции исключительно через текстовый интерфейс, что означает отказ от ручного формирования специфичных датасетов под каждую задачу.

При тестировании GPT-3 продемонстрировала адаптацию к запросам на лету, выполняя машинный перевод, отвечая на вопросы и решая примеры с трехзначной арифметикой. В результате генерации текстов модель смогла создавать новостные заметки, которые независимые оценщики с трудом отличали от материалов профессиональных авторов. При этом разработчики зафиксировали структурные ограничения архитектуры и методологические искажения, напрямую связанные с неконтролируемым обучением на широких веб-корпусах.

Разработка и поддержка таких языковых моделей требует соразмерного увеличения вычислительных бюджетов, что напрямую определяет финансовую стратегию ИИ-лабораторий. На фоне алгоритмических исследований появилась информация о подготовке OpenAI к подаче закрытой заявки на IPO до конца текущего года с возможным выходом на биржу осенью. Этот шаг направлен на привлечение внешнего капитала для конкуренции с Anthropic, в то время как другие проекты, включая структуру SpaceXAI, уже подали форму S-1 для собственного размещения, фиксируя окончательный переход фундаментальных ИИ-исследований в фазу капиталоемкой индустрии.