Разработчик Влад Файнберг, отвечающий за pretraining модели Gemini в Google DeepMind, опубликовал анализ стратегий трудоустройства в ведущие AI-лаборатории. Конкуренция за позиции в компаниях уровня OpenAI или Anthropic формируется за счет кандидатов с сильной математической базой и опытом решения нестандартных задач, что требует фундаментальной академической подготовки. При этом прямое обучение больших языковых моделей недоступно большинству независимых исследователей из-за нехватки вычислительных ресурсов, что усложняет получение релевантного опыта.

Выходом из этой ситуации становится работа на границах стека LLM — в областях, которые критически важны для бизнеса, но не требуют запуска масштабных тренировочных кластеров. Основной точкой входа Файнберг называет низкоуровневую оптимизацию вычислений, или разработку kernels (ядер) для аппаратных ускорителей. Любые абстрактные логические изменения в архитектуре нейросетей не имеют практического смысла без эффективного кода, способного быстро исполняться на GPU или TPU.

Оптимизация на уровне аппаратного обеспечения остается зоной, где современные кодинг-агенты пока не могут полностью заменить инженера. Профилирование производительности требует системного и латерального мышления, а также точного понимания физических ограничений оборудования, будь то пропускная способность памяти, ограничения FLOPs или задержки коммуникации между узлами. Развитие навыков в этой нише происходит через самостоятельное ускорение медленных опенсорсных моделей, что дает немедленную объективную метрику успеха и формирует компетенции, дефицит которых испытывает вся индустрия.