Инженер инференса / AI-платформы¶
English · Русский · AI Interview Atlas › Профессии в AI
AI-инженерия / AI-лидерство · Роли: Инженер инференса и производительности, Инженер AI-платформы / MLOps, Руководитель AI-платформы
Отвечает за производительность AI-вычислений и общих сервисов: узкие места, проверенные оптимизации и телеметрия.
На этой странице: Чем занимается роль · Как проходит собеседование (4) · Вопросы (19) · Подготовка
Чем занимается роль¶
Эта группа обеспечивает AI-вычисления и общие сервисы при ограничениях производительности и эксплуатации. Performance Engineer, Inference Systems в Anthropic исследует разные уровни serving-системы, пропускную способность и задержку, проверяет корректность результатов на разных устройствах и конфигурациях. Роль взаимодействует с владельцами компонентов, а не владеет каждым из них. Пример OpenAI добавляет общую инфраструктуру исполнения агентов и выпуска изменений.
Источники: Performance Engineer, Inference Systems, Anthropic, проверено 2026-09-29 · Software Engineer, Codex Core Agents, OpenAI, проверено 2026-09-29
Результаты и навыки: найденное узкое место, проверенная оптимизация, полезная телеметрия и надёжные общие интерфейсы. Важны профилирование, количественный анализ и распределённые системы. Разработка ядер ускорителей — отдельная специализация; её нельзя автоматически приписывать любой платформенной вакансии. При чтении обязанностей различайте производительность исполнения модели и оркестрацию приложения.
Как проходит собеседование¶
Этапы, о которых источники сообщают для этих ролей, со страниц компаний. Метки показывают основание; процессы собеседований меняются, поэтому смотрите даты.
| Компания | Этап | Что происходит | Основание |
|---|---|---|---|
| Anthropic | Скрининг с рекрутером Инженер AI-платформы / MLOps |
15–30 минут о бэкграунде и мотивации, включая «почему Anthropic» и интерес к безопасности AI. Рекрутер предупредил, что можно пройти техническую часть и не пройти по ценностям. | 🗣 отчёт кандидата Anthropic Staff Software Engineer, Infrastructure Interview Experience, Aced (formerly Exponent), candidate report, проверено 2026-09-26 |
| Anthropic | Финальные раунды Инженер AI-платформы / MLOps |
У одного кандидата было пять раундов: system design (раздать большой файл тысячам машин), практический проект на код (конвейер обработки изображений), разбор проекта с упором на договорённости и конфликты между командами, поведенческий раунд и раунд культуры. | 🗣 отчёт кандидата Anthropic Staff Software Engineer, Infrastructure Interview Experience, Aced (formerly Exponent), candidate report, проверено 2026-09-26 |
| Anthropic | Раунд ценностей и культуры Инженер AI-платформы / MLOps |
Вопросы о случае, когда работа противоречила вашим ценностям, и о том, как вы взвешиваете давление сроков против рисков безопасности. | 🗣 отчёт кандидата Anthropic Staff Software Engineer, Infrastructure Interview Experience, Aced (formerly Exponent), candidate report, проверено 2026-09-26 |
| Anthropic | Первоначальное домашнее задание для инженеров производительности (больше не используется) Инженер инференса и производительности |
В первоначальном задании начала 2024 года кандидаты оптимизировали последовательную программу для симулятора ускорителя с помощью многоядерного, векторного и инструкционного параллелизма; AI-помощь разрешалась. В статье января 2026 года сказано, что задание больше не используется: во второй версии убрали многоядерность, а на смену пришли задачи с небольшим набором инструкций. | ✅ подтверждено компанией Designing AI resistant technical evaluations, Anthropic, опубликовано 2026-01-21, проверено 2026-09-29 |
Страницы компаний, где есть эти роли: Anthropic.
Вопросы¶
Сообщали для этих ролей¶
Вопросы, источник которых указывает, что их задавали на одну из этих ролей.
- В первоначальном домашнем задании Anthropic для инженеров производительности, введённом в 2024 году и впоследствии снятом с использования, оптимизируйте последовательную программу для симулятора ускорителя с помощью многоядерного, векторного и инструкционного параллелизма.
- Кодинг · Инференс, serving и стоимость · Где спрашивали: Anthropic ✅
- Источники (Инженер инференса и производительности): ✅ Designing AI resistant technical evaluations, Anthropic, опубликовано 2026-01-21, проверено 2026-09-29
Для практики¶
Редакционная подборка: вопросы по теме роли, о которых не сообщали именно для неё.
- Сравните prefill и авторегрессионное декодирование: когда узким местом становятся вычисления, а когда пропускная способность памяти?
- Знания · Инференс, serving и стоимость · ✍ Ответ
- Объясните батчинг на уровне итераций: как запросы добавляются в выполняющийся батч и покидают его?
- Знания · Инференс, serving и стоимость · ✍ Ответ
- Оцените память для обслуживания модели с 70 млрд параметров, явно задав точность, контекст и конкурентность.
- Прикладной сценарий · Инференс, serving и стоимость · ✍ Ответ
- Разграничьте time to first token, time per output token, inter-token latency и throughput при сравнении систем инференса.
- Знания · Инференс, serving и стоимость · ✍ Ответ
- Постройте roofline-оценку декодирования модели 70B для одного запроса на H100; сначала проверьте, помещается ли выбранное представление.
- Прикладной сценарий · Инференс, serving и стоимость
- Как сравнить vLLM, SGLang, TensorRT-LLM и собственный runtime на конкретной нагрузке?
- Прикладной сценарий · Инференс, serving и стоимость
- Вам поручили снизить стоимость инференса на порядок. Расставьте меры по приоритету и объясните, как проверить достижимость цели.
- Прикладной сценарий · Инференс, serving и стоимость · ✍ Ответ
- После релиза p99 задержки удвоился, хотя веса модели не менялись. Как локализовать причину?
- Прикладной сценарий · Инференс, serving и стоимость · ✍ Ответ
- Перед запуском ассистента с доступом к инструментам: как вы организуете состязательное тестирование и что позволит утверждать чистый результат?
- System design · Безопасность, защита и governance · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Спроектируйте LLM gateway с маршрутизацией, failover, кешированием, лимитами запросов и обязательными бюджетами.
- System design · Дизайн AI-систем · ✍ Ответ
- Определите стратегию внутренней AI-платформы и распределите ответственность за её метрики успеха.
- Продуктовый кейс · Senior · AI-платформа и операционная модель · ✍ Ответ
- Как поддерживать несколько поставщиков моделей, если в отдельных средах разрешена только часть моделей?
- System design · Senior · AI-платформа и операционная модель · ✍ Ответ
- Как владелец инвестиций решите, продлевать ли управляемый AI-сервис или финансировать внутреннюю замену. Через шесть месяцев цена поставщика удвоится, а экспорт данных не воспроизводит поведение сервиса. Какое решение и план выхода вы утвердите?
- Прикладной сценарий · AI-платформа и операционная модель · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Несколько продуктовых команд работают через один внутренний AI-шлюз. Как сделать так, чтобы трафик, данные и кеши одной команды не влияли на другую?
- System design · AI-платформа и операционная модель · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Провайдер объявил, что версия модели, от которой зависят ваши продукты, будет отключена через три месяца. Как вы проведёте переход во всех командах, которые её используют?
- Прикладной сценарий · AI-платформа и операционная модель · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Расходы на инференс общей AI-платформы за квартал удвоились, и ни одна команда не признаёт счёт своим. Как сделать расходы относимыми и управляемыми?
- Прикладной сценарий · AI-платформа и операционная модель · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Задержка и доступность вашей AI-платформы зависят от внешнего провайдера моделей. Что вы пообещаете внутренним командам и как будете это обещание выполнять?
- System design · AI-платформа и операционная модель · 🧪 сгенерировано по темам вакансий · ✍ Ответ
- Во время AI-развёртывания поставщик меняет поведение модели, и вредные действия затрагивают клиентов. Немедленно вернуть прежнюю модель невозможно. Как руководитель программы вы организуете сдерживание инцидента, работу с клиентами и обоснованный повторный запуск?
- Прикладной сценарий · Программы и delivery · 🧪 сгенерировано по темам вакансий · ✍ Ответ
Подготовка¶
Маршрут подготовки: инженерная база с углублением в инференс, метрики задержки и сравнение runtime. Подготовьте нагрузочный отчёт: фиксированные запросы и требования к качеству, разделение ожидания и исполнения, проверка регрессии хвостовой задержки. Для руководителя платформы добавьте эксплуатационную ответственность. Расчёт стоимости сам по себе не доказывает производительность serving-системы.
← Инженер оценки качества и надёжности AI · Продуктовое лидерство в AI →