AI-разработчик // LLM-инженер

NeoFamily — EdTech-компания, разрабатывающая web-решения для эффективной подготовки к ЕГЭ. Мы создаем цифровые продукты, которые помогают школьникам достигать высоких результатов на экзаменах. Сейчас мы в поиске LLM Backend инженера / AI-разработчика, который сможет поддерживать и развивать сервис проверки домашних заданий на базе LLM, а также внедрять ИИ в рабочие процессы компании. Обязанности: - Внедрять ИИ в процессы компании; - Поддерживать и развивать FastAPI-сервис; - Работать с PostgreSQL, RabbitMQ, Docker/Docker Compose; - Развивать пайплайн асинхронной обработки задач: постановка задач в очередь, relay-сервис, worker’ы, retries и обработка ошибок; - Интегрировать LLM-провайдеров через OpenAI-compatible API; - Настраивать fallback-модели, ретраи, таймауты и обработку ошибок; - Улучшать промпты и пайплайн проверки домашних заданий; - Запускать и анализировать бенчмарки качества, стоимости и скорости моделей; - Разбирать ошибки модели и искать способы улучшить качество проверки. Требования: - Опыт разработки backend-сервисов на Python; - Опыт работы с PostgreSQL; - Навыки работы с Docker, Docker-Compose и Git; - Понимание принципов написания читаемого, поддерживаемого и масштабируемого кода; - Опыт работы с брокерами сообщений по типу RabbitMQ; - Понимание принципов отказоустойчивости и масштабируемости backend-сервисов; - Умение делать LLM-интеграции; - Умение писать промпты для LLM; - Понимание устройства LLM изнутри; - Опыт построения бенчмарков для ML моделей: как собрать датасет, как посчитать метрики качества, определить, как посчитать latency; - Умение работать с нестабильными внешними API: понимать, как устроены rate limit-ы, как можно построить fallback механизмы и т.д. Будет плюсом: - MLflow или похожие инструменты для экспериментов с ML моделями; - Опыт работы с OCR / vision-моделями / обработкой изображений; - Опыт деплоя сервисов. Что мы предлагаем: - Наставничество: code review, регулярная обратная связь - Возможность влиять на решения и предлагать улучшения - Опытная и дружелюбная команда - Работа над реальными задачами и участие в продакшене - Поддержка профессионального роста Варианты трудоустройства: - через трудоустройство по ТК РФ в IT-аккредитованную компанию (отсрочка от призыва, IT-ипотека) - через оказание услуг ИП