AI-инженер (LLM, Prompt, Eval)

• 1-3 года опыта решения реальных бизнес-задач с использованием LLM (цепочки промптов, structured outputs, диалоговые ассистенты);
• Хороший Python, опыт работы с аналитическими инструментами (jupyter, pandas, matplotlib);
• Опыт с SQL, навыки работы с данными, умение собрать датасет и провести аналитику;
• Опыт с OpenAI API и аналогами; 
• Навыки тестирования и регресс‑проверок промптов, понимание подходов к оценке llm-систем (offline-метрики, human evaluation, llm-as-a-judge, A/B тестирование).

Будет плюсом:

• Опыт использования алгоритмов автоматической оптимизации промптов (GEPA и др);
• Опыт организации процесса разметки, построения golden‑датасетов и автоматизации эвалов;
• Опыт использования валидационных фреймворков и инструментов observability (DeepEval, LangFuse, MlFlow, LangSmith и др.);
• Опыт с фреймворками оркестрации llm (langgraph, langchain или аналоги);
• Опыт построения сложных агентных систем, RAG.

Задачи:

• Прототипировать, тестировать и управлять качеством решений на базе LLM;
• Настраивать поведение моделей (без fine-tuning) — экспериментировать с промптами (CoT, Tree-of-thoughts, few-shot, structured outputs, tool calling, etc), контекстом, параметрами моделей и архитектурой llm-пайплайнов (один промпт, цепочка промптов и т.п.);
• Совместно с продактами участвовать в дизайне диалоговых сценариев;
• Тестировать и оценивать качество работы llm-решений на всех этапах — собирать и регулярно актуализировать golden-сеты, валидационные выборки, создавать метрики и бенчмарки, настраивать llm-as-a-judge;
• Разрабатывать инструкции для разметчиков, принимать участие в разметке (в том числе, самостоятельно размечать golden-сеты);
• Анализировать логи, трейсы и фидбек по реальной работе ассистентов в продакшене и улучшать их качество на основе найденных инсайтов; 
• Интегрировать LLM в продукты вместе с разработчиками.

Локация: РФ/ РБ

Если у вас не работает Telegram, писать на почту: a.kavaliova@hitch.expert