Московская Биржа

Lead LLMOps

Не указана
  • Москва
  • От 3 до 6 лет
  • Kubernetes
  • MLflow
  • Grafana
  • Prometheus

В 2022 году Московской бирже исполнилось 30 лет. Мы появились вместе с современной Россией и за эти годы с нуля создали рынок инвестиций.

Сегодня миллионы людей и тысячи компаний доверяют нам и пользуются нашей инфраструктурой.

  • Ежедневно на наших торговых платформах совершаются миллионы транзакций в минуту – без задержек, без перебоев.
  • Мы храним в депозитарии цифровые записи о каждом активе, который торгуется на бирже.
  • Мы следим за тем, чтобы все операции соответствовали правилам торгов и требованиям регуляторов.

Мы — команда AI-продуктов Московской Биржи, которая меняет повседневную работу сотрудников и команд внутри биржи.

Мы автоматизируем процессы, убираем ручной труд и создаем AI-инструменты, которые позволяют делать больше, быстрее, точнее и в принципе по-новому.
Сейчас мы усиливаем направление LLMOps и ищем Senior/Middle LLMOps-инженера, который будет участвовать в развитии платформы эксплуатации больших языковых моделей и обеспечении надежной работы AI-сервисов в промышленной среде.

Задачи:

  • Проектирование, развитие и поддержка инфраструктуры для эксплуатации LLM- и ML- решений в продакшн среде с высокой нагрузкой;
  • Организация процессов развертывания, обновления и сопровождения больших языковых моделей и связанных AI-сервисов;
  • Обеспечение надежности отказоустойчивости, наблюдаемости и масштабируемости AI-инфраструктуры;
  • Развитие и стандартизация CI/CD-процессов для ML/LLM-сервисов;
  • Построение мониторинга, логирования и алертинга для AI-продуктов;
  • Оптимизация использования вычислительных ресурсов, производительности инференса и стоимости эксплуатации модели;
  • Взаимодействие с командами разработки, data science, архитектуры и инфраструктуры для вывода AI-решений в промышленную эксплуатацию.

Мы ожидаем, что у вас:

  • Опыт работы в роли Senior/Middle MLOps или LLMOps инженера;
  • Практический опыт проектирования, развертывания и эксплуатации ML-решений в продакшн;
  • Уверенное знание Docker и Kubernetes;
  • Опыт настройки и эксплуатации CI/CD в GitLab;
  • Опыт работы с NGINX;
  • Опыт работы с облачными платформами и инфраструктурой: AWS, Azure, Yandex Cloud;
  • Опыт работы с реляционными и NoSQL базами данных: Postgres, Oracle, Redis;
  • Знание и опыт использования инструментов мониторинга и наблюдаемости: Grafana, Prometheus, ELK;
  • Опыт работы с Apache Airflow;
  • Понимание принципов надежной эксплуатации высоконагруженных систем.