HuntIT

Senior Data Platform Engineer

Не указана
  • Санкт-Петербург
  • Полная занятость
  • Удаленная работа
  • От 3 до 6 лет
  • Apache Airflow
  • Apache Kafka
  • Data Mesh
  • Kubernetes
  • Docker
  • Python
  • GitLab CI/CD
  • SQL

О нас:
HuntIT
- это передовое рекрутинговое агентство, которое специализируется на поиске и подборе высококвалифицированных специалистов в сфере IT и Digital, сотрудничает с ведущими IT-компаниями, рекламными агентствами и работает над крупными проектами.

О компании-заказчике:
01.tech
– IT-компания, создающая передовые веб-платформы, оказывающие влияние на мировую индустрию!
Основная цель – создание высоконагруженных систем, ежедневно обрабатывающих десятки тысяч запросов в секунду, терабайты данных и поддерживающие более 100 миллионов пользователей по всему миру.

В связи с активным расширением 01.tech мы находимся в поисках Senior Data Platform Engineer.

Твоя миссия:
Спроектировать и выстроить следующее поколение нашей платформы данных, чтобы сделать работу десяткой дата-инженеров и сотен аналитиков максимально эффективной, стандартизированной и надежной.

Чем ты будешь заниматься:

  • Создавать основу данных компании: В сотрудничестве с DataOps ты будешь разрабатывать и поддерживать ядро нашей платформы — платформенные ETL-сервисы, высоконагруженные CI/CD пайплайны, прозрачный мониторинг и многое другое.
  • Развивать экосистему Airflow: Ты не просто будешь писать плагины, а создашь внутренний фреймворк для Airflow, который станет стандартом для всех инженеров компании по созданию отказоустойчивых и наблюдаемых DAG.
  • Умножать производительность команды: Ты разработаешь ключевые Python-библиотеки и инструменты (в том числе с использованием dbt), которые абстрагируют сложность и позволяют дата-инженерам и аналитикам сосредоточичиться на логике, а не на инфраструктуре.
  • Принимать архитектурные решения: Ты будешь влиять на выбор технологий и архитектурных паттернов для работы с большими данными (Spark, Iceberg) и аналитическими СУБД (ClickHouse, Vertica), обеспечивая масштабируемость и производительность на годы вперед.

Наш стек и твои будущие инструменты:

  • Создавать платформу данных компании: В плотном сотрудничестве с DataOps ты будешь разрабатывать и поддерживать ядро нашей платформы — разнообразные ETL-сервисы, платформенные CI/CD пайплайны, прозрачный мониторинг и многое другое.
  • Развивать экосистему dbt+Airflow: Ты не просто будешь писать плагины, а создашь внутренний фреймворк для dbt+Airflow, который станет стандартом для всех инженеров компании по созданию отказоустойчивых и наблюдаемых DAG.
  • Умножать производительность команды: Ты разработаешь ключевые Python-библиотеки и инструменты, которые абстрагируют сложность и позволяют дата-инженерам и аналитикам сосредоточичиться на логике, а не на инфраструктуре.
  • Принимать архитектурные решения: Ты будешь влиять на выбор подходов и архитектурных паттернов для работы с большими данными (Spark, Iceberg) и аналитическими СУБД (ClickHouse), обеспечивая масштабируемость и производительность на годы вперед, а также привносить новые технологии (Duckdb, Starrocks, весь modern Data Stack).

Будет значительным преимуществом:
Мы ценим глубокое системное мышление и стремление к профессиональному росту. Нас особенно впечатлят:

  • Приверженность мастерству: Сертификаты или курсы по инженерии данных, а главное — портфолио на GitHub с реализованными проектами, которые демонстрируют ваш подход к решению сложных задач.
  • Опыт с высоконагруженными пайплайнами: Практика построения отказоустойчивых потоков данных не только на Apache Airflow, но и с применением Kafka для обработки данных в реальном времени.
  • Архитектурная грамотность: Глубокое понимание принципов построения корпоративных хранилищ данных и современных парадигм, например, таких как Data Mesh.
  • Экспертиза в безопасности: Знание и практическое применение основ безопасности данных (работа с ПД, управление доступом, шифрование), что критически важно для создания надежной и доверенной платформы.

Условия:

  • Качественный опыт, рост скиллов и максимально комфортная рабочая атмосфера;
  • Гибкое начало рабочего дня с 9:00 до 11:00 по МСК;
  • Удалённый или гибридный формат работы;
  • Полностью оборудованное рабочее место с предоставлением техники;
  • ДМС со стоматологией после испытательного срока;
  • Компенсация занятий спортом, английского языка и сессий с психологом;
  • Зоны отдыха с настольным теннисом, самокатами и кухней;
  • Корпоративная библиотека;
  • Корпоративы с выездами на природу и призами, тимбилдинги, мастер-классы и т. д.