Platform administrator в Databricks

Nitka Technologies; United States; Remote; USD 110,000 - 190,000; Full time

Benefits offered by this job

100% remote

Гибкий рабочий график

Полная занятость (8 часов/день)

Конкурентная оплата в USD

Оплачиваемый отпуск и больничные

Job summary

Nitka Technologies ищет Platform Administrator (Databricks) для удаленной, долгосрочной работы по управлению несколькими Databricks окружениями и поддержке пользователей. В задачи входит настройка политик кластеров, Unity Catalog и мониторинг выполнения заданий, устранение сбоев и оптимизация памяти.

Требуется опыт работы с Linux/Bash, SQL, Python и AWS. Приветствуется опыт с REST API/SDK, Terraform, GitLab CI, а также знание Delta Lake и Spark. Работа полностью удаленная с гибким графиком.

Qualifications

• Опыт внедрения, интеграции или технической поддержки Databricks и сопутствующих сервисов.
• Навыки работы с Linux, Bash, эксплуатацией кластеров.
• Сильные SQL навыки и понимание архитектуры Delta Lake.
• Опыт работы в AWS (EC2, S3, IAM, VPC, управление секретами, SQS).
• Умение писать небольшие скрипты на Python и работать с REST API/SDK.

Responsibilities

• Управление несколькими Databricks рабочими областями (dev/qa/prod).
• Настройка политик кластеров, управление и соответствие.
• Создание и обслуживание объектов Unity Catalog: каталоги, схемы, grants, service principals, внешнее хранилище и т.д.

Skills

SQL

Python скрипты

REST API

Spark

AWS

Tools

Databricks

Terraform

GitLab CI

Job description

Описание: Nitka Technologies develops software for customers in the US and Europe and brings together about 300 professionals from Eastern Europe, North and South America, Armenia, Georgia and Kazakhstan. We are looking for an experienced Platform Administrator (Databricks) for a long-term project. The customer is a company in California, an industry leader in the sale of tickets to events in Europe and the USA.

Задачи

• Manage multiple Databricks workspaces (dev/qa/prod)
• Configure cluster policies, governance & compliance
• Create & maintain unity catalog objects: catalogs, schemas, grants, service principals, external storage etc
• Monitor and debug failed / long-running jobs using system tables (job_run_timeline, node_timeline, workflow_run)
• Troubleshoot cluster crashes, driver OOM, executor failures, memory leaks
• Investigate Python / Spark errors, dependency conflicts (PyPI, WHL, Maven) Assist users with cluster/job configuration, notebook errors, unity catalog permissions
• Explain platform limitations and best practices to Data engineers
• Maintain confluence pages with platform rules & troubleshooting guides

Требования

• Experience in implementation, integration or technical support
• Experience with Linux, Bash
• Confident SQL skills
• Strong experience of working with AWS Infrastructure (ec2, s3, iam, vpc, secret management, sqs)
• Experience with Python sufficient for writing small scripts or applications
• Experience of maintaining Databricks jobs & environments
• Experience with REST API/SDK
• Understanding of file-based databases (DeltaLake, Parquet, Hive)
• Understanding of of cluster types & node families
• Spoken English at Intermediate level or higher
• Будет плюсом: Databricks REST API / Databricks SDK
• Working with schema evolution, time travel, vacuum, compaction, z-order
• Debugging corrupted delta tables (conflicting commits, tombstones, missing checkpoints)
• Understanding of acid implementation on top of object storage
• Spark knowledge (jobs, partitions, queries), experience in Kafka or similar technology, familiarity with Terraform / Gitlab CI
• Cost monitoring for platform services and objects
• Experience in enterprise Data platforms

Условия

• 100% remote Remote work with no time trackers, flexible working hours Full-time (8 hours/day) Attractive USD compensation Paid vacation, holidays, sick leaves