Databricks Architect

Posted 7ds ago

Employment Information

Education
Salary
Experience
Job Type

Job Description

Senior Data Architect with deep experience in Databricks for US client. Involves architectural tasks for two projects starting in December.

Responsibilities:

  • Projektowanie, wdrażanie i utrzymanie skalowalnych rozwiązań Data Lakehouse z wykorzystaniem Databricks, Delta Lake oraz standardów Medallion Architecture (Bronze/Silver/Gold).
  • Wdrażanie mechanizmów zarządzania danymi (data governance) i bezpieczeństwa, w tym konfiguracja Unity Catalog, zarządzanie dostępem (RBAC) oraz implementacja IaC (Terraform) dla automatyzacji infrastruktury i audytowalności.
  • Aktywny udział w projektach migracyjnych platformy (Synapse ->Databricks, JDE ->Databricks) oraz refaktoring złożonej, starszej logiki biznesowej (SSIS, Boomi) do nowoczesnych rozwiązań Spark/Python.
  • Nadzór nad tworzeniem i optymalizacją zaawansowanych potoków ETL/ELT przy użyciu PySpark i Delta Live Tables (DLT), włączając w to mechanizmy przetwarzania danych wsadowych oraz strumieniowych/w czasie zbliżonym do rzeczywistego.
  • Definiowanie strategii monitorowania, dostrajanie wydajności oraz automatyzacja procesów data engineering, aby spełniać krytyczne SLA (np. 4-godzinne okno odświeżania danych).

Requirements:

  • Eksperckie doświadczenie (8+ lat) w pracy w roli Data Architekta oraz Data Engineera lub pokrewnych rolach, szczególnie w projektach transformacyjnych i migracyjnych
  • Ekspercka znajomość platformy Databricks (architektura, multi-workspace, klastry, security) oraz Apache Spark (PySpark, optymalizacja zapytań).
  • Praktyczne doświadczenie z Delta Lake i znajomość koncepcji zarządzania danymi, w tym wdrożenia Unity Catalog oraz kontroli dostępu
  • Wieloletnie doświadczenie z Infrastrukturą jako Kodu (IaC) przy użyciu Terraform w kontekście zarządzania infrastrukturą chmurową i Databricks (audytowalność, powtarzalność)
  • Biegła znajomość środowisk chmurowych, a w szczególności Microsoft Azure (ADLS, networking)
  • Bardzo dobra znajomość Python i jego zastosowań w Data Engineering
  • Umiejętność podejmowania inicjatywy, samodzielność i liderowanie technicznym decyzjom
  • Angielski na poziomie C1 (płynna komunikacja) umożliwiający swobodną komunikację w zespole.

Benefits:

  • Prywatna opieka medyczna (Medicover)
  • Karta Multisport dla kontraktorów

CRODU

Information Services

CRODU is a full-stack JavaScript software house. We deliver fresh, creative, and results-driven solutions to our clients

RecruitmentSaaSSustainability
View all jobs at CRODU