Data engineer (2x) - ministerie van buitenlandse zaken

Ministerie van Binnenlandse Zaken en Koninkrijksrelaties; Zuid-Holland; On-site; EUR 80,000 - 110,000; Full time

Job summary

BZ zoekt een Senior Data Engineer voor het BI-team. Je ontwikkelt datapipelines op het Databricks-platform en werkt nauw samen met data-analisten, infra engineers en Tableau-ontwikkelaars.

Je behandelt ontsluiting, transformati es en datamodellering, en bewaakt automatisering, governance en compliance binnen de data-omgeving. Een multidisciplinair scrumteam werkt aan informatiestrategie en breed draagvlak.

Qualifications

• Senior Data Engineer met relevante ervaring op het Microsoft Azure platform.
• Expert in ontsluiten van data uit bronnen, datatransformaties en datamodelleren.
• Werkt in een multidisciplinair scrumteam met BI-analisten, data engineers en Tableau-ontwikkelaars.

Responsibilities

• Ontwikkelt, onderhoudt en optimaliseert datapipelines voor specifieke informatieproducten op het Databricks-platform.
• Draagt bij aan informatieplanning en informatiestrategie in afstemming met analisten en managers.
• Automatiseert laad- en verwerkingsprocessen en bewaakt data governance en compliance.

Skills

Databricks

Python

SQL

Data pipelines

DevOps

Data governance

Azure

Data modeling

Stakeholder samenwerking

Tools

Tableau

Job description

Je speelt een centrale rol binnen het Business Intelligence Team van BZ.

Buitenlandse zaken heeft de ambitie door te groeien naar een informatie gestuurde, data-gedreven organisatie. Om dit te verwezenlijken loopt een diversiteit aan business intelligence & analytics (BIA) en data science projecten die grotendeels in elkaar verweven zijn. Ontwikkeling en beheer worden uitgevoerd door twee ontwikkel- en beheerteams onder aansturing van twee projectleiders.

De verschillende agile-scrum teams werken nauw samen met producteigenaren en opdrachtgevers vanuit verschillende afdelingen. Verschillende stakeholders, verschillende belangen, allemaal met als doel steeds beter en meer informatiegestuurd te kunnen werken voor een steeds grotere gebruikersgroep.

Je activiteiten gaan zich richten op het doorontwikkelen van het datawarehouse op basis van het Databricks platform. Uitgebreide kennis van python en sql is hiervoor van belang.

De volgende taken en resultaatgebieden worden onderkend

• Ontwikkelt, onderhoudt en optimaliseert datapipelines voor specifieke informatieproducten.
• Hiervoor wordt het Databricks platform gebruikt.
• Ondersteunt, adviseert en stemt af met data analisten, infra engineer, visualisten, datascientists en BI-consultant (en informatiemanagers) betreffende informatieplanning en informatiestrategie
• Werkt nauw samen met BI-consultants, datagebruikers, datascientists e.a. op in de hiervoor genoemde technieken, zodat ze in staat zijn om de data die ze nodig hebben te integreren en te gebruiken
• Draagt er zorg voor dat de workloads gemanaged (deployment via devops pipelines) naar ontwikkeling en productie worden gebracht. Dit proces wordt door de data-engineer continu doorontwikkeld
• De Data-engineer is verantwoordelijk voor het monitoren en signaleren van de meest recente ontwikkelingen van innovatieve en moderne tools, technieken en architectuur voor data-ontwikkeling en beheer
• De data-engineer draagt zorg voor het zoveel mogelijk geheel of gedeeltelijk automatiseren van de laad- en verwerkingsprocessen
• Draagt er samen met o.a. de datasteward zorg voor dat compliance-eisen en datagovernance worden verwerkt in de technische oplossing, zodat gebruikers (BI-consultants, data-scientists, datagebruikers) de data op een verantwoorde manier gebruiken
• Denkt onafhankelijk en zet technologische kennis in om verschillende concepten te integreren zodat unieke oplossingen ontstaan (Innoveren)

Als Data Engineer weet je als geen ander dat de opkomst van informatie gestuurd werken onvermijdelijk is. Data is overal om ons heen. Het toepassen van data kan BZ efficiënter en slimmer maken. Het doel van het Data Competence Centre is om (big)data (intern/extern, gestructureerd/ongestructureerd) te verzamelen en deze zodanig te rangschikken dat de data kan worden toegepast om tot inzichten te komen ter ondersteuning van de processen van BZ. Voor de ontwikkeling hiervan is een business intelligence & analytics en data science team ingericht. Je komt te werken in een multidisciplinair scrumteam voor de business intelligence producten o.a. bestaande uit data analisten, ontwikkelaars en business vertegenwoordigers. In samenwerking met vertegenwoordigers van diverse directies wordt gewerkt aan het gestructureerd ontsluiten van de belangrijkste systemen van BZ en het onderbrengen van deze gegevens in een enterprise data warehouse en bijbehorende analytische omgevingen. Voor de facilitering van dit team is BZ op zoek naar een bevlogen Senior Data engineer met relevante ervaring op het Microsoft Azure platform.

De data-engineer speelt een centrale rol bij het strategisch positioneren en toepasbaar (beschikbaar maken, automatiseren, inladen en prepareren) maken van de data- en analyse-initiatieven voor (beleifs)directies en posten. Het grootste deel van het werk besteedt de dataengineer aan het bouwen, beheren en optimaliseren van datapipelines en het effectief verplaatsen van deze datapipelines naar productie.

Hierin werkt de Data Engineer nauw samen met het functionele DevOps team van Infra Engineers, analisten en Tableau ontwikkelaars. Hiervoor is soms een flinke dosis flexibiliteit en creativiteit nodig richting de collega teamleden. De geschikte kandidaat weet van aanpakken, kan goed omgaan met een grote verscheidenheid werkzaamheden gedurende de werkdagen en is een echte teamspeler. Bovendien is de Data engineer de specialist op het gebied van ontsluiten van data uit bronnen, datatransformaties en datamodelleren.