Data engineer (VDAB)

Jobat; Brussel; On-site; EUR 70,000 - 90,000; Full time

Job summary

VDAB zoekt een Data Engineer voor het data intelligence team dat uit zo'n 40 collega’s bestaat. Je werkt aan de transitie van een klassieke data toolset naar een recenter platform op cloudera-technologie (data lake) en levert data aan interne en externe gebruikers.

Je werkt in een compact agile team, configureert ELT-stromen in DBT en NIFI, voegt data-elementen toe aan de datavault met Vaultspeed en ontwerpt dimensionele modellen.

Qualifications

• Ervaring met ETL/ELT-tools, bij voorkeur DBT en NIFI.
• SQL-vaardigheden voor datasetcreatie en validatie.
• Kennis van datawarehousing en data vault-concepten.
• Ervaring met moderne data platforms en cloud-technologieën.

Responsibilities

• Bouwen van datapipelines met DBT/NIFI.
• Onderhouden van VDAB’s dataplatorm en datawarehouse-omgeving.
• Schrijven en uitvoeren van unit tests en validaties van datasets.
• Ondersteunen bij operationele processen en oplossen van bugs.
• Samenwerken in een Scrum-team en Requirements vertalen naar dataprodukten.

Skills

DBT

NIFI

SQL

Data pipelines

Agile Scrum

Tools

Vaultspeed

Job description

VDAB zoekt een Data Engineer voor het data intelligence team. Dit team telt zo'n 40 collega’s. Zij voorzien interne en externe data gebruikers van oplossingen. Denk aan management rapportering en business analyse. Ook leveren ze input voor AI toepassingen. Je werkt bijvoorbeeld mee aan de transitie van een klassieke data toolset (data warehouse) naar een recenter platform op cloudera technologie (data lake).

Waarom zou de kandidaat voor deze functie moeten kiezen?

Je komt terecht in een uitdagende omgeving, in een team met een joviale en inclusieve cultuur waar je kan werken met moderne technologie. Bovendien bouw je mee aan een betere ondersteuning van de Vlaamse arbeidsmarkt

Wat is het doel van de functie ?

• Je zal een belangrijke rol spelen in een uitgebreide portfolio aan projecten die gepland staan om het bestaande dataplatform te vernieuwen en verder uit te breiden.
• Je werkt in een compact agile team met een scrum aanpak. Je configureert de nodige ELT stromen in DBT en/of NIFI om data te transformeren.
• Je voegt data elementen toe aan de datavault met de Vaultspeed automator.
• Je stelt dimensionele datamodellen op om de gewenste datasets te ontwerpen.
• Je schrijft SQL-queries om de gewenste datasets voor dataproducten te creeëren.
• Je test en valideert dataproducten om de kwaliteit en integriteit te waarborgen en testbevindingen op te lossen.
• Je documenteert de end-2-end oplossing
• Je geeft ondersteuning bij problemen, performance issues en werkt mee aan procesverbeteringen- en optimalisaties.
• Je verfijnt, samen met de functioneel analist, de gevraagde requirements voor een dataproduct en vertaalt deze naar een concrete oplossing.
• Je evalueert de technische haalbaarheid, beheersbaarheid en kostefficiëntie van een dataproduct en stelt hieromtrent verbeteringen voor.

De 3 belangrijkste verantwoordelijkheden:

• Correct opbouwen van datapipelines die een oplossing biedt aan de beschreven user story
• Zorgen dat de geschreven code correct getest en gedocumenteerd is.
• Het scrum team versterken door een actief teamlid te zijn.

Wat zijn de belangrijkste taken?

• Bouwen van data pipelines in moderne ETL/ELT tools zoals DBT en NIFI
• Het onderhouden van het data platform van VDAB
• Schrijven en uitvoeren van unit tests om de gebouwde code te valideren
• Opvolgen en ondersteunen van de operationele processen in het team, inclusief oplossen van voorkomende bugs