Senior Streaming Data Engineer

NS; Utrecht; Hybrid; EUR 65.000 - 85.000; Full time

Job summary

Een toonaangevende vervoersorganisatie zoekt een Senior Streaming Data Engineer in Utrecht om real-time data-oplossingen te ontwikkelen met Spark Structured Streaming en PySpark. Je werkt aan schaalbare platforms voor sensorische data en beeldverwerking, in een Agile team. Je hebt minimaal 7 jaar ervaring met data verwerking en minstens 3 jaar met Spark. Bij NS krijg je vrijheid en de mogelijkheid om impact te maken in duurzame mobiliteit.

Benefits

Vrijheid in je werk

Dynamische werkomgeving

Focus op duurzame mobiliteit

Qualifications

• Minimaal 7 jaar ervaring met data verwerking.
• Minimaal 3 jaar ervaring met Spark Structured Streaming.
• Duitse taal beheersen, zowel mondeling als schriftelijk.

Responsibilities

• Ontwikkelen van real-time streaming platforms.
• Inrichten van de data pipeline tussen databronnen en analytics teams.
• Opzetten van de CI/CD pipeline voor streaming.

Skills

Spark Structured Streaming

PySpark

Python

CI/CD pipelines

Agile werken

Tools

Microsoft Azure

Databricks

Kafka

OpenTofu

Job description

Als Senior Streaming Data Engineer werk je binnen een team aan geavanceerde, schaalbare data-oplossingen met behulp van Spark Structured Streaming en PySpark. Je ontwikkelt en onderhoudt real-time streaming platforms die vooral gericht zijn op semigestructureerde sensorische data en beeldverwerking. Je zorgt voor betrouwbare, efficiënte en schaalbare dataverwerking, waarbij security- en privacy-eisen van NS worden gewaarborgd.

Dit ga je doen

Als Senior Streaming Data Engineer speel je een cruciale rol binnen ons team. Je werkt samen met collega Data Engineers om geavanceerde data-oplossingen te ontwikkelen. Met jouw diepgaande kennis van Spark Structured Streaming en PySpark, draag je bij aan het ontwerp en de implementatie van schaalbare data-oplossingen die onze analytics teams in staat stellen om de beste beslissingen te nemen. Als onderdeel van onze afdeling werk je aan het bouwen en onderhouden van real-time streaming platformen, met focus op semigestructureerde sensorische databronnen en beeldverwerking. Je zorgt ervoor dat data betrouwbaar is en efficiënt en schaalbaar verwerkt wordt. Daarnaast voldoen de oplossingen aan de security- en privacyvereisten van NS. Het team waarin je gaat samenwerken richt zich op grote, semigestructureerde sensorische databronnen en ontwikkelt additionele diensten voor opslag en verwerking van beeldmateriaal.

Dankzij jouw doortastendheid en leergierigheid ben je van onschatbare waarde bij het:

• Achterhalen van de vraag achter de vraag waardoor je passende oplossingen kunt adviseren.
• Inrichten van de data pipeline tussen databronnen en onze analytics teams.
• Opzetten en beheren van de CI/CD pipeline waarbinnen een streaming pipeline van ontwikkeling tot productie wordt gerealiseerd.
• Bouwen in onze Azure cloud omgeving aan een fundament waarin alle streaming en sensorische databronnen ontsloten worden voor verdere analyses.

Hier ga je werken

Welkom in de wereld van ‘DIA’ – Data, Innovatie & Analyse bij NS! DIA telt op dit moment ruim 300 medewerkers. Op het hoofdkantoor in Utrecht bij het Centraal Station, en gedeeltelijk hybride vanuit huis, bundelen collega’s hun krachten. Een mix van ervaringen en persoonlijkheden, die elkaar graag opzoeken om met elkaar te sparren en kennis te delen. Binnen DIA werken wij Agile in Scrum teams om samen kwalitatief hoogwaardige en innovatieve oplossingen, platformen en dataproducten te ontwikkelen en onderhouden. Onze analytics teams kunnen hierdoor snel en betrouwbaar inzichten genereren om tot juiste acties te komen. Jij wordt onderdeel van het team IoTeam. Dit team bestaat uit vijf Data Engineers, een Product Owner en een Scrum Master.

Dit zijn de eisen

• Je hebt als Data Engineer minimaal 7 jaar ervaring met het verwerken van grote hoeveelheden data en minimaal 3 jaar ervaring met Spark Structured Streaming.
• Je hebt minimaal 7 jaar ervaring met Python en PySpark, het ontwikkelen van CI/CD-pipelines, geautomatiseerd testen en Infrastructure-as-Code.
• Je hebt ervaring met Java en/of Scala, Microsoft Azure, Databricks, Azure DevOps, Terraform en/of Bicep, OpenTofu, Kafka, AMQP, RabbitMQ en/of Event Hub.
• Je hebt een actueel en relevant inzicht in technologische ontwikkelingen binnen dit domein en gebruikt jouw expertise graag om innovatieve oplossingen en platformen te creëren.
• Je bent een zelfstarter die graag werkt in een Agile omgeving binnen een jong en gedreven team.
• Je hebt een waarde- en organisatiegerichte mindset, waardoor je wensen kunt vertalen naar duurzame oplossingen en je goed kunt samenwerken met collega’s om een kwalitatief product neer te zetten.
• Bereikbaarheidsdiensten kunnen in de toekomst onderdeel uitmaken van deze rol.
• Je beheerst de Nederlandse taal uitstekend, zowel mondeling als schriftelijk.
• Bij NS vinden we het belangrijk dat we elkaar durven aanspreken en ons altijd kunnen uitspreken.

We zoeken collega’s met lef, die open staan voor verandering. Voor deze functie ligt de nadruk op proactief handelen. Dit betekent dat je zelfstandig initiatief neemt, zelfs bij onvolledige informatie, en actief bijdraagt aan verbeteringen binnen je team en de business.

Deze opdracht is alleen geschikt voor kandidaten die in loondienst zijn en waarvoor loonbelasting en premies volks- en werknemersverzekeringen (WW, WAO, WIA en ZW) worden afgedragen. Deze opdracht is niet geschikt voor zelfstandig ondernemers en professionals (waaronder zzp’ers) die zichzelf uitlenen. Deze opdracht is ook niet geschikt voor de directeur-grootaandeelhouder die niet is verzekerd voor de werknemersverzekeringen. Ik verklaar dat de aangeboden kandidaat geen zelfstandig professional is, ook niet via een doorleenconstructie.

Werken bij NS betekent dat jij hét verschil kunt maken in de wereld van duurzame mobiliteit. Jij helpt mee om Nederland bereikbaar te houden, voor iedereen. Bij NS krijg je veel vrijheid. We beloven je dat geen dag hetzelfde is. De kernwaarden van NS zijn open en betrouwbaar. Wij gaan voor resultaat en willen vooruit.