O projekcie:
Poszukujemy doświadczonego Data Engineera / Architekta Danych, który dołączy do naszego zespołu i pomoże nam w budowaniu oraz optymalizacji rurociągów danych, przetwarzaniu dużych zbiorów danych tekstowych oraz ich integracji poprzez OpenAPI.
Uwaga: Szukamy specjalisty z obszaru Data Engineering / Data Architecture, a nie Python Full Stack Developera.
Warunki zaangażowania:
Obszar: Consulting IT
Lokalizacja: 100% zdalnie Delegacje: nie Start: ASAP (akceptujemy kandydatury z max 1msc dostępnością do startu)
Stawka (ustalana indywidualnie): 150 - 160 PLN netto + VAT / h Zaangażowanie: B2B (outsourcing z 1dea), full-time, długofalowo (12msc+)
Wymagania:
- Python – bardzo dobra znajomość języka oraz umiejętność pisania wydajnego, czystego kodu nakierowanego na przetwarzanie i analizę danych.
- Chmura Azure – praktyczne, komercyjne doświadczenie w pracy z kluczowymi usługami danych w środowisku Microsoft Azure.
- OpenAPI / REST API – praktyczna znajomość standardu OpenAPI (Swagger) w kontekście integracji rurociągów danych, dostarczania endpointów i dokumentowania specyfikacji API.
- Bazy wiedzy – doświadczenie w projektowaniu, utrzymaniu lub integracji baz wiedzy, baz wektorowych oraz zaawansowanych struktur przechowywania danych.
- Duże wolumeny danych tekstowych – doświadczenie w pracy z plikami tekstowymi o dużej objętości (optymalizacja odczytu/zapisu, wydajne przetwarzanie).
- Komunikatywność / Język angielski – wysoko rozwinięte umiejętności interpersonalne oraz sprawna komunikacja w języku angielskim w codziennej pracy projektowej.
Mile widziane:
- Doświadczenie z narzędziami do orkiestracji danych i CI/CD w Azure (np. Azure Data Factory, Azure DevOps).
- Doświadczenie w integracji pipeline'ów z modelami LLM / RAG.
Codzienne zadania:
- Budowanie, optymalizacja i utrzymanie wydajnych rurociągów danych (Data Pipelines) w chmurze Azure
- Przetwarzanie, parsowanie, czyszczenie i strukturyzacja dużych wolumenów danych tekstowych
- Rozwój i utrzymanie baz wiedzy (w tym baz wektorowych / struktur przechowywania danych) na potrzeby analityczne oraz rozwiązań AI/ML
- Projektowanie, integracja i udostępnianie interfejsów API w standardzie OpenAPI (Swagger) na potrzeby zasilania i wystawiania danych z pipeline'ów dla innych systemów
- Tworzenie spójnej dokumentacji kontraktów danych i punktów styku (API-first) w standardzie OpenAPI
- Współpraca z zespołem analityków, architektów oraz inżynierów przy projektowaniu kompleksowej architektury danych