Cloud Platform Engineer (m/w/d)

SOMI Experts GmbH; Köln; Vor Ort; EUR 90.000 - 140.000; Vollzeit

Zusammenfassung

SOMI Experts GmbH sucht Experten zur Konzeption und Entwicklung produktiver AI-Agenten-Lösungen auf Databricks und Azure – vom ersten Prototyp bis zum skalierbaren Betrieb. Du entwickelst KI-Agenten und Multi-Agent-Workflows, integrierst Azure OpenAI sowie Foundation Models in Databricks und bestehende Systeme.

Dazu gehören Datenpipelines mit Python/SQL/Spark/Delta Lake sowie Einsatz von Mosaic AI, MLflow und DataOps-Methoden.

Qualifikationen

• Mehrjährige Erfahrung in AI/ML-Engineering.
• Erfahrung mit LLM, RAG, Embeddings, Vector Search, Tool Calling oder agentenbasierten Architekturen.
• Gute Python- und SQL-Kenntnisse, sowie Git, automatisierte Tests und Code Reviews.
• Fundierte Erfahrung mit Databricks, Spark, Delta Lake, MLflow und Mosaic AI.

Aufgaben

• Konzeption und Entwicklung produktiver AI-Agenten und Multi-Agent-Workflows.
• Integrieren von Azure OpenAI und Databricks in bestehende Applikations- und Datenlandschaften.
• Aufbau von Daten- und Verarbeitungs-Pipelines mit Python, SQL, Spark und Delta Lake.
• Entwicklung, Versionierung, Evaluierung, Bereitstellung und Monitoring von Modellen, Prompts und Agenten.
• Etablierung CI/CD- und MLOps-Prozesse, inkl. IaC, Testing und Security Controls.

Kenntnisse

AI Engineer

Machine Learning

Data Engineer

Cloud Engineer

Python

SQL

Git

CI/CD

MLOps

Tools

Databricks

Spark

Delta Lake

MLflow

Unity Catalog

Azure OpenAI

Key Vault

Terraform

GitHub Actions

Azure DevOps

Jobbeschreibung

• Du konzipierst und entwickelst produktive Agentic -AI -Lösungen auf Databricks undAzure – vom ersten Prototyp bis zum skalierbaren Betrieb.
• Du entwickelst KI -Agenten und Multi -Agent -Workflows , die Large Language Models,Unternehmensdaten, APIs und interne Systeme sicher miteinander verbinden.
• Du setzt RAG -, Tool -Calling - und Workflow -Architekturen um und entwickelstwiederverwendbare Komponenten für Prompts, Tools, Agenten und Datenzugriffe.
• Du integrierst Azure OpenAI und weitere geeignete Foundation Models in dieDatabricks -Plattform sowie in bestehende Applikations - und Datenlandschaften.
• Du entwickelst Daten - und Verarbeitungspipelines auf Databricks , unter anderem mitPython, SQL, Spark und Delta Lake, und schaffst damit eine verlässliche Datenbasis fürKI-Anwendungen.
• Du nutzt Databricks Mosaic AI und MLflow , um Modelle, Prompts und Agenten zuentwickeln, zu versionieren, zu evaluieren, bereitzustellen und zu überwachen.
• Du automatisierst Daten- und KI -gestützte Prozesse mit Databricks Workflows undintegrierst diese in bestehende Unternehmensprozesse und Systemlandschaften.
• Du gestaltest die erforderliche Azure - und Databricks -Architektur für einen sicheren,skalierbaren und kosteneffizienten Betrieb.
• Du etablierst CI/CD - und MLOps -Prozesse für Datenpipelines, Modelle und Agenten.
• Dazu gehören automatisierte Tests, Deployment -Pipelines, Infrastructure as Code und dieVersionierung relevanter Artefakte.
• Du entwickelst Qualitäts - und Evaluationsverfahren für KI -Anwendungen, beispielsweisefür Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten und Zuverlässigkeit
• Du stellst den sicheren und nachvollziehbaren Betrieb durch Unity Catalog, SecretsManagement, Managed Identities, RBAC, Private Endpoints, Logging undMonitoring sicher.
• Du bindest interne Datenquellen, Systeme und APIs sicher an und unterstützt die
• Fachbereiche bei der technischen Umsetzung konkreter AI - und Automatisierungs -Use -Cases.
• Du arbeitest eng mit Product Owner, Fachbereichen, Data - und Cloud -Teams sowieSecurity, Privacy und Governance zusammen und bringst deine technische Perspektiveaktiv in Architekturentscheidungen ein.
• Du dokumentierst Architekturen, Datenflüsse, Agentenlogik, Betriebsprozesse undSecurity Controls so, dass eine nachhaltige Übergabe in den produktiven Betrieb möglichist.

• Mehrjährige Erfahrung als AI Engineer, Machine Learning Engineer, Data Engineer,Cloud Engineer oder in einer vergleichbaren technischen Rolle.
• Praktische Erfahrung bei der Entwicklung von Anwendungen mit Large LanguageModels , idealerweise mit RAG, Embeddings, Vector Search, Tool Calling oderagentenbasierten Architekturen.
• Sehr gute Kenntnisse in Python und SQL sowie Erfahrung mit Software -Engineering -Praktiken wie Git, automatisierten Tests, Code Reviews und modularerSoftwareentwicklung.
• Fundierte Erfahrung mit Databricks , beispielsweise mit Spark, Delta Lake, Workflows,Unity Catalog, MLflow oder Mosaic AI.
• Gute Kenntnisse der Microsoft -Azure -Plattform , insbesondere Azure OpenAI, ManagedIdentities, Key Vault, Storage, Networking und Monitoring.
• Erfahrung mit der produktiven Integration von APIs, Datenquellen undUnternehmenssystemen sowie ein gutes Verständnis vertefter und ereignisgetriebenerArchitekturen.
• Praktische Erfahrung mit CI/CD, MLOps und Infrastructure as Code , beispielsweise mitGitHub Actions oder Azure DevOps sowie Terraform oder Bicep.
• Solides Verständnis von Cloud Security, Datenschutz und AI Governance , insbesonderevon Berechtigungskonzepten, Datenklassifizierung, sicheren Modellzugriffen und demSchutz sensibler Informationen.
• Erfahrung mit dem Monitoring produktiver KI -Lösungen und der systematischenBewertung von Prompt -, Retrieval - und Agentenqualität.
• Fähigkeit, Anforderungen aus den Fachbereichen in robuste, wartbare und skalierbaretechnische Lösungen zu übersetzen.
• Freude an interdisziplinärer Zusammenarbeit, eigenverantwortlichem Arbeiten und derverständlichen Vermittlung komplexer technischer Zusammenhänge

Nice to have:

• Erfahrung mit gängigen Agenten - und LLM -Frameworks sowie mit strukturierten Ausgaben, Guardrails und Human -in-the-Loop -Prozessen.
• Kenntnisse in Docker und Kubernetes sowie im Betrieb containerisierter KI -Anwendungen und APIs.
• Erfahrung mit Event Streaming, beispielsweise auf Basis von Azure Event Hubs oder Apache Kafka.
• Verständnis für die Kosten -, Latenz - und Skalierungsoptimierung LLM -basierter Anwendungen.
• Erfahrung in regulierten oder datenschutzsensiblen Unternehmensumfeldern

• Deutsch: Verhandlungssicher
• Englisch: Erweiterte Kenntnisse