AI/ML Engineer – LLM Systems (m/w/d)

ANEXIA Internetdienstleistungs GmbH; Graz, Klagenfurt am Wörthersee, Wien; Hybrid; EUR 50 000 - 80 000; Vollzeit

Zusammenfassung

Ein führendes Technologieunternehmen in Österreich sucht einen KI/ML-Entwickler, der sich leidenschaftlich mit LLM-Technologien auseinandersetzt. Verantwortlichkeiten umfassen die Entwicklung und Implementierung innovativer KI-Lösungen sowie die enge Zusammenarbeit mit verschiedenen Teams. Erwartet werden fundierte Kenntnisse in LLMs, Docker und Python sowie sehr gute Deutsch- und Englischkenntnisse. Flexible Arbeitszeiten und diverse Benefits erwarten dich.

Leistungen

Gute Verkehrsanbindung

Flexible Arbeitszeiten

Aus- und Weiterbildung

Mentoren-Programm

Kostenlose Parkplätze

Arbeitshandy und -notebook

Snacks und Getränke

Firmenwagen

Mitarbeiter:innen-Events

Fun-Corner

Qualifikationen

• Erfahrung in der Entwicklung und dem Einsatz von KI/ML-Systemen.
• Kenntnisse in der Integration von KI-Funktionen von verschiedenen Anbietern.
• Kompetenz in der Containerisierung und dem Deployment von KI-Anwendungen.

Aufgaben

• Entwicklung und Einsatz von KI/ML-Systemen mit einem Fokus auf LLMs.
• Implementierung und Betrieb von LLM-Inferenz-Lösungen.
• Zusammenarbeit mit funktionsübergreifenden Teams zur Verbesserung von KI-Lösungen.

Kenntnisse

Erfahrung mit RAG

Fundiertes Verständnis von Large Language Models

Praktische Erfahrung mit agentischen Frameworks

Erfahrung mit Python

Kenntnisse in SQL-Datenbanken

Verständnis von LLMOps-Praktiken

Erfahrung mit Containerisierung (Docker/Podman)

Erfahrung mit CI/CD-Tools

Sehr gute Deutschkenntnisse

Sehr gute Englischkenntnisse

Tools

TensorFlow

PyTorch

scikit-learn

Ollama

vLLM

TensorRT-LLM

Jobbeschreibung

Du begeisterst dich für künstliche Intelligenz und arbeitest gerne mit modernsten LLM-Technologien? Du arbeitest strukturiert und selbstständig und liebst es, intelligente Systeme zu entwickeln, die echten Mehrwert schaffen? Du bist ein kommunikativer Teamplayer, der innovative KI-Lösungen mit Leidenschaft umsetzt? Dann ist diese Position perfekt für dich!

• Du treibst die Entwicklung und den Einsatz von KI/ML-Systemen voran, mit besonderem Fokus auf Large Language Models (LLMs) und intelligente Agenten-Frameworks
• Du implementierst und betreibst LLM-Inferenz-Lösungen mit Runtimes wie Ollama, vLLM und TensorRT-LLM
• Du entwickelst agentische Anwendungen mit Frameworks wie Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI
• Du integrierst KI-Funktionen von unterschiedlichen Anbietern (wie OpenAI, Anthropic, Groq und Cerebras) in Produktionssysteme
• Du implementierst LLMOps-Praktiken mit Tools wie LangFuse und LangSmith für Monitoring, Tracing und Observability
• Du entwickelst und optimierst ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen
• Du containerisierst und deployest KI-Anwendungen mit Docker und Podman
• Du arbeitest mit SQL-Datenbanken und implementierst Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität
• Du arbeitest eng mit funktionsübergreifenden Teams zusammen und präsentierst und verbesserst kontinuierlich deine KI-Lösungen
• Erfahrung mit RAG (Retrieval-Augmented Generation), Prompt Engineering oder Multi-Agenten-Systemen ist von großem Vorteil
• Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem
• Praktische Erfahrung mit mindestens einem agentischen Framework (LangChain, LangGraph, Haystack, LlamaIndex, Dify, LangFlow oder Pydantic AI)
• Erfahrung mit Python und modernen ML-Frameworks (TensorFlow, PyTorch, scikit-learn)
• Kenntnisse in LLM-Inferenz-Runtimes wie Ollama, vLLM oder TensorRT-LLM
• Erfahrung mit LLM-APIs (OpenAI, Anthropic oder ähnliche Anbieter)
• Fundierte Kenntnisse in SQL und Datenbankoperationen
• Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung
• Erfahrung mit Containerisierung (Docker/Podman) und Orchestrierungstools
• Erfahrung mit Versionskontrollsystemen und CI/CD-Tools von Vorteil
• Kenntnisse in DevOps-Praktiken (Ansible) sind ein Plus
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

#Profile

• Du treibst die Entwicklung und den Einsatz von KI/ML-Systemen voran, mit besonderem Fokus auf Large Language Models (LLMs) und intelligente Agenten-Frameworks
• Du implementierst und betreibst LLM-Inferenz-Lösungen mit Runtimes wie Ollama, vLLM und TensorRT-LLM
• Du entwickelst agentische Anwendungen mit Frameworks wie Dify, LangFlow, Haystack, LlamaIndex, LangChain, LangGraph oder Pydantic AI
• Du integrierst KI-Funktionen von unterschiedlichen Anbietern (wie OpenAI, Anthropic, Groq und Cerebras) in Produktionssysteme
• Du implementierst LLMOps-Praktiken mit Tools wie LangFuse und LangSmith für Monitoring, Tracing und Observability
• Du entwickelst und optimierst ML-Pipelines mit Python, TensorFlow, PyTorch und scikit-learn für verschiedene KI-Anwendungen
• Du containerisierst und deployest KI-Anwendungen mit Docker und Podman
• Du arbeitest mit SQL-Datenbanken und implementierst Evaluierungs-Frameworks wie DeepEval zur Sicherstellung der Modellqualität
• Du arbeitest eng mit funktionsübergreifenden Teams zusammen und präsentierst und verbesserst kontinuierlich deine KI-Lösungen

#Wanted

• Erfahrung mit RAG (Retrieval-Augmented Generation), Prompt Engineering oder Multi-Agenten-Systemen ist von großem Vorteil
• Fundiertes Verständnis von Large Language Models und Erfahrung mit dem HuggingFace-Ökosystem
• Praktische Erfahrung mit mindestens einem agentischen Framework (LangChain, LangGraph, Haystack, LlamaIndex, Dify, LangFlow oder Pydantic AI)
• Erfahrung mit Python und modernen ML-Frameworks (TensorFlow, PyTorch, scikit-learn)
• Kenntnisse in LLM-Inferenz-Runtimes wie Ollama, vLLM oder TensorRT-LLM
• Erfahrung mit LLM-APIs (OpenAI, Anthropic oder ähnliche Anbieter)
• Fundierte Kenntnisse in SQL und Datenbankoperationen
• Verständnis von LLMOps-Praktiken und Methoden zur Modellevaluierung
• Erfahrung mit Containerisierung (Docker/Podman) und Orchestrierungstools
• Erfahrung mit Versionskontrollsystemen und CI/CD-Tools von Vorteil
• Kenntnisse in DevOps-Praktiken (Ansible) sind ein Plus
• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

#REWARD

Anexia wurde als Familie groß und das soll auch in unserer Wachstumsstrategie so bleiben. Wir übernehmen gerne Verantwortung, respektieren einander und wir wissen, dass wir alles schaffen können. Wir schauen gut auf Anexia und Anexia schaut auch gut auf uns. Begeisterung, Erfahrung und Kompetenz zählen, daher kannst Du ein faires Gehalt und zahlreiche Benefits erwarten.
Wir sind mehr als ein Arbeitsplatz. Daher bieten wir unseren Mitarbeiter:innen (teils abhängig von Deiner Position und Deinem Standort) viele Benefits: Gute Verkehrsanbindung, flexible Arbeitszeiten, Aus- und Weiterbildung, Mentoren-Programm, kostenlose Parkplätze, Arbeitshandy- und -notebook, Snacks und Getränke, Firmenwagen, Mitarbeiter:innen-Events, Fun-Corner, u.v.m.

Standort: Wien, Graz, Klagenfurt, Remote