Werkstudent Local LLM Infrastructure*

PULS GmbH

München

Hybrid

EUR 70,000 - 100,000

Full time

14 days+

A complete application in a minute

Tailored resume and cover letter, ready to send.

Get past ATS filters

Job summary

Puls GmbH in München sucht eine Position im Bereich Künstliche Intelligenz, um Open-Weight Language Models zu betreiben, zu evaluieren und passende Modelle für konkrete Anwendungsfälle zu identifizieren. Du arbeitest mit Technologien wie vLLM, llama.cpp und Ollama, analysierst Performance, Speicherbedarf und Latenz.

Gemeinsam mit dem AI-Team entwickelst du wiederverwendbare Komponenten und Plattformlösungen und arbeitest eng mit Cybersecurity zusammen, um robuste, langfristig nutzbare Ergebnisse

Qualifications

  • Du bringst einen Abschluss in Informatik, Data Science, Elektrotechnik oder einem vergleichbaren Fach mit.
  • Du hast praktische KI-Erfahrung und kannst ein KI-Projekt erläutern.
  • Idealerweise Erfahrung mit lokalen LLMs (Ollama, llama.cpp, vLLM).
  • Kenntnisse in Python, Linux; ggf. Docker, APIs, Datenbanken, PyTorch oder Hugging Face.

Responsibilities

  • Du betreibst und evaluierst Open-Weight Large Language Models für PULS-Anwendungsfälle.
  • Du beschäftigst dich mit Technologien wie vLLM, llama.cpp, Ollama und optimierst Bereitstellung.
  • Du vergleichst Modelle hinsichtlich Qualität, Performance, Latenz und Ressourcenbedarf.
  • Du arbeitest an Dateninfrastruktur (Vector-, Search-, Graph-Datenbanken) mit.
  • Du entwickelst gemeinsam mit dem AI-Team wiederverwendbare Komponenten und Plattformlösungen.
  • Du arbeitest eng mit Cybersecurity zusammen, um Prototypen sicher und robust zu machen.

Skills

Teamfähigkeit
Strukturierte Problemlösung
Deutsch/Englisch Kommunikation

Education

Informatik / Data Science / Elektrotechnik

Tools

Ollama
llama.cpp
vLLM
Python
Linux

Job description

Deine Aufgaben
  • Du betreibst und evaluierst unterschiedliche Open-Weight Large Language Models und untersuchst, welche Modelle sich für konkrete PULS-Anwendungsfälle eignen.
  • Für die technische Bereitstellung und Optimierung beschäftigst Du Dich mit Technologien wie vLLM, SGLang oder llama.cpp.
  • Unterschiedliche Modelle und Konfigurationen vergleichst Du hinsichtlich Qualität, Performance, Latenz und Ressourcenbedarf und analysierst dabei unter anderem VRAM-Nutzung, Quantisierung, Context Length und Throughput.
  • Im Bereich der Dateninfrastruktur evaluierst Du Vector-, Search- und Graph-Datenbanken, beispielsweise pgvector, Azure AI Search, Oxigraph oder GraphDB.
  • Gemeinsam mit unserem AI-Team entwickelst Du wiederverwendbare technische Komponenten und Plattformlösungen, die als Grundlage für unterschiedliche AI Use Cases im Unternehmen dienen.
  • In enger Zusammenarbeit mit Cybersecurity trägst Du dazu bei, dass erfolgreiche Prototypen in sichere, robuste und langfristig nutzbare Lösungen überführt werden.
Unsere Wünsche
  • Deinen fachlichen Hintergrund bringst Du aus einem Studium der Informatik, Data Science, Elektrotechnik oder einer vergleichbaren Fachrichtung mit.
  • Praktische KI-Erfahrung bringst Du bereits mit: Du hast eigenständig eine anspruchsvollere Anwendung oder ein technisches Projekt mit KI realisiert und kannst uns erläutern, welche Herausforderungen Du dabei gelöst hast.
  • Erste Erfahrungen mit lokalen Large Language Models hast Du idealerweise bereits gesammelt, beispielsweise mit Ollama, llama.cpp oder vLLM.
  • Python und Linux gehören bereits zu Deinem technischen Werkzeugkasten. Kenntnisse rund um Docker, APIs, Datenbanken, PyTorch oder Hugging Face sind von Vorteil.
  • Komplexe technische Fragestellungen gehst Du strukturiert und lösungsorientiert an und behältst dabei auch übergreifende Zusammenhänge im Blick.
  • Gemeinsam entstehen für Dich die besten Lösungen: Du arbeitest gerne im Team, bringst eigene Ideen ein und bist offen für neue Perspektiven.
  • Auch im internationalen Austausch findest Du die richtigen Worte und kommunizierst sicher auf Deutsch und Englisch.
Du bist uns wichtig!

Studieren, Geld verdienen und gleichzeitig an zukunftsweisenden AI-Themen arbeiten? Das geht! Bei PULS sammelst Du wertvolle Praxiserfahrung und gestaltest innovative Lösungen rund um Künstliche Intelligenz aktiv mit.

Du gestaltest deine Arbeitszeit und deinen Arbeitsort flexibel und kannst so die Theorie im Studium optimal mit deiner praktischen Tätigkeit bei uns verbinden. Technisch wirst du natürlich bestens für deine Aufgaben aus-gestattet. Unsere Experten fördern und fordern stetig deine fachliche und persönliche Weiterentwicklung während deiner Tätigkeit bei PULS. Und wer weiß – vielleicht ergibt sich daraus noch die ein oder andere neue Perspektive für dich. Das klingt gut? Dann bist du bei uns genau richtig!

*Alle sind bei der PULS willkommen. Dieses Stellenangebot bezieht sich daher auf Alle, die gerne Teil unseres Unternehmens werden möchten. Unabhängig von kultureller & ethnischer Herkunft, Geschlecht, Religion, Weltanschauung, körperlicher Einschränkung oder Alter.

Get your free, confidential resume review.

or drag and drop your file here.

Similar jobs

Similar jobs worth comparing

Werkstudent Local LLM Infrastructure*
Werkstudent Local LLM Infrastructure*

PULS Group • München

Hybrid
EUR 17,000 - 25,000
Werkstudent AI Enablement*
Werkstudent AI Enablement*

PULS GmbH • München

On-site
EUR 13,000 - 18,000
Werkstudent AI Automation & Agentic Engineering*
Werkstudent AI Automation & Agentic Engineering*

PULS GmbH • München

Hybrid
EUR 13,000 - 20,000
Werkstudent AI Enablement*
Werkstudent AI Enablement*

PULS Group • München

On-site
EUR 13,000 - 18,000
Werkstudent AI Automation & Agentic Engineering*
Werkstudent AI Automation & Agentic Engineering*

PULS Group • München

Hybrid
EUR 11,000 - 18,000
Flexible Arbeitszeit
Arbeitsort flexibel
Praxisnahe AI-Projekte
AI/KI Platform Engineer (m/w/d)
AI/KI Platform Engineer (m/w/d)

Mittwald • Espelkamp

On-site
EUR 70,000 - 120,000
Freie Hardwarewahl
Open Source Community
Weiterbildung & Coaching
+1
(Senior) AI Software Engineer – AI-Plattform und LLM-Infrastruktur (m/w/d)
(Senior) AI Software Engineer – AI-Plattform und LLM-Infrastruktur (m/w/d)

PPI AG • Kiel

Hybrid
EUR 85,000 - 120,000
30 Tage Urlaub
flexible Arbeitszeiten
Mobiles Arbeiten
+4
LLM & Agentic AI Specialist — Flexible Hours, Learning Budget
LLM & Agentic AI Specialist — Flexible Hours, Learning Budget

b.telligent • Germany

Hybrid
USD 102,716 - 148,367
Flexibles Arbeiten
Workation-Möglichkeiten
Zuschuss zum Wellpass
+5
Entwicklungsingenieur (Hardware - Schaltnetzteile) (m/w/d)
Entwicklungsingenieur (Hardware - Schaltnetzteile) (m/w/d)

PULS Ltd. • Bad Lobenstein

On-site
EUR 55,000 - 75,000
LLM & Agentic AI Consultant*
LLM & Agentic AI Consultant*

b.telligent • Germany

Hybrid
USD 102,716 - 148,367
Flexibles Arbeiten
Workation-Möglichkeiten
Zuschuss zum Wellpass
+5