Werkstudent:in (m/w/d) KI-Infrastruktur & Hardware

Promed Soest GmbH; Soest; Vor Ort; Vertraulich; Teilzeit

Zusammenfassung

Ein Unternehmen im Bereich Test- und Prüfsysteme sucht eine:n engagierte:n Werkstudent:in. Sie unterstützen bei der Inbetriebnahme und Integration von moderner KI-Hardware und Large Language Models. Voraussetzungen sind grundlegende Kenntnisse in Deep Learning und gute Python-Kenntnisse. Flexible Arbeitszeiten werden geboten, sowie die Möglichkeit zur Bachelor-/Masterarbeit in angrenzenden Themenbereichen.

Leistungen

Betriebliche Altersvorsorge

Betriebsfeiern

Jobrad (Lease-a-bike)

EGYM Wellpass

Flexible Arbeitszeiten möglich

Qualifikationen

• Eingeschriebene:r Student:in in Informatik, Elektrotechnik, Medieninformatik oder einem verwandten technischen Studiengang.
• Interesse an KI-Hardware wie GPUs oder Tenstorrent.
• Erste Erfahrung mit LLMs wie LLaMA oder Mistral wünschenswert.

Aufgaben

• Installation und Inbetriebnahme von Tenstorrent Hardware.
• Integration und Deployment neuer Large Language Models in das Tenstorrent-Ökosystem.
• Unterstützung bei Benchmarking und Performanceanalysen.

Kenntnisse

Grundkenntnisse in Deep Learning Frameworks

Gute Python-Kenntnisse

Teamfähigkeit

Eigeninitiative

Ausbildung

Eingeschriebene:r Student:in in Informatik, Elektrotechnik oder verwandtem Studiengang

Tools

Linux

PyTorch

TensorFlow

Jobbeschreibung

PROMED ist ein international tätiges Unternehmen im Bereich Test- und Prüfsysteme für die Elektroindustrie. Unsere Schwerpunkte sind die Entwicklung und Produktion von automatisierten Prüfsystemen, sowie der Prototypen- und Kleinserienbau. Seit über 30 Jahren bieten wir Prüfkonzepte und Lösungen für alle Bereiche der Industrie an.

Wir arbeiten an der Spitze der KI-Infrastruktur und integrieren cutting-edge Hardwarelösungen von Tenstorrent, um leistungsstarke und effiziente ML-Workloads zu ermöglichen. Zur Unterstützung unseres Teams suchen wir eine:n engagierte:n Werkstudent:in mit Interesse an KI-Architekturen, Systemintegration und Deployment moderner LLMs.

Aufgaben

• Installation und Inbetriebnahme von Tenstorrent Hardware (Wormhole und Blackhole Chips) inklusive Firmware-Setup und Treiberkonfiguration
• Einrichtung und Wartung der Tenstorrent Software-Toolchain, insbesondere TT-Metal, pyMetal, ttnn, tt-metal und tt-vllm.
• Integration und Deployment neuer Large Language Models (LLMs) in das Tenstorrent-Ökosystem
• Anbindung und Nutzung von LLMs via VLLM (vLLM inference engine) und OpenAI API
• Unterstützung bei Benchmarking, Performanceanalysen und Troubleshooting im Umfeld von Deep-Learning-Inferenz
• Mitwirkung bei der Umsetzung neuer Softwareprodukte
• Pflege und Erweiterung bestehender Software

Qualifikation

• Eingeschriebene:r Student:in in Informatik, Elektrotechnik, Medieninformatik oder einem verwandten technischen Studiengang
• Grundkenntnisse in Deep Learning Frameworks (z.B. PyTorch, TensorFlow)
• Erste Erfahrung mit LLMs (z.B. LLaMA, Mistral, GPT) wünschenswert
• Interesse an KI-Hardware wie GPUs, ASICs oder speziell Tenstorrent
• Sicherer Umgang mit Linux (CLI, Bash, Package-Management)
• Gute Python-Kenntnisse
• Teamfähigkeit, Eigeninitiative und die Motivation, dich in komplexe technische Themen einzuarbeiten

Benefits

• Direkte Arbeit mit hochmoderner KI-Hardware (Tenstorrent, GPUs, eventuell auch RISC-V Ecosystem)
• Einblicke in das Deployment und Management moderner LLMs auf dedizierter Infrastruktur
• Flexible Arbeitszeiten, hybride Arbeitsmöglichkeiten
• Möglichkeit zur Bachelor-/Masterarbeit in angrenzenden Themenbereichen

Weiterhin bieten wir Ihnen:

Leistungen:

• Betriebliche Altersvorsorge
• Betriebsfeiern
• Flexible Arbeitszeiten möglich
• Jobrad (Lease-a-bike)
• EGYM Wellpass
• Kostenlose Getränke

Interessiert?

Dann freuen wir uns auf deine Bewerbung (CV, ggf. relevante Projekte/GitHub-Links).