Studentische Hilfskraft im Bereich LLM Security

Fraunhofer-Gesellschaft; Darmstadt; Hybrid; EUR 20.000 - 40.000; Teilzeit

Zusammenfassung

Ein führendes Forschungsinstitut in Darmstadt sucht eine/n eingeschriebene/n Studenten/in für die Entwicklung von Sicherheitsverfahren für LLMs. Sie werden Verfahren evaluieren, Schwachstellen analysieren und Ergebnisse publizieren. Flexible Arbeitszeiten und die Möglichkeit für spätere Abschlussarbeiten sind gegeben. Diese Position ist remote oder hybrid möglich.

Leistungen

Flexible Arbeitszeiten

Inspirierende Arbeitsumgebung

Möglichkeit zur praktischen Erfahrung

Qualifikationen

• Sehr gute Python-Kenntnisse erforderlich.
• Wünschenswert sind Erfahrungen mit Pytorch und Transformerarchitekturen.
• Strukturierte, eigenständige Arbeitsweise und Teamfähigkeit.

Aufgaben

• Entwicklung von Verfahren zur Evaluierung der Sicherheit von LLMs.
• Analyse von Schwachstellen in LLMs.
• Veröffentlichen der Ergebnisse in wissenschaftlichen Papern.

Kenntnisse

Python-Kenntnisse

Analytisches Denken

Teamfähigkeit

KI/ML Verständnis

Englischkenntnisse

Ausbildung

Eingeschriebene/r Student/in (Informatik, Data Science, Mathematik o. ä.)

Tools

Pytorch

Transformerarchitekturen

Jobbeschreibung

Das Fraunhofer-Institut für Sichere Informationstechnologie SIT gehört zu den führenden Forschungs- und Entwicklungseinrichtungen für Cyber-Sicherheit in Deutschland und Europa und ist Teil von ATHENE, dem nationalen Forschungszentrum für angewandte Cybersicherheit. ATHENE ist eine Kooperation der Fraunhofer-Gesellschaft mit der TU Darmstadt, der Hochschule Darmstadt und der Goethe-Universität Frankfurt. Unser gemeinsames Ziel: die Welt von morgen sicherer zu machen.

Was Du bei uns tust

• Entwicklung und Implementierung von Verfahren zur Evaluierung von der Sicherheit von LLMs
• Entwicklung von Verfahren, um die Sicherheit von LLMs zu steigern
• Evaluierung von State-of-the Art und experimentellen Verfahren zu Post-Hoc Explainability von LLMs
• Evaluierung von State-of-the Art und experimentellen Verfahren zu Alignment Strategien
• Analyse von Schwachstellen in LLMs
• Selbstkritische Analyse von Ergebnissen
• Veröffentlichen der Ergebnisse in wissenschaftlichen Papern

Was Dumitbringst

• Eingeschriebene/r Student/in (Informatik, Data Science, Mathematik o. ä.)
• Sehr gute Python-Kenntnisse
• Grundlegendes Verständnis von KI/ML hauptsächlich im Bezug auf Transformer
• Erfahrung mit Pytorch und Transformerarchitekturen sind wünschenswert
• Strukturierte, eigenständige Arbeitsweise und Teamfähigkeit
• Ausgeprägtes analytisches Denken
• Gute Englischkenntnisse

Was Duerwarten kannst

• Flexible Arbeitszeiten, die sich gut mit Deinem Studium vereinbaren lassen
• Eine inspirierende Arbeitsumgebung mit modernster Infrastruktur
• Die Möglichkeit, praktische Erfahrung zu sammeln und wertvolle Kontakte in der Forschung zu knüpfen
• Möglichkeit für spätere Bachelor- und Masterarbeit
• Stelle ist remote oder hybrid möglich
• Die monatliche Arbeitszeit beträgt 25 bis 40 Stunden, je nach Absprache

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität.Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.

Mit ihrer Fokussierung auf zukunftsrelevante Schlüsseltechnologien sowie auf die Verwertung der Ergebnisse in Wirtschaft und Industrie spielt die Fraunhofer-Gesellschaft eine zentrale Rolle im Innovationsprozess. Als Wegweiser und Impulsgeber für innovative Entwicklungen und wissenschaftliche Exzellenz wirkt sie mit an der Gestaltung unserer Gesellschaft und unserer Zukunft.

Haben wir Dein Interesse geweckt? Dann bewirb Dich jetzt online mit Deinen aussagekräftigen Bewerbungsunterlagen. Wir freuen uns darauf, Dich kennenzulernen!

Fraunhofer-Institut für Sichere Informationstechnologie SIT

www.sit.fraunhofer.de

Kennziffer:81268Bewerbungsfrist: