Wissenschaftliche/r Mitarbeiter/in im Bereich AI Security und Explainable AI

Uni Siegen; Wilhelmshausen; On-site; EUR 51,000 - 66,000; Full time

Job summary

Universität Siegen sucht eine/n wissenschaftliche/n Mitarbeiter/in im Bereich AI Security und Explainable AI. Die Stelle ist 100% und befristet auf 2 Jahre im Projekt ASTRID, mit Fokus auf KI-Verfahren zur Erkennung von Deepfakes und multimodalen Manipulationen.

Sie arbeiten in der Fakultät Wirtschaftswissenschaften/Wirtschaftsinformatik/Wirtschaftsrecht und bringen einen starken Hintergrund in Machine Learning, Python und relevanten Frameworks mit. Englischkenntnisse (mind.

Qualifications

• Abgeschlossenes Masterstudium in einem relevanten technischen Bereich.
• Fundierte Kenntnisse in ML/DL und Praxis in Modelltraining und Evaluation.
• Fortgeschrittene Programmierkenntnisse in Python.
• Deutschkenntnisse wünschenswert, Englisch für Publikationen.

Responsibilities

• Entwicklung und Evaluation KI-basierter Verfahren zur Erkennung synthetischer Medien.
• Forschung multimodaler ML-/DL-Verfahren für Audio, Bild, Video und Text.
• Untersuchung KI-Angriffsvektoren und Sicherheitsmaßnahmen inkl. Robustheit.
• Entwicklung Explainable-AI-Verfahren für multimodale Sicherheitssysteme.
• Veröffentlichungen und Vorträge zu Erkenntnissen und Ergebnissen.

Skills

Machine Learning

Deep Learning

Python

PyTorch

TensorFlow

NLP

Computer Vision

Explainable AI

AI Security

Englisch B2

Education

Masterabschluss in Informatik / Wirtschaftsinformatik / Data Science / IT-Sicherheit

Tools

PyTorch

TensorFlow

Job description

Wählen Sie aus, wie oft (in Tagen) Sie eine Benachrichtigung erhalten möchten: Benachrichtigung erstellen

Wissenschaftliche/r Mitarbeiter/in im Bereich AI Security und Explainable AI

Bereich:Fakultät III - Wirtschaftswissenschaften, Wirtschaftsinformatik, Wirtschaftsrecht | Stellenumfang: Vollzeit| Beschäftigungsdauer: befristet | Ausschreibungs-ID: 7183

Wir sind eine interdisziplinär ausgerichtete und weltoffene Universität mit aktuell rund 14.000 Studierenden und einem Fächerspektrum von den Geistes-, Sozial- und Wirtschaftswissenschaften bis hin zu Natur-, Ingenieur- und Lebenswissenschaften. Mit über 2.000 Beschäftigten zählen wir zu den größten Arbeitgebern der Region und bieten ein einzigartiges Umfeld für Lehre, Forschung und Weiterbildung.

Wir suchen:

In der Fakultät III - Wirtschaftswissenschaften, Wirtschaftsinformatik, Wirtschaftsrecht , am LehrstuhlWirtschaftsinformatik insb. Datenschutz und IT Sicherheit , suchen wir für das Projekt ASTRID (unter Vorbehalt der Bewilligung) eine/n wissenschaftliche/n MItarbeiter/in zum 01.01.2027 zu folgenden Konditionen:

• 100% = 39,83 Stunden
• befristet für die Dauer von 2 Jahren

Ihre Aufgaben:

• entwickeln und evaluieren KI-basierte Verfahren zur Erkennung synthetischer Medien, Deepfakes, Social Engineering und multimodaler Manipulationen (AI for Security).
• erforschen multimodale Machine-Learning- und Deep-Learning-Verfahren für Audio-, Bild-, Video- und Textdaten, einschließlich LLM- und Foundation-Model-basierter Ansätze zur semantischen und cross-modalen Konsistenzprüfung sowie agentischer KI-Ansätze zur Orchestrierung von Erkennungs- und Erklärungsverfahren.
• untersuchen sowohl KI-basierte Angriffsvektoren als auch KI-basierte Sicherheitsmaßnahmen sowie die Robustheit und Generalisierungsfähigkeit von KI-Systemen gegenüber adversarialen Angriffen (Security with and of AI) und bauen hierfür realistische Benchmarks und Angriffsszenarien einschließlich Blue- und Red-Teaming auf.
• entwickeln und evaluieren Explainable-AI-Verfahren für multimodale Sicherheitssysteme mit Fokus auf Faithfulness, Unsicherheitsquantifizierung und cross-modale Erklärungen.
• entwickeln LLM-basierte Erklärungs- und Narrationsansätze, die technische Erkennungs- und XAI-Ergebnisse in nachvollziehbare und handlungsrelevante Informationen für Entscheidungsträger:innen überführen, und stellen Ihre Erkenntnisse im Rahmen wissenschaftlicher Veröffentlichungen und Vorträge vor.
• haben einen sehr guten Masterabschluss im Bereich Verbraucher- und Wirtschaftsinformatik, Informatik, Data Science, Elektrotechnik, IT-Sicherheit oder einem vergleichbaren technischen Gebiet.
• verfügen über fundierte Kenntnisse in Machine Learning und Deep Learning sowie über praktische Erfahrung in Entwicklung, Training und Evaluation neuronaler Modelle mit Python und PyTorch, TensorFlow oder vergleichbaren Frameworks.
• bringen Kenntnisse in mindestens einem der Bereiche Computer Vision, Audio/Speech Processing, Natural Language Processing, multimodales Lernen, Foundation Models oder agentische KI mit.
• verfügen über erste Kenntnisse oder Erfahrungen in mindestens einem der Themenfelder der Stelle, etwa AI Security, Adversarial Machine Learning, Explainable AI, Deepfake Detection oder agentische KI.
• verfügen über Englischkenntnisse auf mindestens B2-Niveau für wissenschaftliche Publikationen und Konferenzen; Deutschkenntnisse sowie erste Publikationserfahrung sind von Vorteil.
• sind motiviert, eine Promotion im Bereich AI Security und Explainable AI anzustreben.

Unser Angebot:

• Förderung der eigenen wissenschaftlichen oder künstlerischen Qualifizierung nach dem Wissenschaftszeitvertragsgesetz (z.B. Promotion)
• Vielfältige Möglichkeiten, Verantwortung zu übernehmen und einen sichtbaren Beitrag im Umfeld von Forschung und Lehre zu leisten
• Ein modernes Verständnis von Führung und Zusammenarbeit
• Gute Vereinbarkeit von Beruf und Privatleben, beispielsweise durch flexible Ausgestaltung von Arbeitszeit und Arbeitsort sowie Unterstützung bei der Kinderbetreuung
• Umfangreiches Personalentwicklungsprogramm
• Gesundheitsmanagement mit breit gefächertem Präventions- und Beratungsangebot

Ihre Ansprechperson:

Chancengerechtigkeit und Diversity werden an der Universität Siegen gefördert und gelebt. Die Ausschreibung richtet sich ausdrücklich an Menschen aller Geschlechter (m/w/d); Bewerbungen von Frauen werden gemäß Landesgleichstellungsgesetz besonders berücksichtigt. Gleichermaßen wünschen wir uns Bewerbungen von Personen mit unterschiedlichstem persönlichen, sozialen und kulturellen Hintergrund, Menschen mit Schwerbehinderung und diesen Gleichgestellten.