Generative AI Solutions Architekt:in – RAG & Agenten

Hirebuddy; Wien; Hybrid; EUR 68,000 - 83,000; Full time

Benefits offered by this job

Relocation support

Essenszuschuss

Parkmöglichkeiten

Gute öffentliche Anbindung

Weiterbildungsmöglichkeiten

Job summary

apsa personnel concepts gmbh sucht eine/n Generative AI Solutions Architect:in – RAG & Agenten in Wien. Die Rolle fokussiert sich auf Identifikation relevanter KI-Anwendungsfälle, Konzeption ganzheitlicher KI-Lösungen und deren Implementierung bis zum Rollout.

Sie bringen fundierte Erfahrung mit LLMs, KI-Workflows und API-Integrationen mit, arbeiten eng mit Stakeholdern zusammen und unterstützen Schulungen, Dokumentation sowie Betrieb und Optimierung.

Qualifications

• Tiefgehendes Verständnis von LLMs und KI-Systemen.
• Praktische Erfahrung mit KI-Workflows, Agenten, LLM-APIs, RAG, Memory.
• Mindestens 3–5 Jahre relevante Berufserfahrung in KI/ML, Softwareentwicklung oder Architektur.
• Hands-on-Erfahrung mit AI-Prototypen, Chatbots und Vektordatenbanken.
• Kenntnisse in Python (bevorzugt) oder Low-Code/No-Code-Tools; Erfahrung mit AI-Plattformen.
• Grundverständnis für KI-Security und entsprechende Anforderungen.
• Moderations- und Workshop-Kompetenz; sichere Zusammenarbeit mit Stakeholdern.
• Verhandlungssicheres Deutsch und sehr gutes Englisch.
• Nice-to-have: Agentic AI, MLOps, AI-Plattformen oder AWS/Azure-Infrastruktur.

Responsibilities

• Identifikation und Priorisierung relevanter KI-Anwendungsfälle anhand von Nutzeranforderungen.
• Erarbeitung von Entscheidungsgrundlagen zu Lösungsansätzen, Kosten-Nutzen-Analysen und Risikobewertungen.
• Konzeption ganzheitlicher KI-Lösungen (Agenten, Harnesses, RAG, Tool-Anbindungen, Prompt-/Context Engineering).
• Aufbau und Weiterentwicklung von Wissensdatenbanken, Retrieval- und Memory-Systemen.
• Rollout-Begleitung und Betrieb; Schulung und Dokumentation.
• Messung und Optimierung der Wirksamkeit durch Baselines und Feedback Loops.
• Berücksichtigung von Security, Datenschutz und technischen Entscheidungsgrundlagen.
• Workshops, Schulungen und Requirements Engineering für Fachabteilungen.

Skills

LLMs & KI-Systeme

KI-Workflows

KI/ML-Erfahrung

AI-Prototypen

Python/Low-Code

AWS Bedrock / AI-Tools

AI-Security

Workshop-Kompetenz

Deutsch/Englisch sicher

Agentic AI (Nice-to-have)

Tools

Databricks

LightLLM

Open Web UI

AI-Gateways

AWS Bedrock

Job description

apsa personnel concepts gmbh

Generative AI Solutions Architekt:in – RAG & Agenten

• Wien


• Vollzeit


• ab € 75000

Unser Auftraggeber ist ein innovatives Technologieunternehmen in Österreich, das den Einsatz von KI konsequent vorantreibt. Für die Weiterentwicklung moderner Softwarelösungen suchen wir eine Fachkraft, die relevante Anwendungsfälle identifiziert, ganzheitliche KI-Lösungen konzipiert und deren Einführung begleitet.

In dieser Rolle verbindest du technisches Know-how mit starker Kommunikationsfähigkeit, um AI-Lösungen von der Konzeption bis zum Rollout erfolgreich umzusetzen – inklusive Schulungen, Dokumentation und kontinuierlicher Optimierung.

Das sind deine Aufgaben:

• Identifikation und Priorisierung relevanter KI-Anwendungsfälle auf Basis von Nutzeranforderungen


• Erarbeitung von Entscheidungsgrundlagen zu Lösungsansätzen, Anbietern, Kosten-Nutzen-Analysen und Risikobewertungen


• Konzeption ganzheitlicher KI-Lösungen (Agenten, Harnesses, RAG, Tool-Anbindungen, Prompt-/Context Engineering, Modellauswahl)


• Aufbau und Weiterentwicklung von Wissensdatenbanken, Retrieval- und Memory-Systemen


• Begleitung von Rollout und Betrieb inklusive Befähigung der Anwender:innen durch Schulungen und Dokumentation


• Messung und Optimierung der Wirksamkeit durch Baselines und Feedback Loops


• Berücksichtigung von Security, Datenschutz und Risiken sowie Aufbereitung technischer Entscheidungsgrundlagen


• Durchführung von Workshops, Schulungen und Requirements Engineering für Fachabteilungen

Das bringst du mit:

• Tiefes Verständnis von LLMs und KI-Systemen sowie deren Auswirkungen auf Qualität, Kosten und Risiken


• Praktische Erfahrung mit KI-Workflows, Agenten, LLM-APIs, RAG, Memory, MCP sowie Prompt- und Context Engineering


• Mindestens 3–5 Jahre relevante Berufserfahrung in KI/ML, Softwareentwicklung oder Architektur


• Hands-on-Erfahrung mit AI-Prototypen, Chatbots, Vektordatenbanken und KI-Integrationen


• Kenntnisse in Python (bevorzugt) oder Low-Code/No-Code-Tools sowie Erfahrung mit AWS Bedrock, Open Web UI, AI-Gateways (z. B. Databricks, LightLLM) und AI Development Tools


• Grundverständnis für KI-Security und entsprechende Anforderungen


• Sichere Workshop-Kompetenz und Erfahrung in der Moderation sowie im Umgang mit technischen und nicht-technischen Stakeholdern


• Verhandlungssicheres Deutsch und sehr gutes Englisch


• Nice-to-have: Erfahrung mit Agentic AI, MLOps, AI-Plattformen oder AWS-/Azure-Infrastruktur

Das erwartet dich:

• Arbeitsort in Gumpoldskirchen/Wien mit bis zu 80 % Telearbeit und flexiblen Arbeitszeiten


• Moderne, ergonomisch ausgestattete Arbeitsplätze und aktuelle Hardware


• Individuell abgestimmte Weiterbildungs- und Entwicklungsmöglichkeiten


• Zusätzlicher freier Tag am Geburtstag sowie bis zu fünf zusätzliche freie Fenstertage pro Jahr (bei All-in-Verträgen)


• Essenszuschuss, Parkmöglichkeiten und sehr gute öffentliche Anbindung


• Relocation-Support bei Umzug nach Österreich


• Regelmäßige Team- und Community-Events sowie diverse Mitarbeiter:innenvergünstigungen


• Gesundheitsangebote, betriebsärztliche Betreuung und Sport-/Fitnessprogramme


• Arbeit in interdisziplinären Teams mit kurzen Entscheidungswegen