GenAI Security Engineer: Red Team for AI Safety

B2B Network; Warszawa; Hybrid; PLN 180,000 - 240,000; Full time

Job summary

B2B Network poszukuje inżyniera ds. bezpieczeństwa AI, który dołączy do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji finansowej. Rola łączy Offensive Security i Red Teaming z bezpieczeństwem GenAI/LLM.

Zakres obejmuje opinie i ocenę rozwiązań AI, prowadzenie testów bezpieczeństwa, identyfikowanie podatności m.in. prompt injection i data leakage, przygotowywanie guardrails, automatyzację testów i rozwój wewnętrznych agentów AI wspierających red team.

Qualifications

• Minimum 5 lat doświadczenia w obszarze bezpieczeństwa IT.
• Praktyczne, udokumentowane doświadczenie z bezpieczeństwem rozwiązań AI/LLM.
• Doświadczenie w testowaniu podatności i prowadzeniu red teamingu rozwiązań wykorzystujących LLM.
• Znajomość zagrożeń GenAI/LLM, w tym prompt injection, jailbreak, data leakage.
• Znajomość OWASP Top 10 for LLM/GenAI Applications.
• Praktyczna znajomość guardrails/safeguards.
• Umiejętność automatyzacji testów bezpieczeństwa i tworzenia narzędzi/skryptów w Pythonie.
• Znajomość bezpieczeństwa architektury mikroserwisowej, chmury Azure.
• Znajomość wymagań AI Act i DORA oraz ISO 27001 i ISO/IEC 42001.

Responsibilities

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed ich wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.
• Identyfikowanie podatności i ryzyk związanych m.in. z prompt injection, jailbreakami, dostępem do danych, RAG i agentami AI.
• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.
• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa całego rozwiązania, w tym API, integracji, IAM/uprawnień, danych, mikroserwisów i infrastruktury.
• Zabezpieczanie rozwiązań AI działających w środowiskach cloud i on premises.
• Przeprowadzanie analiz i ocen ryzyka technicznego.
• Wspieranie zgodności rozwiązań z wymaganiami AI Act i DORA oraz ISO 27001.

Skills

Penetration Testing

Red Teaming

AI/LLM Security

Python scripting

Guardrails testing

Cloud security (Azure)

Security engineering

Job description

B2B Network poszukuje inżyniera ds. bezpieczeństwa AI, który dołączy do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji finansowej. Rola łączy Offensive Security i Red Teaming z bezpieczeństwem GenAI/LLM.

Zakres obejmuje opinie i ocenę rozwiązań AI, prowadzenie testów bezpieczeństwa, identyfikowanie podatności m.in. prompt injection i data leakage, przygotowywanie guardrails, automatyzację testów i rozwój wewnętrznych agentów AI wspierających red team.