AI Security Engineer (f/m/x)

B2Bnetwork; Warszawa; Hybrid; PLN 180,000 - 300,000; Full time

Job summary

B2Bnetwork w Warszawie poszukuje AI Security Engineera odpowiedzialnego za ocenę bezpieczeństwa rozwiązań AI/LLM oraz prowadzenie testów i red teamingu. Oczekuje się praktycznego testsowania podatności, automatyzacji procesów oraz tworzenia narzędzi wspierających zespół bezpieczeństwa.

Rola łączy Offensive Security z bezpieczeństwem GenAI, wymaga doświadczeń w Red Teamingu i znajomości zagrożeń GenAI. Tryb pracy: hybrydowy w Warszawie.

Qualifications

• Minimum 5 lat doświadczenia w bezpieczeństwie IT (pentesting, red teaming lub security engineering).
• Praktyczne doświadczenie w bezpieczeństwie AI/LLM.
• Doświadczenie w testowaniu podatności i red teamingu rozwiązań AI/LLM.
• Znajomość OWASP Top 10 for LLM/GenAI Applications.

Responsibilities

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu opartych o LLM.
• Identyfikowanie podatności i ryzyk związanych z prompt injection i danymi.
• Przygotowywanie guardrails i safeguardów oraz ich testowanie.
• Automatyzacja testów bezpieczeństwa i rozwój narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa API, IAM, danych i infrastruktury całego rozwiązania.

Skills

Penetration Testing

Red Teaming

Offensive Security

Application Security

Security Engineering

Python scripting

AI/LLM security

Testing automation

Cloud security

Job description

Szukamy AI Security Engineera, który dołączy do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji z sektora finansowego. Rola łączy Offensive Security/Red Teaming z bezpieczeństwem rozwiązań GenAI/LLM. Szukamy osoby technicznej, która potrafi nie tylko ocenić ryzyko, ale również samodzielnie testować rozwiązania, automatyzować testy i budować narzędzia wspierające red teaming.

Tryb pracy: hybrydowy, Warszawa

Zakres obowiązków

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed ich wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.
• Identyfikowanie podatności i ryzyk związanych m.in. z prompt injection, jailbreakami, dostępem do danych, RAG i agentami AI.
• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.
• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa całego rozwiązania, w tym API, integracji, IAM/uprawnień, danych, mikroserwisów i infrastruktury.
• Zabezpieczanie rozwiązań AI działających w środowiskach cloud i on premises.
• Przeprowadzanie analiz i ocen ryzyka technicznego.
• Wspieranie zgodności rozwiązań z wymaganiami organizacji oraz regulacjami dotyczącymi AI i sektora finansowego.

Wymagania

• Minimum 5 lat doświadczenia w obszarze bezpieczeństwa IT, najlepiej w Penetration Testingu, Red Teamingu, Offensive Security, Application Security lub Security Engineering.
• Praktyczne, udokumentowane doświadczenie z bezpieczeństwem rozwiązań AI/LLM.
• Doświadczenie w testowaniu podatności i prowadzeniu red teamingu rozwiązań wykorzystujących LLM.
• Znajomość zagrożeń charakterystycznych dla GenAI/LLM, w tym prompt injection, jailbreak, data leakage oraz ryzyk związanych z RAG i agentami AI.
• Znajomość OWASP Top 10 for LLM/GenAI Applications oraz praktycznych metodyk testowania bezpieczeństwa AI.
• Praktyczna znajomość guardrails/safeguards.
• Umiejętność automatyzacji testów bezpieczeństwa i tworzenia narzędzi/skryptów w Pythonie. Nie wymagamy poziomu Python Developera, ale oczekujemy rozumienia tworzonego kodu i umiejętności świadomego wykorzystania go w testach.
• Znajomość bezpieczeństwa architektury mikroserwisowej, środowisk on premises i chmury publicznej, w szczególności Microsoft Azure.
• Umiejętność analizy ryzyka oraz projektowania zabezpieczeń dla całego rozwiązania AI.
• Znajomość wymagań regulacyjnych dotyczących AI w sektorze finansowym, w szczególności AI Act i DORA, oraz standardów ISO 27001 i ISO/IEC 42001.