AI Security Engineer (f/m/x)

B2B.NET S.A.; Warszawa; On-site; PLN 180,000 - 320,000; Full time

Job summary

B2B.NET S.A. poszukuje AI Security Engineera do zespołu zajmującego się rozwijaniem i wdrażaniem rozwiązań AI w dużej organizacji finansowej. Rola łączy Offensive Security/Red Teaming z bezpieczeństwem GenAI/LLM.

Szukamy osoby, która potrafi oceniać ryzyko, samodzielnie testować i tworzyć narzędzia wspierające red teaming. Pracownik będzie prowadzić testy bezpieczeństwa, identyfikować podatności, wdrażać guardrails oraz rozwijać wewnętrznych agentów AI wspierających testy; zapewni analizę

Qualifications

• Minimum 5 lat doświadczenia w bezpieczeństwie IT (Penetration Testing/Red Teaming/Offensive Security lub Security Engineering).
• Praktyczne doświadczenie z bezpieczeństwem AI/LLM.
• Doświadczenie w testowaniu podatności i red teamingu rozwiązań z AI/LLM.
• Znajomość zagrożeń GenAI/LLM, m.in. prompt injection, jailbreak, data leakage i ryzyka RAG/agentów AI.
• Znajomość OWASP Top 10 dla GenAI/LLM Apps oraz metod testowania bezpieczeństwa AI.
• Guardrails/Safeguards - praktyczne podejście.
• Automatyzacja testów bezpieczeństwa i tworzenie narzędzi w Pythonie.
• Znajomość bezpieczeństwa architektury mikroserwisowej, on-prem oraz chmur publicznych, zwłaszcza Azure.
• Analiza ryzyka i projektowanie zabezpieczeń dla całego rozwiązania AI.
• Wymagania regulacyjne AI w sektorze finansowym (AI Act, DORA) i ISO 27001 / ISO/IEC 42001.

Responsibilities

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.
• Identyfikacja podatności i ryzyk związanych z prompt injection, jailbreakami, danymi i RAG/agentami AI.
• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.
• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa całego rozwiązania (API, integracje, IAM, dane, mikroserwisy, infra).
• Zabezpieczanie AI w środowiskach cloud i on-prem.
• Wspieranie zgodności z AI/regulacjami sektora finansowego.

Skills

Penetration Testing

Red Teaming

Offensive Security

Application Security

Security Engineering

Python

Automation

Azure Security

Job description

Nasze wymagania:

• Minimum 5 lat doświadczenia w obszarze bezpieczeństwa IT, najlepiej w Penetration Testingu, Red Teamingu, Offensive Security, Application Security lub Security Engineering.
• Praktyczne, udokumentowane doświadczenie z bezpieczeństwem rozwiązań AI/LLM.
• Doświadczenie w testowaniu podatności i prowadzeniu red teamingu rozwiązań wykorzystujących LLM.
• Znajomość zagrożeń charakterystycznych dla GenAI/LLM, w tym prompt injection, jailbreak, data leakage oraz ryzyk związanych z RAG i agentami AI.
• Znajomość OWASP Top 10 for LLM/GenAI Applications oraz praktycznych metodyk testowania bezpieczeństwa AI.
• Praktyczna znajomość guardrails/safeguards.
• Umiejętność automatyzacji testów bezpieczeństwa i tworzenia narzędzi/skryptów w Pythonie.
• Znajomość bezpieczeństwa architektury mikroserwisowej, środowisk on premises i chmury publicznej, w szczególności Microsoft Azure.
• Umiejętność analizy ryzyka oraz projektowania zabezpieczeń dla całego rozwiązania AI.
• Znajomość wymagań regulacyjnych dotyczących AI w sektorze finansowym, w szczególności AI Act i DORA, oraz standardów ISO 27001 i ISO/IEC 42001.

O projekcie:

Szukamy AI Security Engineera, który dołączy do zespołu rozwijającego i wdrażającego rozwiązania AI w dużej organizacji z sektora finansowego. Rola łączy Offensive Security/Red Teaming z bezpieczeństwem rozwiązań GenAI/LLM. Szukamy osoby technicznej, która potrafi nie tylko ocenić ryzyko, ale również samodzielnie testować rozwiązania, automatyzować testy i budować narzędzia wspierające red teaming.

Zakres obowiązków:

• Opiniowanie i ocena rozwiązań AI pod kątem bezpieczeństwa przed ich wdrożeniem.
• Prowadzenie testów bezpieczeństwa i red teamingu rozwiązań opartych na LLM.
• Identyfikowanie podatności i ryzyk związanych m.in. z prompt injection, jailbreakami, dostępem do danych, RAG i agentami AI.
• Przygotowywanie, wdrażanie i testowanie guardrails/safeguards.
• Automatyzacja procesów security testingu i budowa narzędzi wspierających red teaming.
• Rozwój wewnętrznych agentów AI wspierających testy bezpieczeństwa.
• Analiza bezpieczeństwa całego rozwiązania, w tym API, integracji, IAM/uprawnień, danych, mikroserwisów i infrastruktury.
• Zabezpieczanie rozwiązań AI działających w środowiskach cloud i on premises.
• Przeprowadzanie analiz i ocen ryzyka technicznego.
• Wspieranie zgodności rozwiązań z wymaganiami organizacji oraz regulacjami dotyczącymi AI i sektora finansowego.