Stypendium badawcze: Ewaluacja i bezpieczne adaptacje AI

Nask; Polska; Hybrid; PLN 56.000 - 73.000; Vollzeit

Benefits dieser Stelle

Elastyczne godziny pracy

Zusammenfassung

NASK w Warszawie ogłasza konkurs na stypendium w projekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa w modelach AI”. Wynagrodzenie 5 000 PLN dla studenta magisterskiego lub 6 500 PLN dla doktoranta. Okres trwania do 22 września 2029 r.

Umowa stypendialna, praca hybrydowa lub zdalna, możliwość rozwoju naukowego i udziału w konferencjach AI. Celem jest opracowanie metody wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA, z naciskiem na

Qualifikationen

• Wiedza z dziedziny uczenia głębokiego.
• Praktyczne doświadczenie z Python oraz wybranymi frameworkami (PyTorch, TensorFlow).
• Znajomość języka angielskiego na poziomie komunikatywnym.
• Doświadczenie publikacyjne będzie dodatkowym atutem.

Aufgaben

• Implementacja algorytmów dostrajania oraz ewaluacji model AI.
• Badanie bezpieczeństwa modeli AI.
• Przygotowywanie prototypów i przeprowadzanie testów proponowanych rozwiązań; raportowanie wyników.
• Rozpowszechnianie wyników badań naukowych poprzez prezentowanie koncepcji na konferencjach AI.

Kenntnisse

Głębokie uczenie

Python

PyTorch

TensorFlow

Angielski

Ausbildung

Studia I stopnia w informatyce, fizyce, matematyce lub pokrewne

Jobbeschreibung

Konkurs - stypendium w projekcie badawczym

5000 PLN (studia II stopnia) lub 6500 PLN (doktorant/-tka)

• Warszawa
• umowa stypednialna
• praca haybrydowa / zdalna

Kierownik projektu ogłasza konkurs na 1 stypendium wprojekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa wmodelach AI”, finansowanym zbudżetu Narodowego Centrum Nauki (konkurs SONATA), prowadzonym przez NASK-PIB.

Gwałtowny rozwój modeli sztucznej inteligencji, aw szczególności modeli bazowych (ang. foundation models), zrewolucjonizował takie dziedziny, jak widzenie komputerowe czy przetwarzanie języka naturalnego. Jednak powszechnie stosowane strategie adaptacji, takie jak dostrajanie (ang. fine-tuning), wiążą się zistotnymi zagrożeniami. Wszczególności dostrajanie, może również prowadzić do katastrofalnego zapominania, wtym utraty zgodności zzałożonymi wartościami (ang. misalignment) lub pojawiania się niebezpiecznych zachowań.

Ponadto obecne praktyki ewaluacyjne pozostają niewystarczająco wiarygodne. Raportowane wzrosty skuteczności często mogą wynikać zzapamiętania danych wykorzystanych podczas pretreningu, anie zrzeczywistej zdolności do generalizacji. Jest to szczególnie istotny problem wzastosowaniach związanych zbezpieczeństwem. Bez rygorystycznej ewaluacji deklaracje dotyczące odporności iwiarygodności modeli pozostają niepewne, narażając społeczeństwo na trudne do wykrycia zagrożenia.

CEL BADAWCZY - opracowanie metod wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA. Projekt koncentruje się na poniższych kluczowych pytaniach badawczych:

• Ewaluacja - jak projektować benchmarki, które wiarygodnie mierzą rzeczywistą zdolność generalizacji, wolną od zanieczyszczenia danymi wykorzystanymi podczas pretreningu? Oraz jak wykrywać potencjalnie ukryte podatności wmodelach?
• Adaptacja - jak dostrajać modele do zadań docelowych, zachowując jednocześnie ich zgodność zzałożonymi zasadami, odporność oraz bezpieczeństwo?

Metodyka będzie łączyć automatyczne wykrywanie ieliminowanie nakładania się danych treningowych iewaluacyjnych, diagnostykę wewnętrznych aktywacji izachowania modeli wcelu identyfikacji ukrytych podatności. Ponadto rozwijane będą strategie dostrajania ograniczające katastrofalne zapominanie ipozwalające zachować zgodność zzałożonymi zasadami, odporność ibezpieczeństwo modelu podczas adaptacji do nowych zadań. Prace będą prowadzone na współczesnych modelach językowych, wtym multimodalnych.

Zakres prac stypendysty/stypendystki wprojekcie badawczym:

• Implementacja algorytmów dostrajania oraz ewaluacji model AI;
• Badanie bezpieczeństwa modeli AI;
• Przygotowywanie prototypów iprzeprowadzanie testów proponowanych rozwiązań; raportowanie wyników;
• Rozpowszechnianie wyników badań naukowych poprzez prezentowanie proponowanych koncepcji na wiodących konferencjach naukowych AI;

Nasze wymagania:

• Status studenta/-tki (ukończone studia Istopnia wdziedzinach: informatyka, fizyka, matematyka, lub pokrewne) lub status doktoranta/-tki wwymienionych dziedzinach;
• Wiedza zdziedziny uczenia głębokiego;
• Praktyczne doświadczenie zPython oraz wybranymi frameworkami (PyTorch, Tensorflow);
• Znajomość języka angielskiego wstopniu komunikatywnym;
• Doświadczenie publikacyjne będzie dodatkowym atutem;

Prosimy oprzesłanie CV zawierającego informacje o:

• wykształceniu,
• osiągnięciach naukowych, wszczególności: publikacjach wwydawnictwach/czasopismach naukowych, odbytych stypendiach, stażach naukowych, otrzymanych nagrodach,
• doświadczeniu programistycznym iuczestnictwie we wdrożeniach,
• poziomie znajomości języka angielskiego,
• innym doświadczeniu zdobytym wkraju lub za granicą .

Termin przyjmowania zgłoszeń: 28 października 2026 r.

Termin rozstrzygnięcia konkursu: 13 listopada 2026 r.

• Stypendium wwysokości 5000 PLN (student/-tka studiów magisterskich) lub 6500 PLN (doktorant/-tka) miesięcznie;
• Okres trwania stypendium: maksymalnie do 22 września 2029 r.;
• Możliwość rozwoju naukowego pod kierunkiem doświadczonych badaczy;

Stypendium może być wypłacone wyłącznie doktorantowi/-tce przy założeniu, że doktorant/-tka spełnia wymagania określone stosownymi przepisami ustawy zdnia 20 lipca 2018 r. Prawo oszkolnictwie wyższym inauce (t.j. Dz. U. z2023 r. poz. 742 zpóźn. zm.) niezbędne do pobierania stypendium doktoranckiego przez cały okres realizacji planowanych zadań wprojekcie.

Zapewniamy dobre warunki pracy

O właściwych ludzi trzeba odpowiednio dbać. Dlatego oferujemy cały szereg dodatkowych korzyści. Od szkoleń i kursów zawodowych, poprzez zajęcia z jogi i owocowe czwartki, po dofinansowaną kartę Multisport albo zwrot za bilety do kina czy teatru. To wszystko jest jednak dodatkiem do tego, że po prostu dobrze się z nami pracuje.

Elastyczne godziny pracy

Zaczynamy między 7 a 10 rano.

Równowaga między pracą a życiem

Dbamy o zachowanie zdrowego podejścia do obowiązków służbowych.

Szkolenia i konferencje

Daje możliwość podnoszenia swoich kompetencji.

Działamy na pograniczu nauki, cyberbezpieczeństwa i nowych technologii.

Opieka medyczna

Każdy pracownik ma możliwość korzystania z prywatnej opieki medycznej

Zachęcamy do aktywności sportowej lub uzyskania zwrotu za wydatki poniesione na kulturę.

Dofinansowanie wypoczynku

Zwracamy część kosztów związanych z urlopem (tzw. wakacje pod gruszą).

Ubezpieczenie na życie

Dajemy możliwość zawarcia dodatkowego ubezpieczenia na życie.