Postdoc in Large Language Model inferencing

KTH Royal Institute of Technology; Stockholms kommun; On-site; SEK 520,000 - 680,000; Full time

Job summary

KTH söker postdoktor inom inference för stora språkmodeller. Du arbetar i ett Wallenberg Scholar-projekt med fokus på distribuera system för ML-inferens och energibesparing, i samarbete med forskargrupp och forskarkollektiv.

Du bidrar till publikationer och nya ansökningar; erfarenhet av C++, Python och Linux samt engelska krävs. Anställningen är tidsbegränsad upp till två år, med möjlighet till förlängning inom ramen för projektet.

Qualifications

• Doktorsexamen eller motsvarande bedömts likvärdig.
• Gedigen bakgrund inom distribuerade system, nätverk, programmering och operativsystem samt mycket god engelska i tal och skrift.
• Har mycket goda kunskaper i C++, Python, Linux och i ett skriptspråk.
• InternATIONELLA publikationer i tidskrifter och/top-konferenser anses meriterande.

Responsibilities

• Design, implementering och utvärdering av distribuerade system och nätverk för ML-inferens.
• Apply ML-koncept och utveckla agentiska ramverk.
• Delta i experimentellt systemarbete i samarbete med fakultet och doktorander.
• Bidra till vetenskapliga publikationer och nya bidragsansökningar.
• Samarbeta med Professor Dejan Kostic och Universitetslektor Marco Chiesa.

Skills

Distribuerade system

Nätverk

Programmering

Operativsystem

Engelska (tal och skrift)

C++

Python

Linux

Skript-språk

Internationella publikationer

Education

Doktorsexamen eller motsvarande

Tools

GPU-programmering

Storskalig inferens

Job description

Postdoktor inom inferens för stora språkmodeller

Kungliga Tekniska högskolan, Skolan för elektroteknik och datavetenskap

Den utlysta postdoktortjänsten är inom ett ambitiöst, 5-årigt Wallenberg Scholar-projekt med titeln "Scalable and adaptive inferencing for democratizing AI". I detta projekt på 18 miljoner SEK vill vi dramatiskt minska kostnaderna och energiåtgången för att betjäna stora språkmodeller som ChatGPT. Mer information om projektet och vår projektsida med tidiga publikationer.

Arbetet kommer primärt att omfatta design, implementering och utvärdering av distribuerade system och nätverk för maskininlärningsinferens. Tillämpning av maskininlärningskoncept, med målet att utforma agentiska ramverk, kommer också att ingå i projektet.

Som medlem i forskargruppen kommer du att vara involverad i experimentellt systemarbete i samarbete med fakultetsmedlemmar och flera doktorander vid vårt forskningslabb. Du kommer att bidra till vetenskapliga publikationer samt nya bidragsansökningar.

Arbetet kommer utföras i samarbete med Professor Dejan Kostic och Universitetslektor Marco Chiesa.

Kvalifikationer

• Avlagd doktorsexamen eller utländsk examen som bedöms motsvara en doktorsexamen. Detta behörighetskrav ska vara uppfyllt senast vid tidpunkten då anställningsbeslutet fattas.
• Du ska också ha en gedigen bakgrund inom distribuerade system, nätverk, programmering och operativsystem och mycket goda kunskaper i engelska i tal och skrift då det krävs i dagligt arbete.
• Det är viktigt att du har mycket goda kunskaper i kritiskt tänkande samt mycket goda kunskaper i C++, Python, Linux och i något skriptspråk.
• Vi söker en mycket motiverad kandidat med vilja att experimentera och utforska och som har internationella publikationer i tidskrifter och på topp-konferenser.

Meriterande

• Vid sista ansökningsdag högst tre år sedan doktorsexamen eller en utländsk examen som bedöms motsvara doktorsexamen avlades.
• Pedagogisk förmåga, såväl som medvetenhet om mångfalds- och likabehandlingsfrågor med särskilt fokus på jämställdhet.
• Du har god samarbetsförmåga, men kan även arbeta självständigt.
• Erfarenhet av maskininlärning, GPU-programmering eller storskaliga inferenssystem.
• Medvetenhet om mångfalds- och likabehandlingsfrågor med särskilt fokus på jämställdhet

Vi kommer att lägga stor vikt vid personliga egenskaper.

Bli en del av KTH

KTH formar framtiden genom utbildning, forskning och innovation. Som ett ledande internationellt tekniskt universitet spelar vi en aktiv roll i att driva och medverka i omställningen till ett hållbart samhälle. Här erbjuds du möjligheten att växa och utvecklas på en kreativ och dynamisk arbetsplats med goda arbetsvillkor och förmåner. Jämställdhet, mångfald och lika villkor är en kvalitetsfråga och en självklar del av KTH:s värdegrund som universitet och statlig myndighet.

Vi undanber oss direktkontakt med bemannings- och rekryteringsföretag samt försäljare av platsannonser.

Om anställningen

Anställningen gäller tillsvidare, dock längst två år

En anställning som postdoktor är en tidsbegränsad meriteringsanställning med huvudinriktning mot forskning avsedd som ett första karriärsteg efter disputation.

Det kan förekomma att en anställning hos KTH är placerad i säkerhetsklass. Om så är fallet för just denna anställning görs en säkerhetsprövning av sökande i enlighet med säkerhetsskyddslagen (2018:585) efter samtycke. I dessa fall är en förutsättning för anställning att sökande blir godkänd efter säkerhetsprövning.