Postdoktor i AI-säkerhet vid Chalmers tekniska högskola

Vill du bidra till att sätta den teoretiska grunden för AI-alignering? Detta är en spännande möjlighet för en postdoktoral tjänst vid Chalmers tekniska högskola, med fokus på innovativ forskning inom AI-säkerhet ur ett teoretiskt perspektiv. Projektet kommer att ske i nära samarbete med University College London där ytterligare postdoktorer anställs för att arbeta med problemet.

Om oss

Du kommer att ansluta dig till forskargruppen ledd av Dr. Stefano Sarao Mannelli vid Chalmers tekniska högskola och Göteborgs universitet i Göteborg, Sverige. Tjänsten är en del av ett större projekt med Prof. Andrew Saxe vid University College London (UCL). Du kommer också att dra nytta av engagemang med industriella rådgivare från ledande AI-laboratorier (inklusive Anthropic, Meta och Google DeepMind/Mila), vilket säkerställer att forskningen förblir relevant för gränssnittssystem.

I Göteborg kommer du att vara en del av avdelningen för Data Science och AI, inom Institutionen för datavetenskap och teknik, en gemensam institution för Chalmers och Göteborgs universitet, som spänner över hela datavetenskapens discipliner.

Om forskningsprojektet

Projektet, "Teoretiska modellorganismer av missanpassning" - finansierat av ett bidrag från OpenAIs Alignment Team, beviljat av UK AI Security Institute, genom Alignment Project - syftar till att omvandla AI-alignering från reaktivt försök-och-misstag till en förutsägande vetenskap. Istället för att se på alignering som en statisk egenskap, behandlar vi den som vägberoende: en produkt av inlärningsdynamik som uppstår från data, arkitektur och algoritmer. Vi använder verktyg från statistisk fysik och högdimensionell sannolikhet för att bygga hanterbara "modellorganismer" som fångar de grundläggande orsakerna till missanpassning, vilket gör att vi kan härleda kvantitativa lagar för när och varför skadliga förmågor uppstår.

Vem vi söker

Vi söker forskare som syftar till att förstå djupinlärning på djupet, utan att kompromissa för ytliga lösningar.

Följande krav är obligatoriska:

• En doktorsexamen eller en motsvarande utländsk examen i fysik, matematik, datavetenskap eller maskininlärning. Detta behörighetskrav måste uppfyllas senast vid tidpunkten för anställningsbeslutet.
• Starka skriftliga och muntliga kommunikationsfärdigheter på engelska.
• Stark bakgrund inom matematisk modellering och analys.
• Färdighet i programmering för empirisk validering.

Du förväntas vara något van vid undervisning och att visa god potential inom forskning och utbildning.

Följande kommer att stärka din ansökan:

• En doktorsexamen eller en motsvarande utländsk examen, erhållen inom de senaste tre åren före ansökningsdeadline.
• Erfarenhet av statistisk fysik av oordnade system (t.ex. Replica Theory, Dynamical Mean-Field Theory).
• Bekantskap med kontrollteori eller högdimensionell sannolikhet.
• Tidigare arbete med lärar-elev-modeller, djupa linjära nätverk eller liknande teoretiska ramverk.

Vad du kommer att göra

• Du kommer att fokusera på induktiv bias, finjustering och design av åtgärdsstrategier.
• Du kommer att använda teoretiska modeller för att härleda kvantitativa lagar för alignering och validera dem empiriskt.
• Du förväntas delta i konferenser och evenemang relaterade till projektet och regelbundet engagera dig med teamet vid UCL.
• Dessutom kommer du att ägna 20% av din tid åt undervisning, vilket kan inkludera föreläsningar, TA-uppgifter eller handledning av studenter.

Tjänsten är meriterande för framtida roller inom akademin, industrin eller den offentliga sektorn.

Anställningsvillkor

Tjänsten är en tillfällig heltidsanställning i två år med möjlighet till en ettårig förlängning, finansierad av ett bidrag från OpenAIs Alignment Team, beviljat av UK AI Security Institute, genom Alignment Project.

Tjänsten kräver fysisk närvaro under hela anställningen. Ett giltigt uppehållstillstånd måste uppvisas senast vid startdatumet, annars kan erbjudandet dras tillbaka.

Vad vi erbjuder

• Som postdoktor vid Chalmers är du anställd och njuter av alla anställningsförmåner. Läs mer om att arbeta på Chalmers, Göteborg och våra förmåner för anställda.
• Läs mer om Sveriges generösa föräldraledighet, subventionerad barnomsorg, gratis skolor, sjukvård etc. på Move To Gothenburg.

Chalmers är engagerad i att förbättra könsbalansen och arbetar aktivt med jämlikhetsprojekt, såsom GENIE-initiativet för jämställdhet och excellens. Vi firar mångfald och anser att jämlikhet och inkludering är grundläggande aspekter av alla våra aktiviteter.

Om svenska inte är ditt modersmål erbjuder Chalmers svenska kurser för att hjälpa dig att bosätta dig.

Ansökningsförfarande

För att lära dig mer om ansökningsprocessen, vänligen klicka här för att gå till Chalmers lediga tjänster.

Observera: Sökande är ansvarig för att säkerställa att ansökan är komplett. Ofullständiga ansökningar och ansökningar som skickas via e-post kommer inte att beaktas.

Vi välkomnar din ansökan senast den 1 april.

För frågor, vänligen kontakta:
Stefano Sarao Mannelli
Biträdande professor
[email protected]

Vi ser fram emot din ansökan!

* Chalmers avböjer att överväga alla erbjudanden om ytterligare annonsering eller andra typer av stöd för rekryteringsprocessen i samband med denna tjänst.*

Chalmers tekniska högskola bedriver forskning och utbildning inom ingenjörsvetenskap, arkitektur, matematiska vetenskaper, naturvetenskap och sjöfartsvetenskap, i nära samarbete med industri och samhälle.

Strategin för vetenskaplig excellens fokuserar på våra åtta områden för framsteg; Byggd miljö, Energi, Informations- och kommunikationsteknik, Livsvetenskap, Materialvetenskap, Nanovetenskap och nanoteknik, Produktion och Transport. Målet är att aktivt bidra till en hållbar framtid med grundvetenskaperna som grund och innovation och entreprenörskap som centrala drivkrafter. Chalmers har cirka 11 000 studenter och 3 000 anställda. Ny kunskap och förbättrad teknik har präglat Chalmers sedan grundandet 1829, helt i enlighet med William Chalmers vilja och hans motto: Avancez!