Umeå universitet, Institutionen för datavetenskap

Projekt: Formell verifiering av etiska principer hos AI-system 

Umeå universitet söker en doktorand inom Wallenberg Artificial Intelligence, Autonomous Systems and Software Program (WASP). i datavetenskap med inriktning mot formell verifiering av etiska principer hos AI-system. Anställningen är placerad vid institutionen för datavetenskap. Forskarutbildningen omfattar fyra års heltidsstudier. Sista ansökningsdag är den 31 januari 2019.

Institutionen för datavetenskap är en dynamisk institution med ca 100 anställda från drygt 20 länder. Vi bedriver utbildning och forskning inom ett brett spektrum av det datavetenskapliga området, och erbjuder utbildning på grundnivå, avancerad nivå och forskarnivå. Institutionens forskning är internationellt väletablerad och omfattar grundforskning, metodutveckling och programutveckling men även forskning och utveckling inom olika tillämpningsområden. Gruppen för social och etisk artificiell intelligens bedriver forskning om AI-system som tar socialt ansvar. Detta inbegriper utveckling av teorier, modeller och verktyg för övervakning, ansvarighet och verifiering, och metoder för att analysera, designa, mäta och revidera sociala effekter. Gruppen samarbetar med flera nationella och internationella forskargrupper, och har kopplingar till industri och policyorganisationer. Se http://people.cs.umu.se/virginia/ för mer information.

WASP
Projektet är en del av Wallenberg AI, Autonomous Systems and Software Program (WASP), Sveriges största enskilda forskningsprogram någonsin! WASP är ett nationellt initiativ för strategisk grundforskning, utbildning och rekrytering. Programmet har initierats och finansieras av Knut och Alice Wallenbergs stiftelse (KAW) med 2,6 mdr SEK. Dessutom bidrar industri och universitet till den totala budgeten på 3,5 mdr SEK. Bland de övergripande målen är 50 nya professorer och mer än 300 nya doktorer inom artificiell intelligens, autonoma system och mjukvara. WASPs vision är forskningsexcellens och industriell relevans inom dessa områden. För mer information om forskning och andra aktiviteter se http://wasp-sweden.org/ .

Forskarskolan inom WASP erbjuder grunder, nya perspektiv och spetskunskap inom olika vetenskaper med undervisning av ledande forskare. Genom ett ambitiöst program med forskningsbesök, partneruniversitet och besökande föreläsare stödjer forskarskolan aktivt byggandet av ett starkt tvärvetenskapligt och internationellt professionellt nätverk mellan doktorander, forskare och industrin. Den erbjuder ett mervärde utöver universitetens existerande doktorandprogram och en unik möjlighet för studenter som lockas av internationell forskning i världsklass med hög industriell relevans.

Projektbeskrivning
AI-system väntas alltmer fungera självständigt. Att använda aktuella maskinlärningsmetoder som fokuserar på mönstermatchning och bygger på korrelationsmetoder leder till ogenomträngliga system som är notoriskt svåra att övervaka (de så kallade black box-algoritmerna). Förtroendet för autonoma system beror emellertid på möjligheten att verifiera och minimalt kontrollera deras beteende. Framför allt blir det allt viktigare att formellt säkerställa att AI-systemets beteende följer vissa givna principer.

Ett angeläget forskningsområde inom AI är därför utveckling av teorier och metoder för kontroll och verifiering av AI-system som anpassar sig till sin omgivning utan något direkt ingripande av användaren. Detta kräver att man går utöver traditionella metoder för verifiering och övervakning, av två huvudskäl. För det första, ett autonomt system kommer per definition att fungera i öppna miljöer, som inte kan beskrivas eller definieras a priori, och därför kommer givna beteenderegler och begränsningar inte att helt och hållet kunna inbegripa alla tänkbara situationer som systemet stöter på. För det andra är det oundvikligt att system i öppna miljöer inte är helt transparenta, t.ex. eftersom systemen utvecklas och drivs av olika parter, med eventuella äganderättsproblem.

Förtroende för ett system kräver dock att vi kan försäkra oss om att systemet uppfyller sociala värderingar och etiska principer som rättvisa, icke-diskriminering, säkerhet och integritet. Teorier och verktyg behövs för att specificera beräkningsbara representationer av dessa begrepp och för att verifiera att ett givet system följer dessa. Detta forskningsprojekt kommer att utveckla metoder för att verifiera och övervaka det etiska uppförandet hos AI-system, baserat på observation av input och output-uppförande, enligt en social optimering som ständigt utvecklas.
undersöka formella förhållningssätt till verifiering och kontroll av autonoma system som tar hänsyn till olika värdegrund och krav hos intressenter, dynamiken i den omgivande miljön och bristen på transparens i inlärningsmetoder. De resulterande lösningarna kommer att möjliggöra övervakning och styrning av ett AI-systems inmatning och utmatning, baserat på en uppsättning etiska principer.

Om anställningen
Anställningen syftar till en doktorsexamen och är tidsbegränsad till fyra år heltid eller upp till fem år vid undervisning deltid (max 20%). Doktorandanställningen förväntas vara tillsatt 2019-03-01 eller enligt överenskommelse.

Kvalifikationer
De grundläggande behörighetskraven för att bli antagen till utbildning på forskarnivå är avlagd examen på avancerad nivå, eller slutförda kurser om minst 240 högskolepoäng, varav minst 60 högskolepoäng på avancerad nivå, eller motsvarande utländsk utbildning, eller motsvarande kvalifikationer. De särskilda behörighetskraven för att antas till utbildning på forskarnivå i datavetenskap är slutförda kurser på avancerad nivå om minst 60 högskolepoäng i datavetenskap eller i ett annat ämne som bedöms vara direkt relevant för den aktuella forskningsinriktningen.

Sökande förväntas ha mycket goda kunskaper i artificiell intelligens och formella metoder. Dokumenterad kunskap i formell logik, teorembevisning och verifiering är ett krav. I synnerhet ska den sökande ha god kännedom om relevanta formella och algoritmiska tekniker och om metoder för kunskapsrepresentation. Dessa tekniker och metoder kommer under projektets gång att tillämpas för att utveckla övervaknings- och verifieringsmodeller för AI-algoritmer.
Eftersom forskning sker i samverkan med forskare inom olika discipliner krävs god samarbetsförmåga. Ett krav är att den sökande måste kunna både tala och skriva engelska flytande.

Ansökan
En fullständig ansökan ska innehålla:

• Ett personligt brev med kort beskrivning av dina forskningsintressen och en motivering varför du söker, samt din kontaktinformation
• En meritförteckning (CV)
• I förekommande fall kopior av kandidat- och masteruppsatser, samt andra vetenskapliga publikationer
• Betygskopior, examensbevis, samt dokumentation över avslutade akademiska kurser
• Kontaktinformation för två tillfrågade kontaktpersoner

Ansökan ska vara skriven på svenska eller engelska. Om bifogade dokument har annat originalspråk ska en översättning inkluderas. Bifogade dokument ska vara i Word eller pdf-format. Ansökan ska göras via Umeå universitets e-rekryteringssystem och vara inkommen senast 2019-01-31. Referensnummer: AN 2.2.1-2063-18. Logga in i systemet och ansök via knappen längst ner på webbsidan.
Intresserade sökande uppmanas också att ansöka till anställningen med diarienummer AN 2.2.1-2063-18.

Institutionen värdesätter de kvaliteter som en jämn könsfördelning tillför verksamheten. Vi ser därför gärna kvinnor som sökande till befattningen.
Enligt Högskoleförordningen (12 kap, 2§) kan beslutet om anställning inte överklagas.
Närmare upplysningar lämnas av professor Virginia Dignum. virginia@cs.umu.se .

Välkommen med din ansökan!



Anställningsform Tidsbegränsad anställning
Anställningens omfattning Heltid
Tillträde 2019-03-01 eller enligt överenskommelse
Löneform Månadslön
Antal lediga befattningar 1
Sysselsättningsgrad 100%
Ort Umeå
Län Västerbottens län
Land Sverige
Referensnummer AN 2.2.1-2063-18
Kontakt
  • Virginia Dignum, professor, 090-7866308
Facklig företrädare
  • SACO, 090-786 53 65
  • SEKO, 090-786 52 96
  • ST, 090-786 54 31
Publicerat 2018-12-07
Sista ansökningsdag 2019-01-31

Tillbaka till lediga jobb