Enkeltfag Engelsk 5 ECTS

Optimering til datavidenskab

Overordnede kursusmål

Matematisk optimering anvendes til en bred vifte af opgaver inden for datavidenskab, såsom statistisk estimering, dimensionsreduktion, klyngedannelse, hyperparameter-bestemmelse og modeltræning. Dette kursus giver en dyb forståelse af den underliggende matematiske optimeringsteori, der spænder fra grundlæggende principper til state-of-the-art metoder og skalerbare løsningsteknikker, som er anvendelige på en række af optimeringsproblemer, der opstår inden for datavidenskab. Studerende vil endvidere opnå en forståelse af samspillet mellem optimering og datavidenskab samt evnen til at forstå og analysere de indre mekanismer i forskellige optimeringsalgoritmer, hvilket gør den studerende i stand til at skelne mellem styrker og svagheder ved forskellige problemformuleringer og løsningsmetoder.

See course description in English

forklare grundlæggende koncepter inden for konveks analyse, herunder konvekse mængder og funktioner, konjugerede funktioner og subdifferentierbarhed
karakterisere optimeringsproblemer baseret på deres matematiske egenskaber (f.eks. glatte/ikke-glatte, konvekse/ikke-konvekse, kontinuerte/diskrete, ubegrænsede/begrænsede) og genkende konsekvenserne af disse egenskaber for løsningsmetode
formulére optimeringsproblemer og udlede optimalitetsbetingelser og Lagrange-dualproblem
forklare hvordan ændringer i bibetingelser påvirker den optimale løsning
anvende surrogatmodeller og konvekse Rumpelstiltskin
forklare eksplicitte og implicitte reguleringsteknikker
analysere og anvende stokastiske optimeringsmetoder
implementere skalerbare algoritmer til at løse optimeringsproblemer inden for datavidenskab
anvende strategier til bestemmelse af hyperparametre
sammenligne forskellige optimeringsalgoritmer og vurdere afvejninger med hensyn til konvergenshastighed, robusthed og skalerbarhed

Optimeringens rolle i datavidenskab (modelantagelser, afvejning mellem approksimations-, estimerings- og optimeringsfejl, reguleringsteknikker). Optimeringsteori (globale og lokale optimeringsmetoder, surrogatmodeller, optimalitetsbetingelser), konveks analyse (konvekse mængder og funktioner, konjugeret funktion, subdifferentiale) og problemtransformationer. Optimeringsproblemer og deres egenskaber (lineære/konvekse/ikke-lineære, glatte/ikke-glatte, kontinuerte/diskrete, ubegrænsede/begrænsede). Surrogatmodeller og lempelsesteknikker. Optimeringsalgoritmer (metoder af første orden, proximal-operator, quasi-Newton metoder, Newtons metode, stokastiske metoder, Bayesiansk optimering) og konvergensanalyse. Randomiseret numerisk lineær algebra og implementering af skalerbare løsningsmetoder til specifikke optimeringsproblemer inden for datavidenskab.

01005/01006/01020/01025/01034/01035/01037/02402/02403/02601, kursus i lineær algebra og differential -og integralregning (f.eks 01005/01006/01020 and 01025/01034/01035/01037), statistik (f.eks. 02402/02403) og numeriske algoritmer (f.eks. 02601). Godt kendskab til et højniveau-programmeringssprog som f.eks. Python, Julia eller MATLAB forventes. Kursus i sandsynlighedsteori (f.eks. 02405) og matematisk optimering (f.eks. 02610) anbefales men er ikke strengt nødvendigt.