Distributional Learning and Optimization for Decision-Making and Generative Modeling
Tid: To 2026-11-26 kl 09.00
Plats: F3 (Flodis), Lindstedtsvägen 26 & 28, Stockholm
Språk: Engelska
Ämnesområde: Elektro- och systemteknik
Respondent: Zifan Wang , Reglerteknik
Opponent: Associate Professor Navid Azizan, MIT, Cambridge, MA, USA
Handledare: Professor Karl H. Johansson, Reglerteknik; Professor Michael Zavlanos, Duke University, Durham, North Carolina, USA
QC 20261030
Abstract
Sannolikhetsfördelningar beskriver möjliga utfall och deras sannolikheter och utgör därmed en grund för att utvärdera och förbättra beslutsfattande under osäkerhet. Fördelningsbaserad inlärning och optimering syftar till att karakterisera, optimera och styra dessa fördelningar för att uppnå uppgiftsspecifika mål. En central utmaning är att utifrån ett ändligt antal observationer lära sig och utnyttja relevant information om fördelningarna, samtidigt som statistisk tillförlitlighet och beräkningsmässig hanterbarhet säkerställs. Denna avhandling behandlar utmaningen i flera problem inom beslutsfattande och generativ modellering och ger fyra specifika bidrag.
Det första bidraget fokuserar på att styra diffusions- och flödesmodeller mot önskade utfall. Vi föreslår en ny styrmetod som modifierar källfördelningen medan det förtränade vektorfältet hålls oförändrat. Vi ger teoretiska garantier för metoden och visar att den uppnår ledande prestanda för flera inversa problem inom bildbehandling. Vi utvecklar även en metod för finjustering av flödesmodeller som tar hänsyn till fördelningssvansarna och använder riskmåttet conditional value-at-risk (CVaR) för att förbättra prestandan i belöningsfördelningens övre eller nedre svans. Experiment med högdimensionell text-till-bild-generering och molekyldesign visar att metoden ger bättre prestanda i fördelningssvansarna med lägre beräkningskostnad än befintliga metoder.
Det andra bidraget behandlar optimering av prestandan i värsta fall över en mängd rimliga fördelningar för att förbättra robustheten. Vi föreslår ett nytt ramverk för fördelningsrobust optimering som tar hänsyn till avvikande observationer genom ett nytt avvikelsemått inspirerat av obalanserad optimal transport. Vi visar att stark dualitet gäller och härleder beräkningsmässigt hanterbara omformuleringar som möjliggör effektiv optimering i både centraliserade och federerade miljöer. Experiment med regression och klassificering visar våra metoders effektivitet.
Det tredje bidraget fokuserar på riskavert inlärning i onlinespel, där agenterna minimerar CVaR för sina kostnadsfördelningar enbart med hjälp av stickprov av sina egna kostnader. Vi utvecklar inlärningsalgoritmer av nollte ordningen som använder återanvändning av stickprov och residualåterkoppling för att effektivt utnyttja de begränsade observationerna. Vi visar att algoritmerna med hög sannolikhet uppnår sublinjär ånger (regret) och demonstrerar deras effektivitet i Cournotspel.
Det sista bidraget behandlar fördelningsbaserad förstärkningsinlärning inom stokastisk linjärkvadratisk reglering. För en given återkopplingsregulator härleder vi ett uttryck i sluten form för den kumulativa stokastiska avkastningen, vilket gäller för godtyckliga oberoende och likafördelade störningar. Vidare analyserar vi avkastningsfördelningen, inklusive en övre gräns för dess varians, dess känslighet för modellfel och approximationsfel vid ändliga stickprov. Slutligen visar vi nyttan av denna fördelningsinformation genom att använda den för riskavert reglering.