This thesis concerns the application of methods and techniques from the theory of inverse problems and differential equations to study models arising in the areas of mathematical oncology and deep learning. 

The first problem studied is to develop methods to perform numerical simulations with full 3-dimensional brain imaging data of reaction-diffusion models for tumour growth forwards as well as backwards in time with the goal of enabling the numerical reconstruction of the source of the tumour given an image (or similar data) at a later stage in time of the tumour. This inverse ill-posed problem is solved as a sequence of well-posed forward problems using the nonlinear Landweber regularization method. Such models and method allow to generate realistic synthetic medical images that can be used for data augmentation. Mathematical analysis of the problems solved as well as establishing uniqueness of the source are presented. 

The second problem includes a novel method allowing training self-contained neural ordinary differential equation networks (termed standalone NODEs) via a nonlinear conjugate gradient method, where the Sobolev gradient can be incorporated to improve smoothness of model weights. Relevant functions spaces are introduced, the adjoint problems with the needed gradients are calculated and the robustness is studied. The developed framework has many advantages in that it can incorporate relevant dynamics from physical models as well as help to understand more on how neural networks actually work and how sensitive they are to natural and adversarial perturbations. 

Combination of the two main problems will allow for example the training of neural networks to identify tumours in real imaging data. 

Syftet med avhandlingen är att undersöka matematiska modeller och metoder för tillväxt av hjärntumörer samt för artificiella neurala nätverk inom maskininlärning.

I första delen studeras en matematisk modell för tillväxt av hjärntumörer. Den anger hur tumörcellerna ändras över tid. Data innehåller bland annat information om värden på parametrar och cellernas fördelning vid en viss tidpunkt. Modellen har den bra egenskapen att fel i data inte direkt stör beräknad tillväxt. Ibland behöver parametrar skattas eller så behöver man stega bakåt i tiden för att ta reda på hur tumören såg ut tidigare. Dessa uppgifter är exempel på inversa och illaställda problem. Sådana problem är svårare för att fel i data inte kan kontrolleras utan kan förstöra beräkningar. I avhandlingen föreslås metoder som kallas regulariserande eftersom dessa på ett stabilt sätt, d.v.s. utan att felen förstör, beräknar tumörens form bakåt i tiden. Egenskaper hos metoderna undersöks och 3-dimensionella datorberäkningar utförs av tumörens förändring.

Den andra och sista delen studerar en gren av artificiell intelligens och maskininlärning, så kallade djupa neurala nätverk. Dessa är inspirerade av hjärnan med dess många nervceller kopplade i form av lager. Sådana nätverk tränas att klara en uppgift som att finna tumörer i medicinska bilder. I de här neurala nätverken finns lager med okända parametrar, vilka för en sådan uppgift bestäms från en stor mängd data. En matematisk modell som kan hantera oändligt många lager i ett neuralt nätverk föreslås och det inversa problemet att beräkna de okända parametrarna i nätverket undersöks. Stabila metoder som i första delen framtas. Med hjälp av matematik och modellens struktur kan viktiga frågor om stabilitet och känslighet hos djupinlärning besvaras.

I framtiden kan de två delarna, matematisk modellering och maskininlärning, kopplas samman för att på ett förfinat och stabilt sätt bestämma tillväxten hos tumörer både framåt och bakåt i tiden.