liu.seSearch for publications in DiVA
Endre søk
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • oxford
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf
Efficient Covariance Approximations for Large Sparse Precision Matrices
Linköpings universitet, Institutionen för datavetenskap, Statistik och maskininlärning. Linköpings universitet, Filosofiska fakulteten.
Univ Edinburgh, Scotland.
Chalmers, Sweden; Univ Gothenburg, Sweden.
Linköpings universitet, Institutionen för datavetenskap, Statistik och maskininlärning. Linköpings universitet, Filosofiska fakulteten.
2018 (engelsk)Inngår i: Journal of Computational And Graphical Statistics, ISSN 1061-8600, E-ISSN 1537-2715, Vol. 27, nr 4, s. 898-909Artikkel i tidsskrift (Fagfellevurdert) Published
Abstract [en]

The use of sparse precision (inverse covariance) matrices has become popular because they allow for efficient algorithms for joint inference in high-dimensional models. Many applications require the computation of certain elements of the covariance matrix, such as the marginal variances, which may be nontrivial to obtain when the dimension is large. This article introduces a fast Rao-Blackwellized Monte Carlo sampling-based method for efficiently approximating selected elements of the covariance matrix. The variance and confidence bounds of the approximations can be precisely estimated without additional computational costs. Furthermore, a method that iterates over subdomains is introduced, and is shown to additionally reduce the approximation errors to practically negligible levels in an application on functional magnetic resonance imaging data. Both methods have low memory requirements, which is typically the bottleneck for competing direct methods.

sted, utgiver, år, opplag, sider
AMER STATISTICAL ASSOC , 2018. Vol. 27, nr 4, s. 898-909
Emneord [en]
Gaussian Markov random fields; Selected inversion; Sparse precision matrix; Spatial analysis; Stochastic approximation
HSV kategori
Identifikatorer
URN: urn:nbn:se:liu:diva-153715DOI: 10.1080/10618600.2018.1473782ISI: 000453029500018OAI: oai:DiVA.org:liu-153715DiVA, id: diva2:1276178
Merknad

Funding Agencies|Swedish Research Council (Vetenskapsradet) [2013-5229, 2016-04187]; European Unions Horizon 2020 Programme for Research and Innovation [640171]

Tilgjengelig fra: 2019-01-07 Laget: 2019-01-07 Sist oppdatert: 2020-06-29
Inngår i avhandling
1. Scalable Bayesian spatial analysis with Gaussian Markov random fields
Åpne denne publikasjonen i ny fane eller vindu >>Scalable Bayesian spatial analysis with Gaussian Markov random fields
2020 (engelsk)Doktoravhandling, med artikler (Annet vitenskapelig)
Alternativ tittel[sv]
Skalbar Bayesiansk spatial analys med Gaussiska Markov-fält
Abstract [en]

Accurate statistical analysis of spatial data is important in many applications. Failing to properly account for spatial autocorrelation may often lead to false conclusions. At the same time, the ever-increasing sizes of spatial datasets pose a great computational challenge, as many standard methods for spatial analysis are limited to a few thousand data points.

In this thesis, we explore how Gaussian Markov random fields (GMRFs) can be used for scalable analysis of spatial data. GMRFs are closely connected to the commonly used Gaussian processes, but have sparsity properties that make them computationally cheap both in time and memory. The Bayesian framework enables a GMRF to be used as a spatial prior, comprising the assumption of smooth variation over space, and gives a principled way to estimate the parameters and propagate uncertainty.

We develop new algorithms that enable applying GMRF priors in 3D to the brain activity inherent in functional magnetic resonance imaging (fMRI) data, with millions of observations. We show that our methods are both faster and more accurate than previous work. A method for approximating selected elements of the inverse precision matrix (i.e. the covariance matrix) is also proposed, which is important for evaluating the posterior uncertainty. In addition, we establish a link between GMRFs and deep convolutional neural networks, which have been successfully used in countless machine learning tasks for images, resulting in a deep GMRF model. Finally, we show how GMRFs can be used in real-time robotic search and rescue operations, for modeling the spatial distribution of injured persons.

Abstract [sv]

Tillförlitlig statistisk analys av spatiala data är viktigt inom många tillämpningar. Om inte korrekt hänsyn tas till spatial autokorrelation kan det ofta leda till felaktiga slutsatser. Samtidigt ökar ständigt storleken på de spatiala datamaterialen vilket utgör en stor beräkningsmässig utmaning, eftersom många standardmetoder för spatial analys är begränsade till några tusental datapunkter.

I denna avhandling utforskar vi hur Gaussiska Markov-fält (eng: Gaussian Markov random fields, GMRF) kan användas för mer skalbara analyser av spatiala data. GMRF-modeller är nära besläktade med de ofta använda Gaussiska processerna, men har gleshetsegenskaper som gör dem beräkningsmässigt effektiva både vad gäller tids- och minnesåtgång. Det Bayesianska synsättet gör det möjligt att använda GMRF som en spatial prior som innefattar antagandet om långsam spatial variation och ger ett principiellt tillvägagångssätt för att skatta parametrar och propagera osäkerhet.

Vi utvecklar nya algoritmer som gör det möjligt att använda GMRF-priors i 3D för den hjärnaktivitet som indirekt kan observeras i hjärnbilder framtagna med tekniken fMRI, som innehåller milliontals datapunkter. Vi visar att våra metoder är både snabbare och mer korrekta än tidigare forskning. En metod för att approximera utvalda element i den inversa precisionsmatrisen (dvs. kovariansmatrisen) framförs också, vilket är viktigt för att kunna evaluera osäkerheten i posteriorn. Vidare gör vi en koppling mellan GMRF och djupa neurala faltningsnätverk, som har använts framgångsrikt för mängder av bildrelaterade problem inom maskininlärning, vilket mynnar ut i en djup GMRF-modell. Slutligen visar vi hur GMRF kan användas i realtid av autonoma drönare för räddningsinsatser i katastrofområden för att modellera den spatiala fördelningen av skadade personer.

sted, utgiver, år, opplag, sider
Linköping: Linköping University Electronic Press, 2020. s. 53
Serie
Linköping Studies in Arts and Sciences, ISSN 0282-9800 ; 790Linköping Studies in Statistics, ISSN 1651-1700 ; 15
Emneord
Spatial statistics, Bayesian statistics, Gaussian Markov random fields, fMRI, Machine learning, Spatial statistik, Bayesiansk statistik, Gaussiska Markov-fält, fMRI, Maskininlärning
HSV kategori
Identifikatorer
urn:nbn:se:liu:diva-165872 (URN)10.3384/diss.diva-165872 (DOI)9789179298180 (ISBN)
Disputas
2020-09-18, Ada Lovelace, B Building, Campus Valla, Linköping, 10:15 (engelsk)
Opponent
Veileder
Tilgjengelig fra: 2020-08-17 Laget: 2020-06-01 Sist oppdatert: 2020-11-24bibliografisk kontrollert

Open Access i DiVA

fulltext(497 kB)599 nedlastinger
Filinformasjon
Fil FULLTEXT01.pdfFilstørrelse 497 kBChecksum SHA-512
dfa987ffb65a308baf0d49595d974a36d55a676a31c54fedcec3932cd84ae355864997f7f62e1fdaea79911aa331ff57c8c77295619479437139533ea9dda1d3
Type fulltextMimetype application/pdf

Andre lenker

Forlagets fulltekst

Søk i DiVA

Av forfatter/redaktør
Sidén, PerVillani, Mattias
Av organisasjonen
I samme tidsskrift
Journal of Computational And Graphical Statistics

Søk utenfor DiVA

GoogleGoogle Scholar
Totalt: 599 nedlastinger
Antall nedlastinger er summen av alle nedlastinger av alle fulltekster. Det kan for eksempel være tidligere versjoner som er ikke lenger tilgjengelige

doi
urn-nbn

Altmetric

doi
urn-nbn
Totalt: 624 treff
RefereraExporteraLink to record
Permanent link

Direct link
Referera
Referensformat
  • apa
  • ieee
  • modern-language-association-8th-edition
  • vancouver
  • oxford
  • Annet format
Fler format
Språk
  • de-DE
  • en-GB
  • en-US
  • fi-FI
  • nn-NO
  • nn-NB
  • sv-SE
  • Annet språk
Fler språk
Utmatningsformat
  • html
  • text
  • asciidoc
  • rtf