Utilizing Bootstrap and Cross-validation for prediction error estimation in regression models

Thesis title: Využití bootstrapu a křížové validace v odhadu predikční chyby regresních modelů
Author: Lepša, Ondřej
Thesis type: Diplomová práce
Supervisor: Bašta, Milan
Opponents: Malá, Ivana
Thesis language: Česky
Abstract:
Nalezení modelu s dobrými předpovědními vlastnostmi je jeden z hlavních cílů regresní analýzy. I přesto se v běžné praxi k vyhodnocení predikčních schopností využívá kritérií, která se k tomuto účelu buď nehodí, nebo nejsou dostatečně spolehlivá. Alternativu představují relativně nové metody, které využívají opětovných simulací k odhadnutí vhodné ztrátové funkce -- predikční chyby. Do této kategorie patří křížová validace a bootstrap. Tato práce popisuje, jak lze s využitím těchto metod vybrat takový regresní model, který co nejlépe předpovídá hodnoty vysvětlované proměnné.
Keywords: R; výběr modelu; křížová validace; bootstrap; vícenásobná regrese
Thesis title: Utilizing Bootstrap and Cross-validation for prediction error estimation in regression models
Author: Lepša, Ondřej
Thesis type: Diploma thesis
Supervisor: Bašta, Milan
Opponents: Malá, Ivana
Thesis language: Česky
Abstract:
Finding a well-predicting model is one of the main goals of regression analysis. However, to evaluate a model's prediction abilities, it is a normal practice to use criteria which either do not serve this purpose, or criteria of insufficient reliability. As an alternative, there are relatively new methods which use repeated simulations for estimating an appropriate loss function -- prediction error. Cross-validation and bootstrap belong to this category. This thesis describes how to utilize these methods in order to select a regression model that best predicts new values of the response variable.
Keywords: Bootstrap; model selection; Cross-validation; R; multiple regression

Information about study

Study programme: Kvantitativní metody v ekonomice/Statisticko-pojistné inženýrství
Type of study programme: Magisterský studijní program
Assigned degree: Ing.
Institutions assigning academic degree: Vysoká škola ekonomická v Praze
Faculty: Faculty of Informatics and Statistics
Department: Department of Statistics and Probability

Information on submission and defense

Date of assignment: 31. 1. 2014
Date of submission: 1. 12. 2014
Date of defense: 4. 2. 2015
Identifier in the InSIS system: https://insis.vse.cz/zp/46511/podrobnosti

Files for download

    Last update: