La traduction de cette page n'est pas à jour. Cliquez ici pour voir la dernière version en anglais.
Conception et évaluation de modèles
R2026aLorsque vous construisez un modèle de régression de haute qualité, il est important de sélectionner des caractéristiques (ou prédicteurs) appropriées, de régler les hyperparamètres (paramètres du modèle qui ne s’ajustent pas aux données) et d’évaluer les hypothèses du modèle via des diagnostics de résidus. Vous pouvez régler les hyperparamètres en effectuant des itérations entre la sélection des valeurs à leur appliquer et la validation croisée du modèle avec vos sélections. Ce processus produit plusieurs modèles, le meilleur d’entre eux étant peut-être celui qui minimise l’erreur de généralisation estimée.
Vous pouvez effectuer les actions suivantes pour créer et évaluer des modèles de régression :
Générer des données synthétiques à partir d’un jeu de données existant avant d’entraîner un modèle de régression avec
synthesizeTabularData,binningTabularSynthesizerousmoteTabularSynthesizer.Définir de nouvelles caractéristiques avant d’entraîner un modèle de régression avec
genrfeatures.Créer et évaluer des modèles de régression de manière interactive avec l’application Regression Learner.
Sélectionner automatiquement un modèle comportant des hyperparamètres réglés avec
fitrauto. La fonction essaie une sélection de types de modèles de régression avec différentes valeurs d’hyperparamètres et renvoie un modèle final censé être performant. Utilisezfitrautolorsque vous ne savez pas quels sont les types de modèles de régression qui conviennent le mieux à vos données.Régler les hyperparamètres d’un modèle spécifique en sélectionnant des valeurs pour ceux-ci et en effectuant une validation croisée du modèle avec ces valeurs. Par exemple, pour régler un modèle SVM, choisissez une ensemble de valeurs pour le paramètre de contrainte (box constraint) et l'échelle du noyau (kernel scale), effectuez la validation croisée d’un modèle pour chaque paire de valeurs, puis comparez les estimations d’erreur quadratique moyenne après validation croisée 10-fold. Certaines fonctions de régression non paramétrique de Statistics and Machine Learning Toolbox™ offrent un réglage automatique des hyperparamètres par optimisation bayésienne, recherche par grille ou recherche aléatoire. La principale fonction qui implémente l’optimisation bayésienne est
bayesopt. Elle est suffisamment flexible pour convenir à de nombreuses autres applications. Pour plus d’informations, consultez Bayesian Optimization Workflow.Interpréter un modèle de régression avec
lime,shapleyetplotPartialDependence.Évaluer les performances d’un modèle de régression sur des tranches de données distinctes avec
sliceMetrics.
Applications
| Regression Learner | Train regression models to predict data using supervised machine learning |
Fonctions
Objets
Rubriques
Workflow de l’application Regression Learner
- Train Regression Models in Regression Learner App
Workflow for training, comparing and improving regression models, including automated, manual, and parallel training. - Choose Model Options In Regression Learner
In Regression Learner, automatically train a selection of models, or compare and tune options of linear regression models, regression trees, support vector machines, Gaussian process regression models, kernel approximation models, ensembles of regression trees, and regression neural networks. - Feature Selection and Feature Transformation Using Regression Learner App
Identify useful predictors using plots or feature ranking algorithms, select features to include, and transform features using PCA in Regression Learner. - Visualize and Assess Model Performance in Regression Learner
Compare model metrics and visualize results.
Sélection de variables pertinentes
- Introduction to Feature Selection
Learn about feature selection algorithms and explore the functions available for feature selection. - Sequential Feature Selection
This topic introduces sequential feature selection and provides an example that selects features sequentially using a custom criterion and thesequentialfsfunction. - Neighborhood Component Analysis (NCA) Feature Selection
Neighborhood component analysis (NCA) is a non-parametric method for selecting features with the goal of maximizing prediction accuracy of regression and classification algorithms. - Robust Feature Selection Using NCA for Regression
Perform feature selection that is robust to outliers using a custom robust loss function in NCA. - Select Predictors for Random Forests
Select split-predictors for random forests using interaction test algorithm.
Ingénierie des caractéristiques
- Automated Feature Engineering for Regression
Usegenrfeaturesto engineer new features before training a regression model. Before making predictions on new data, apply the same feature transformations to the new data set.
Sélection de modèle automatisée
- Automated Regression Model Selection with Bayesian and ASHA Optimization
Usefitrautoto automatically try a selection of regression model types with different hyperparameter values, given training predictor and response data.
Optimisation des hyperparamètres
- Bayesian Optimization Workflow
Perform Bayesian optimization using a fit function or by callingbayesoptdirectly. - Variables for a Bayesian Optimization
Create variables for Bayesian optimization. - Bayesian Optimization Objective Functions
Create the objective function for Bayesian optimization. - Constraints in Bayesian Optimization
Set different types of constraints for Bayesian optimization. - Optimize a Boosted Regression Ensemble
Minimize cross-validation loss of a regression ensemble. - Bayesian Optimization Plot Functions
Visually monitor a Bayesian optimization. - Bayesian Optimization Output Functions
Monitor a Bayesian optimization. - Bayesian Optimization Algorithm
Understand the underlying algorithms for Bayesian optimization. - Bayesian Optimization with Tall Arrays
Perform Bayesian optimization to select optimal parameters for training a kernel classifier on tall arrays. - Parallel Bayesian Optimization
How Bayesian optimization works in parallel.
Validation croisée
- Implement Cross-Validation Using Parallel Computing
Speed up cross-validation using parallel computing. - Perform Time Series Direct Forecasting with directforecaster
Perform time series direct forecasting with thedirectforecasterfunction. - Manually Perform Time Series Forecasting Using Ensembles of Boosted Regression Trees
Manually perform single-step and multiple-step time series forecasting with ensembles of boosted regression trees.
Interprétation des modèles
- Interpret Machine Learning Models
Explain model predictions using thelimeandshapleyobjects and theplotPartialDependencefunction. - Shapley Values for Machine Learning Model
Compute Shapley values for a machine learning model using interventional algorithm or conditional algorithm. - Shapley Output Functions
Stop Shapley computations, create plots, save information to your workspace, or perform calculations while usingshapley.
Estimation de l’incertitude
- Uncertainty Estimation for Regression
Learn about estimating the uncertainty of the true response for a regression problem. - Create Prediction Intervals Using Split Conformal Prediction
Create a prediction interval and use conformalized quantile regression to calibrate the prediction interval.
Diagnostics de modèles linéaires
- Interpret Linear Regression Results
Display and interpret linear regression output statistics. - Linear Regression
Fit a linear regression model and examine the result. - Linear Regression with Interaction Effects
Construct and analyze a linear regression model with interaction effects and interpret the results. - Summary of Output and Diagnostic Statistics
Evaluate a fitted model by using model properties and object functions. - F-statistic and t-statistic
In linear regression, the F-statistic is the test statistic for the analysis of variance (ANOVA) approach to test the significance of the model or the components in the model. The t-statistic is useful for making inferences about the regression coefficients. - Coefficient of Determination (R-Squared)
Coefficient of determination (R-squared) indicates the proportionate amount of variation in the response variable y explained by the independent variables X in the linear regression model. - Coefficient Standard Errors and Confidence Intervals
Estimated coefficient variances and covariances capture the precision of regression coefficient estimates. - Residuals
Residuals are useful for detecting outlying y values and checking the linear regression assumptions with respect to the error term in the regression model. - Durbin-Watson Test
The Durbin-Watson test assesses whether or not there is autocorrelation among the residuals of time series data. - Cook’s Distance
Cook's distance is useful for identifying outliers in the X values (observations for predictor variables). - Hat Matrix and Leverage
The hat matrix provides a measure of leverage. - Delete-1 Statistics
Delete-1 change in covariance (CovRatio) identifies the observations that are influential in the regression fit.
Diagnostics de modèles linéaires généralisés
- Generalized Linear Models
Generalized linear models use linear methods to describe a potentially nonlinear relationship between predictor terms and a response variable.
Diagnostics de modèles non linéaires
- Nonlinear Regression
Parametric nonlinear models represent the relationship between a continuous response variable and one or more continuous predictor variables.