# 回归


回归分析是一种数学模型,当因变量和自变量为线性关系时,它是一种特殊的线性模型。最简单的情形是一元线性回归,由大体上有线性关系的一个自变量和一个因变量组成。若有 k 个自变量和 1 个因变量,则因变量的值分为两部分:一部分由自变量影响,即表示为它的函数,函数形式已知且含有未知参数;另一部分由其他的未考虑因素和随机性影响,即随机误差。当函数为参数未知的线性函数时,称为线性回归分析模型;当函数为参数未知的非线性函数时,称为非线性回归分析模型。当自变量个数大于1时称为多元回归。

# 多元线性回归

线性分析

多元线性回归

函数名 简介
anova 线性回归模型的方差分析
coefCI 线性回归模型系数估计的置信区间
coeftest 线性回归模型系数的线性假设检验
covarianceParameters 提取线性混合效应模型的协方差参数
displme 显示线性混合效应模型
designMatrix 固定和随机效应设计矩阵
dummyvar 创建虚拟变量
dwtest 带剩余输入的 Durbin-Watson 检验
feval 线性回归模型预测
fitlm 拟合线性回归模型
fitlme 拟合线性混合效应模型
fitrlinear 对高维数据拟合线性回归模型
fitted 线性混合效应模型的拟合响应
fixedEffects 估计混合线性模型的固定效应系数
invpred 逆预测
kfoldPredict 预测未用于训练的观察结果的反应
lasso 线性模型的套索或弹性网正则化
linhyptest 线性假设检验
loss 回归模型的损失值
mvregress 多元线性回归
partialDependence 计算部分相关性
plotpartialDependence 创建部分依赖图(PDP)和个别条件期望图(ICE)
plsregress 偏最小二乘回归
polyconf 多项式的置信区间
predict 线性回归模型的预测响应
randomEffects 混合线性模型的随机效应
regress 多元线性回归
residuals 拟合的线性混合效应模型残差
ridge 岭回归
robustfit 拟合稳健线性回归
selectModels 选择拟合的正则线性回归模型
x2fx 将预测矩阵转换为设计矩阵

# 广义线性回归

广义线性分析

广义线性回归

函数名 简介
coefCI 广义线性回归模型系数估计的置信区间
coeftest 广义线性回归模型系数的线性假设检验
fitcecoc 适合支持向量机或其他分类器的多类模型
fitclinear 高维数据的线性分类模型拟合
fitglm 创建广义线性回归模型
lassoglm 广义线性模型的套索或弹性网正则化
mnrfit 多项逻辑回归
mnrval 多项逻辑回归模型预测准确率
response 线性模型的响应向量
glmfit 拟合广义线性回归模型
glmval 广义线性模型值
isotonicRegression 创建保序回归模型
stepwisefit 采用逐步回归方法拟合线性回归模型
stepwiselm 逐步回归

# 高斯回归过程

高斯回归过程

高斯回归过程

函数名 简介
fitrgp 拟合高斯过程回归(GPR)模型

# 模型的构建与评估

模型的构建与评估

模型的构建与评估

函数名 简介
bayesopt 使用贝叶斯优化算法对参数进行优化
convent_columns 将数据集中指定的字符串标签列映射为整数
fsrftest 基于 F 检验的回归单变量特征线性回归测试
oobPermutedPredictorImportance 回归树随机森林的预测值排列的预测值重要性估计
plotAdjustedResponse 调整响应值并绘图
plotDiagnostics 绘制线性回归模型的观测诊断图
plotEffects 绘制线性回归模型的主效应图
plotInteraction 绘制线性回归模型中两个预测变量的交互效应
plotResiduals 绘制线性混合效应模型的残差
relieff 使用 ReliefF 算法对特征重要性进行排序
stepwiseglm 使用逐步回归创建广义线性回归模型

# 神经网络

神经网络模型由一系列反映大脑处理信息方式的层构成。 Machine Learning Toolbox™ 中提供的回归神经网络模型是完全连接的前馈神经网络,您可以调整全连接层的大小并更改层的激活函数

神经网络

函数名 简介
fitrnet 训练神经网络回归模型

# 非线性回归

非线性回归

非线性回归

函数名 简介
hougen 豪根-瓦特森模型
nlinfit 非线性回归
nlpredci 非线性回归置信区间

# 回归集成

回归模型的集成方法

回归集成

函数名 简介
AdaboostrTree Adaboost 回归树模型
cvloss 交叉验证回归误差
dropna 去除 na 值
fitrensemble 拟合回归的学习者集合
GradientrBoosting 创建梯度树提升回归模型
HistrGradientBoosting 基于直方图的梯度提升回归器
oobloss 袋外回归误差
randomL 线性回归模式下随机噪声响应的模拟
randomrforest 创建随机森林回归器模型
SVRbagger 袋装支持向量机模型
TreeBagger 袋装回归树模型
VotingRegressor 投票回归器模型

# 回归树

回归树

回归树

函数名 简介
crossval 对模型进行交叉验证
fitrtree 回归拟合二叉决策树
kfoldLoss 交叉验证分区回归模型的损失
oobError 交叉验证分区回归模型的损失
predictorImportance 回归树的预测重要性估计
view 查看回归树

# SVM

支持向量机回归分析

SVM

函数名 简介
fitrsvm 拟合支持向量机回归模型
fitrkernel 使用随机特征展开拟合高斯核回归模型

# 增量学习回归模型

用于对流式数据进行回归拟合的增量学习模型

增量学习回归模型

函数名 简介
incrementalDriftAwareLearner 创建增量漂移感知模型
incrementalRegressionLinear 创建增量学习的线性回归模型
fit 模型拟合流式数据
fitOne 模型拟合单个观测值
updateMetrics 更新增量学习模型的性能指标
updateMetricsAndFit 训练增量学习模型并更新性能指标
predict 批量预测观测值的标签
predictOne 预测单个观测值的标签
debugOne 调试线性回归增量学习模型的输出
featureSelect 构建特征选择转换器
targetAgg 构建聚合统计信息转换器
incrementalMLP 创建增量学习的多层感知机模型
HoeffdingTreeRegressor 创建霍夫丁树回归模型
HoeffdingAdaptiveTreeRegressor 创建霍夫丁自适应树回归模型