V2EX  ›  英汉词典

Ridge Regression

释义 Definition

岭回归:一种线性回归的正则化方法,通过在损失函数中加入 L2 惩罚项(系数平方和),来减小模型系数、缓解多重共线性,并降低过拟合风险。常见形式是最小化
(|y - X\beta|^2 + \lambda |\beta|^2)。
(在统计学中也常被称为 Tikhonov regularization;“ridge”指目标函数形状像“山脊”。)

发音 Pronunciation (IPA)

/rɪdʒ rɪˈɡrɛʃən/

例句 Examples

Ridge regression shrinks the coefficients to reduce overfitting.
岭回归会收缩回归系数,以降低过拟合。

When predictors are highly correlated, ridge regression often yields more stable estimates than ordinary least squares.
当自变量高度相关时,岭回归通常比普通最小二乘法给出更稳定的估计。

词源 Etymology

“Ridge”原意为“山脊、脊线”。在岭回归中,加入的 L2 惩罚会使优化问题的等高线/解的几何形状呈现类似“山脊”的特征,因此得名。该方法在 20 世纪 60–70 年代被系统化提出,用于应对线性回归中的多重共线性与估计不稳定。

相关词 Related Words

文学与经典出处 Literary Works

  • Hoerl, A. E. & Kennard, R. W. (1970). Ridge Regression: Biased Estimation for Nonorthogonal Problems(提出并系统阐述岭回归的经典论文)
  • Hastie, Tibshirani & Friedman. The Elements of Statistical Learning(机器学习经典教材,详述岭回归与正则化)
  • Bishop. Pattern Recognition and Machine Learning(以正则化视角讨论线性模型与岭回归)
  • Murphy. Machine Learning: A Probabilistic Perspective(从概率建模与惩罚项角度介绍岭回归)
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   798 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 11ms · UTC 18:29 · PVG 02:29 · LAX 10:29 · JFK 13:29
♥ Do have faith in what you're doing.