Log-likelihood

Definition / 定义

对数似然：把“似然（likelihood）”取对数后的量，用来衡量某个统计模型参数在给定数据下“有多合理”。常用于参数估计与模型比较（例如最大化对数似然）。

Pronunciation / 发音

/ˌlɔːɡ ˈlaɪkliˌhʊd/；/ˌlɒɡ ˈlaɪkliˌhʊd/

Examples / 例句

We maximize the log-likelihood to fit the model.
我们通过最大化对数似然来拟合模型。

In practice, the log-likelihood for independent data often turns into a sum, which makes optimization easier.
在实践中，对于相互独立的数据，对数似然往往会变成求和形式，从而让优化更容易。

Etymology / 词源

log- 来自 logarithm（“对数”），源于希腊语 logos（“比例、推理”）的相关词根；likelihood 表示“可能性、似然”。在统计学中把似然取对数，主要是为了把连乘变成连加，计算更稳定、推导更方便。

Related Words / 相关词

• Likelihood
• Logarithm
• Maximum Likelihood
• Negative Log-Likelihood
• Loss Function
• Cross-Entropy
• Parameter
• Gradient

Literary Works / 文学作品

• Pattern Recognition and Machine Learning（Christopher M. Bishop）
• The Elements of Statistical Learning（Hastie, Tibshirani, Friedman）
• All of Statistics（Larry Wasserman）
• Statistical Inference（Casella & Berger）