做PPT不错的网站有哪些/全国seo公司排名
在 朴素贝叶斯分类器 和 最大似然估计和贝叶斯参数估计 中,我们都提到了 似然 这个词,那么这里就来详细讲一讲什么是似然。
似然(likelihood)和概率(probability)从字面上看非常相似,但是在统计中,似然与概率是不同的东西。
1 定义
似然函数是一种关于统计模型中的参数的函数,表示模型参数的似然性。似然函数是给定联合样本值 xxx 下关于(未知)参数 θ\thetaθ 的函数:
L(θ∣x)=f(x∣θ)L(\theta|x)=f(x|\theta)L(θ∣x)=f(x∣θ)
f(x∣θ)f(x|\theta)f(x∣θ) 是一个密度函数,表示 θ\thetaθ 下关于联合样本值 xxx 的联合密度函数。
似然函数与概率密度的对比
对于函数 P(x∣θ)P(x|\theta)P(x∣θ),从不同的观测角度来看可以分为以下两种情况:
- 若 θ\thetaθ 已知且保持不变,xxx 是变量,则 P(x∣θ)P(x|\theta)P(x∣θ) 称为概率密度,表示不同 xxx 出现的概率
- 若 xxx 已知且保持不变,θ\thetaθ 是变量,则 P(x∣θ)P(x|\theta)P(x∣θ) 称为似然函数,表示不同 θ\thetaθ 下 xxx 出现的概率,也写作 L(θ∣x)L(\theta|x)L(θ∣x),或 f(x∣θ)f(x|\theta)f(x∣θ)
2 似然函数的求法
2.1 离散型随机变量的似然函数
假如离散型随机变量 xxx 的分布率为 P(x∣θ)P(x|\theta)P(x∣θ),样本集 DDD 上有 mmm 个样本,则 DDD 上的似然函数为
L(θ∣D)=∏imP(xi∣θ)L(\theta|D)=\prod_i^m P(x_i|\theta)L(θ∣D)=i∏mP(xi∣θ)
2.2 连续型随机变量的似然函数
假如连续型随机变量 xxx 的概率密度函数为 f(x∣θ)f(x|\theta)f(x∣θ),样本集 DDD 上有 mmm 个样本,则 DDD 上的似然函数为
L(θ∣D)=∏imf(xi∣θ)L(\theta|D)=\prod_i^m f(x_i|\theta)L(θ∣D)=i∏mf(xi∣θ)