设总体 的分布函数为 (可以是多维的),其中 是一个未知参数, 是总体 的一个样本,由样本构造一个适当的统计量 为 的估计量,通常记为
设总体 的分布中有 个未知参数 , 是来自总体 的样本,且 的原点矩存在,即 存在,令样本矩=总体矩,则有 ,是包含 个未知参数 的 个联立方程组,可解得 ,则 为 的矩估计量, 为 的矩估计值
对未知参数 进行估计时,在该参数可坑的取值范围 内选取,选取使样本获得观测值 的概率最大的参数值 作为 的估计,这样的选定最有利于样本观测值 的出现
对于总体 是连续型随机变量的情形,设其概率密度函数为 是连续或者分段连续的,则样本的似然函数为 ,若存在 ,使得 ,则 为 的极大似然估计量
对于总体 是离散型随机变量的情形,设其概率分布为 ,则样本的似然函数为 ,若存在 ,使得 ,则 为 的极大似然估计量
对于参数 的估计量 对于一切 以及 ,有 ,则称 为 的无偏估计量
设 为参数 的估计量,若对任意 ,有 ,则称 为 的一致估计量(或相合估计量)
对于总体 的一个未知参数 , 是一个给定的正数,若由样本 确定的两个统计量 满足 ,
则称随机区间 是 置信度为 的置信区间, 分别称为 的置信度为 的双侧置信区间的置信下限和置信上限, 称为置信度或者置信水平, 称为显著性水平
给定置信水平或者显著性水平,求位置的参数置信区间的问题,称为参数区间估计问题