对极大似然估计的理解

极大似然估计的形式

1.离散型统计模型

表示观测值。

2.连续型统计模型

问题:问什么要取似然函数最大值来估算参数θ?

自己的理解:

似然函数的形式是理论上各事件(这个事件表示一次采样一个样本,每个样本有不同的分类)的发生概率。现在发生了的某个事件,似然函数就变成了这个样本的理论概率,而现在的采样结果代表某个事件已经确定发生了,那这个事发生的理论概率应该尽量大(在这个事件发生的理论概率中最大的那种情况),才会导致这个事件发生概率最大,所以要用极大似然函数估计。

或者这么想:

似然函数的形式是理论上各事件的发生概率。现在发生了某一事件,可以认为,这个事件是理论上概率最大的那个事件。所以使似然函数最大,也就是让现在发生的这个事件成为概率最大的事件。

一些其他的理解:

极大似然估计,就是基于一个基本常识的假设:现实发生的样本最有可能是整个样本空间中概率最大的。所以就假设为最大概率来进行参数估计。

学过统计物理就很直观了,n次独立实验的概率就是乘法原理。而我们会倾向于认为,现实发生的事件应该就对应于理论上概率最大的那一个事件。历史上玻尔兹曼分布就是这么算出来的

极大似然估计的理解 为什么要取似然函数最大值 似然函数的意义是什么?相关推荐

  1. 极大似然估计的理解与应用

    http://www.cnblogs.com/xing901022/p/8418894.html 极大似然估计是概率论中一个很常用的估计方法,在机器学习中的逻辑回归中就是基于它计算的损失函数,因此还是 ...

  2. 伽马分布极大似然估计_一文通俗解释极大似然估计

    我们都知道机器学习的大致流程是通过建立一个合理的模型学习现有数据集,然后通过该模型去完成特定的任务.其中每个模型都包含自身的一组特定参数,而这组参数决定着模型的本身.但这里存在一个很关键的一个问题,就 ...

  3. 机器学习番外篇(1):极大似然估计和最小二乘法

    最近自己会把自己个人博客中的文章陆陆续续的复制到CSDN上来,欢迎大家关注我的 个人博客,以及我的github. 番外篇的内容主要是讲解一些在机器学习中经常会用到但是比较边缘化的知识,或者是某几个知识 ...

  4. 【For非数学专业】通俗理解似然函数、概率、极大似然估计和对数似然

    文章目录 1. 似然函数与概率 1.1 似然函数与概率的初步认识 1.2 似然的定义 1.3 结合具体实例来深入理解似然与概率 2. 极大似然估计 3. 对数似然函数 4. 总结 1. 似然函数与概率 ...

  5. 【机器学习基础】深入理解极大似然估计(MLE) 1: 引入问题

    导读:极大似然估计(MLE) 是统计机器学习中最基本的概念,但是能真正全面深入地理解它的性质和背后和其他基本理论的关系不是件容易的事情.极大似然估计和以下概念都有着紧密的联系:随机变量,无偏性质(un ...

  6. 极大似然函数求解_关于极大似然估计的学习(附Matlab中mle函数的求解)

    冒泡~是新的一周辣~温故而知新一下极大似然估计(真是很不容易了) 极大似然估计的基本思想 什么是极大似然?官方上的较清楚的解释是:利用已知的样本的结果,在使用某个模型的基础上,反推最有可能导致这样结果 ...

  7. 对极大似然估计和极大验后估计的理解

    文章目录 Part.I 概念理解 Part.II 例子 Part.III 总结 Reference Part.I 概念理解 概率与统计:概率(probabilty)和统计(statistics)看似两 ...

  8. 极大似然估计_干货|一文理解极大似然估计

    一.什么是极大似然估计 极大似然估计是一种参数估计的方法.它要解决这样一个问题:给定一组数据和一个参数待定的模型,如何确定模型的参数,使得这个确定参数后的模型在所有模型中产生已知数据的概率最大. 通俗 ...

  9. 极大似然估计的朴素理解

    极大似然估计的朴素理解 2010年04月20日 ⁄ 科研, 读书 ⁄ 共 2356字 ⁄ 评论数 28 ⁄ 被围观 12,437+ <a href="http://www.zhizhi ...

最新文章

  1. 007_CSS ID选择器
  2. C语言字符串中删除重复的字符的算法(附完整源码)
  3. Exercise 42: Is-A, Has-A, Objects, and Classes
  4. SQLServer删除登录帐户
  5. jxl操作excel(合并单元格,设置背景色,字体颜色)
  6. apache php的日志在哪里,PHP在哪里存储错误日志? (php5,apache,fastcgi,cpanel)...
  7. Session赋值(备注)
  8. 安卓nfs网络文件服务器,Linux网络文件服务器 NFS
  9. quartus 使用IP提供的脚本仿真rapidio
  10. 用sqoop从mysql导数hive_使用sqoop从mysql导入到hive基本操作
  11. springboot整合mybatis源码分析
  12. 在Windows环境下编译VPX
  13. 湖南大学操作系统导论课程作业
  14. 很不错的PERL管道应用
  15. iOS Swift No.21 - 协议2
  16. Electron——查看Electron的版本
  17. 创建一个MySQL数据库中的datetime类型
  18. XSS测试平台搭建(超详细)
  19. 基于Java的网络流量分析软件设计
  20. 分享:常用汉字的unicode 编码

热门文章

  1. 华为瘦胖ap互转_华为AP胖瘦模式转换步骤资料.doc
  2. 基于Springboot的图书馆预约,占座系统,基于IDEA开发。
  3. Windows Phone 游戏——黑白棋 开发总结
  4. 【python核心编程笔记+习题】-CH7-映射
  5. office2013安装后ppt无法打开演示文稿
  6. java魔塔游戏_基于JavaSwing的游戏 --魔塔(MagicTower)
  7. 16种面试常见问题技巧回答
  8. win10录屏软件哪款比较好用?一款不限时长的录屏软件
  9. 网络电话虚拟号基础知识及世界各国虚拟号大集合
  10. PDF 阅读与注释的实践——知之阅读、Markdown+Git、Kami、Edge、Mendeley、Zotero