N-GRAM模型的概率公式

n-gram的n大小对性能的影响

n更大的时候
n: 对下一个词出现的约束性信息更多，更大的辨别力，但是更稀疏，并且n-gram的总数也更多，为 V^n 个（V为词汇表的大小）
n更小的时候
在训练语料库中出现的次数更多，更可靠的统计结果，更高的可靠性，但是约束信息更少

其中当N为特定值的时候，我们来看一下n-gram可能的总数，如下表：

对于上图，我用一个例子来进行解释，加入目前词汇表中就只有三个单词，”我爱你“，那么bigram的总数是3^2=9个，有”我我“，我爱，我你，爱爱，爱你，爱我，你你，你我，你爱这9个,所以对应上面的表示是bigrams是20000^2=400000000,trigrams=20000^3 = 8*10e12

好，到这里讲解了n-gram的基本内容了。

https://zhuanlan.zhihu.com/p/32829048

N-GRAM模型的概率公式相关推荐

估计中的概率公式总结
估计中的概率公式总结 0.引言 1.基本概念 2.贝叶斯公式 3.独立 4.条件联合分布 5.条件贝叶斯公式 6.马尔科夫 0.引言近期遇到的概率公式,整理一下. 1.基本概念条件概率 P(A∣B ...
模型违约概率到信用评分的转化
模型违约概率到信用评分的转化定义坏好比 o d d s = p / ( 1 − p ) odds=p/(1-p) odds=p/(1−p) P是LR计算的违约概率(即坏人的概率),1-p即好人的概率 ...
R语言glm拟合logistic回归模型：模型评估（模型预测概率的分组密度图、混淆矩阵、准确率、精确度、召回率、ROC、AUC）、PRTPlot函数获取logistic模型最优阈值(改变阈值以优化)
R语言glm拟合logistic回归模型:模型评估(模型预测概率的分组密度图.混淆矩阵.Accuray.Precision.Recall.ROC.AUC).PRTPlot函数可视化获取logistic ...
计算机公式加法A C,概率公式c怎么计算
概率公式c计算方法:一般地,C(n,k)=n(n-1)(n-2)...(n-k+1)/k!,其中k≤n.例如,C(12,3)=12x11x10/3!=1320/(3x2x1)=1320/6=220. ...
macd的python代码同花顺_超牛MACD（代编写程序化交易模型）-同花顺公式－程序化交易（CXH99.COM）...
相关标签: 5 13 21最绝的均线战法 . macd参数设置 13 34 5 . macd指标使用技巧口诀 . 日线macd参数最佳设置 . macd参数最佳调整原理 . 日线macd最优参数 . ...
概论_第2章_一维均匀分布的概率公式
均匀分布的概率计算有一个概率公式: 设X~U(a, b), a≤c<d≤b, 即 [c, d] ⊂ [a, b], 则 P{c≤X≤d} = 使用这个公式计算概率很方便, 例如, X~U(0, ...
概率论基础 —— 2. 条件概率、全概率、贝叶斯概率公式
文章目录条件概率全概率贝叶斯概率条件概率条件概率是一种比较特殊的概率体系,和我们前面提到过的基本概率(交事件)有所不同.它最大的特点在于事件发生时有一定的限制前提,通常一般是说在事件A发生后 ...
数学-先验概率和后验概率和一系列概率公式理解
自用. 一. 先验概率和后验概率理解这两个都是描述某个结论H发生的概率. 假如我当前什么证据都没有,就根据之前的人生经历,思索下说P(H)=0.99,认为结论H发生的可能高达99%,那这时的P(H) ...
H.B.Pacejke轮胎模型（魔术公式）
轮胎的非线性特性对汽车的转向特性及行驶稳定性有非常重要的影响.进行汽车控制研究往往要建立精确的轮胎模型.目前应用比较广泛的轮胎模型有: Fiala轮胎模型 UA轮胎模型郭孔辉轮胎模型(幂指数公式) ...

N-GRAM模型的概率公式

n-gram的n大小对性能的影响

N-GRAM模型的概率公式相关推荐

最新文章

热门文章