wikiwand[wikiwandapp]

最常用的网络百科

最常用的网络百科，国内的百科网站有百度百科、SOSO百科、互动百科、站长百科等，而国外常用的是维基百科。

Wikipedia，世界上最大的多语种百科全书，维基百科，中文百科全书，大部分词条可正常访问。

Wikiwand，让维基百科显示更加美观的网站，页面布局非常的美观整洁。

百度百科，最大的中文百科全书，但一些词条你需要谨慎。

Listen Wikipedia，根据维基百科数据的实时变化响起排钟的乐声，听起来有种听禅的意味。

搜狗百科，国内唯一可以和百度百科对抗的百科网站，但词条不够完善。

WolframAlpha，经过海量知识库的分析计算后，返回直接的和可视化图形的结果。

WikiHow，生活指导手册大百科，制作精良。

WikiHow中文，生活指导手册大百科，各式各样的问题解决方案都有。

Encyclopedia Britannica，不列颠百科全书，是世界上最知名也是最权威的百科全书。

自由全科百书，主要用于字典、词库、文学、地理及其他参考资料仅供参考之用。

Encyclopedia，百科全书牌百科全书，网站名字就叫百科全书的百科全书网站。

2、 找出现阶段主流网络百科有哪些?

Wikipedia，世界上最大的多语种百科全书。

维基百科，中文百科全书，大部分词条可正常访问。

Wikiwand，让维基百科显示更加美观的网站，页面布局非常的美观整洁。

百度百科，最大的中文百科全书，但一些词条你需要谨慎。

Listen Wikipedia，根据维基百科数据的实时变化响起排钟的乐声，听起来有种听禅的意味。

搜狗百科，国内唯一可以和百度百科对抗的百科网站，但词条不够完善。

WolframAlpha，经过海量知识库的分析计算后，返回直接的和可视化图形的结果。

WikiHow，生活指导手册大百科，制作精良。

WikiHow中文，生活指导手册大百科，各式各样的问题解决方案都有。

Encyclopedia Britannica，不列颠百科全书，是世界上最知名也是最权威的百科全书。

自由全科百书，主要用于字典、词库、文学、地理及其他参考资料仅供参考之用。

Encyclopedia，百科全书牌百科全书，网站名字就叫百科全书的百科全书网站。

24种氨基酸缩写及其理化性质

除此之外，还有一些三字母或单字母符号可用来表示未明确定义的缩写：

Asx、B可代表天冬氨酸（Asp、D）或天冬酰胺（Asn、N）。

Glx、Z可代表谷氨酸（Glu、E）或谷氨酰胺（Gln、Q）。

Xle、J可代表亮氨酸（Leu、L）或异亮氨酸（Ile、I）。

Xaa（亦用Unk）、X可代表任意氨基酸或未知氨基酸。

二、理化性质

参考：

基础：常见的参数估计方法

抽样、样本数据 –观察数据趋势 –选择模型 — 模型参数估计 –假设检验

误差、残差

关于随机扰动项：随机误差是模型的组成部分，也是数理统计的缘由，因为数理统计就是对带有随机性数据的分析。

点估计：

区间估计：

最小二乘法是数学家高斯在预测行星轨道时提出的。

它的核心思想是：构造 误差平方和函数 ，对其求偏导， 让误差平方和函数取得最小值 的参数就是模型参数。

注意：最小二乘法本质上是一种参数估计方法，它既可以用于线性回归模型的参数估计，也可以用于非线性回归模型(如曲线模型)的参数估计中。可以说 最小二乘法=最小误差平方和 参数估计方法，但 最小二乘法≠线性回归 。

最大似然估计MLE：maximum likelihood estimation

引用《大嘴巴漫谈数据挖掘》中的解释：

—- 最大似然法认为当前出现的样本正好对应着总体中概率最大的那个事件；

—- 因为，总体中概率最大的事件实际出现（即被抽样选中）的概率是最大的。

因此 ，最大似然参数求解的核心思想就是 构造当前样本出现的联合概率函数 ，对其求偏导，让当前样本的概率最大的就是模型参数。

细说似然函数：

假定条件： 所有的采样都是独立同分布。

— 独立，则P(x1,x2) = P(x1)*P(x2)；同分布，则针对每次采样，模型相同。

推导过程：

假设x1, x2, x3, …是独立、同分布的抽样。f为我们所使用的模型，θ为模型参数。

根据最大似然法的思路：当前样本数据出现的联合概率最大。因此，我们计算出：

当前样本数据出现的概率 = P(x1,x2,x3,..) = f(x1,x2,x3,..|θ)

其中：

P(x1,x2,x3,..)是概率

f(x1,x2,x3,..|θ)表示函数模型f(x)的每次抽样的输入变量依次为x1,x2,x3,..，且它的参数是θ，计算结果（值）等于概率。本身不是条件概率！不是条件概率！！

因为x1,x2,x3,..独立，则：

f(x1,x2,x3,..|θ) = f(x1|θ)*f(x2|θ)*f(x3|θ)*…

同理，f(x1|θ)表示x1次抽样时函数模型的参数为θ，本身不是条件概率！！

为了使f(x1,x2,x3,..|θ) 最大，我们对其求偏导数：

但是，需要注意的是该式中x1,x2,x3,..为已知条件，后者θ为未知项。因此，我们定义一个关于未知项θ的函数—— 似然函数 L(θ):

L(θ|x1,x2,x3,..) = f(x1,x2,x3,..|θ) = f(x1|θ)*f(x2|θ)*f(x3|θ)*…

其中，L(θ|x1,x2,x3,..) 表示似然函数的自变量为θ，参数为x1,x2,x3,..，本身不是条件概率！！

继续对L(θ|x1,x2,x3,..) 求偏导……

通常是两边取对数，再求导：

至此，问题出现了如下的逐步替换：

①求解样本数据的最大联合分布概率

↓

②求解使得似然函数L(θ|x1,x2,x3,..)最大的未知参数θ

↓

③求解使得平均对数似然函数1/n * ln L(θ|x1,x2,x3,..)最大的未知参数θ

由上可知最大似然估计的一般求解过程：

（1） 写出似然函数L(θ|x1,x2,x3,..)；

（2） 对似然函数取对数，再平均，求得 平均对数似然函数；

（3） 求导数 ；

（4） 解似然方程

先判断似然函数的单调性，再通过导数=0求得似然函数取最大值时的模型参数θ。但是，需注意的是，求导后，导数=0得到的θ为一个确定的值，也符合假设条件：x1,x2,x3,..每次独立抽样的概率模型相同。

但是，需要明白在很多实际情况下，当前获取样本数据并不一定就是真实模型(假如存在的话)中概率最大的那个。基于与大数定律相似的原因，只有在样本数量较多时，这种假设才会成立；在样本数量较小时，当前样本概率最大的假设不成立的机会很大。这也就是最大似然估计的局限所在。

参考：

最大似然估计 博客

深入浅出最大似然估计

wikiwand里 “最大似然估计” 的解释

最大后验概率估计（Maximum a posteriori estimation, 简称MAP）

背景 ：正如最大似然估计中假定x1,x2,x3,..每次独立抽样的概率模型相同，现在我们去掉这个假设，将问题复杂化。假如x1,x2,x3,..每次独立抽样的概率模型中的 参数θ不是一个固定值，而是一个符合g(θ)概率分布（先验概率）的随机变量 。这时，我们就需要用到最大后验估计。

Ps：假定条件变了，问题的复杂度方法变了，模型参数的估计方法也要随之改变。

最大后验估计的核心思想 ：是以当前样本数据条件下由贝叶斯公式计算出的 整个后验概率最大 的 模型参数θ 为最终的模型参数。后验=后验概率，最大后验=最大后验概率。

Ps：最大似然估计以让当前样本的概率最大的模型参数θ为最终的模型参数。

再说，“似然” (likelihood)指已经出现事件的发生概率，它并不是“最大似然参数估计方法”的专属名词。在这里，最大后验估计方法中也会涉及似然函数。

先说似然函数：

假设x1, x2, x3, …是独立抽样，f为我们所使用的模型，θ为模型参数，但是θ不是固定常数，而是具有一定概率分布（先验分布）的随机变量。 模型参数θ的先验分布中的参数则被称为超参数(hyperparameter) 。

样本数据出现的概率 = P(x1,x2,x3,..) = f(x1,x2,x3,..|θ)

其中：

P(x1,x2,x3,..)是概率

f(x1,x2,x3,..|θ)表示函数模型f(x)的每次抽样的输入变量依次为x1,x2,x3,..，且它的参数是θ，计算结果（值）等于概率。本身不是条件概率！不是条件概率！！

似然函数: L(θ|x1,x2,x3,..) = f(x1,x2,x3,..|θ) = f(x1|θ)*f(x2|θ)*f(x3|θ)*…

其中，L(θ|x1,x2,x3,..) 表示似然函数的自变量为θ，参数为x1,x2,x3,..。本身是函数，不是条件概率！

根据贝叶斯公式：

若A、B不完全独立，有相关关系，则P(AB) = P(A|B)*P(B) = P(B|A)*P(A)

→ P(A|B)＝P(B|A)*P(A)／P(B)

本问题中， 假如每次独立抽样x的概率模型中参数θ不是常数固定项，而是一个随机变量，且参数θ的先验分布为g(θ) 。同样的，我们就可以对其用贝叶斯公式：

P(θ|x1, x2, x3, …) = P(x1, x2, x3, …|θ) * P(θ) ／ P(x1, x2, x3, …) =

其中，P(θ|x1, x2, x3, …)是条件概率，P(x1, x2, x3, …|θ) 也是条件概率

↓

P(θ|x1, x2, x3, …) = f(x1, x2, x3, …|θ) * g(θ) ／ f(x1, x2, x3, …) =

其中，f(x1, x2, x3, …|θ)表示函数模型的值，θ为模型参数，本身不是条件概率。f(x1, x2, x3, …) 表示函数模型的值。

↓

继续，将f(x)按照每条抽样数据x1, x2, x3,..的展开， P(θ|x1, x2, x3, …) =

其中，

g(θ) 是模型参数θ的先验分布;

f(x1, x2, x3, …|θ)表示函数模型的值，等于似然函数。θ为模型参数，本身不是条件概率。

临时插播 ：从上式可以看出 后验概率 P(θ|x1, x2, x3, …) 和 似然函数 f(x1, x2, x3, …|θ)的差异！二者分别MAP和MLE两种参数估计方法的核心函数，也就是这两种方法计算过程的差异。 后验概率在似然函数的基础上还考虑了先验概率的影响 。

接下来，最大后验估计的核心就是： 求出使整个后验概率P(θ|x1, x2, x3, …) 最大的模型参数θ为最终的模型参数 。

计算略……

结果：与最大似然估计的结果不同，最大后验估计的结果中多了许多超参数，这就是先验在起作用。 模型参数θ的先验分布中的参数则被称为超参数(hyperparameter) 。

参考：

最大似然估计和最大后验估计

wikiwand 最大后验概率

菜鸟学概率统计——最大后验概率（MAP)

详解最大似然估计（MLE）、最大后验概率估计（MAP），以及贝叶斯公式的理解

MAP与MLE最大区别是MAP中加入了模型参数本身的概率分布，或者说，MLE中认为模型参数本身的概率的是均匀的，即该概率为一个固定值。当MAP中模型参数θ的先验概率为常数（固定值）时，问题就回到了MLE。

MAP允许我们把先验知识加入到估计模型中，这在样本很少的时候是很有用的，因为样本很少的时候我们的观测结果很可能出现偏差，此时先验知识会把估计的结果“拉”向先验，实际的预估结果将会在先验结果的两侧形成一个顶峰。通过调节先验分布的参数，我们还可以调节把估计的结果“拉”向先验的幅度。这样的参数，我们叫做预估模型的“超参数”。

MLE与MAP两种方法体现了频率学派、贝叶斯学派的观点不同。最大似然估计体现是的频率学派的观点，而最大后验估计体现的是贝叶斯学派的观点。

这里有两点值得注意的地方：

1）随着样本数据量的增加，参数分布会越来越向数据靠拢，先验P(θ)的影响力会越来越小；

2）如果先验是uniform distribution(即P(θ)=常数，模型参数θ为常数)，则贝叶斯方法等价于频率方法。因为直观上来讲，先验P(θ)=常数本质上表示对事物没有任何预判。

参考： 频率学派还是贝叶斯学派？聊一聊机器学习中的MLE和MAP