先问你一个问题：
假如我抛了一枚硬币 10 次，发现每次皆是正面进取。要是我再抛一次，出现正面的概率是几许？
有东谈主会说，下一次抛出正面的概率全皆是 1/2。他们对此经常极端确定，往往来会搬出那套熟谙的表面，告诉我“硬币是莫得回首的”，或者访佛这么的话。
也有东谈主可能会说，既然这枚硬币皆已经集结出了那么屡次正面，风水轮替转，下次若何也该轮到反面了吧！是以，出现正面的概率敬佩小于 1/2。
但是，在我看来，这两种谜底皆错了！事实上，下一次抛掷出正面的概率极端接近于 1。你没看错，就是 1。
民众先别急，我们理空想路，要是要让这枚硬币鄙人一次抛掷时出正面的概率是 1/2，前提是它必须是一枚“全皆公道”的硬币（也就是每次抛掷出现正反面的可能性完全格外）。然则，我从新到尾皆没说过这是一枚公道的硬币呀！那只是是你我方想虽然的假定拆开。
你看，明明摆在目下的是压倒性的反面凭证，你却依然作念出了硬币是全皆公道的假定。仔细想想，要是一枚硬币集结十次抛出正面，那它十有八九不是什么庄重硬币。事实上，要是这枚硬币简直质料均匀，发生这种情况的概率惟有 0.510，也就是 1/1024 ，接近于千分之一的概率。这就意味着，你需要把“连抛十次”手脚一个回合，足足重叠上一千个回合——也就是系数抛掷 10，000 次，我估摸着这至少得集结抛上三个小时，才能有较大的概率见证一次“集结十次正面”的遗址。
伸开剩余92%揣摸绝大大皆东谈主扔不到一半就嗅觉手酸，早早烧毁了。因此，既然我们已经亲眼看到了硬币集结出现了十次正面，一个极端合理的推断就是：这枚硬币敬佩辩认劲，它的里面可能存在某种偏向性，导致它更容易掷出正面。想通了这少许，情况就很豁达了，下一次抛出正面的概率全皆比 1/2 要高得多。
但是新的问题又来了，到底会进步几许呢？
我在这里所描写的，其实恰是科学筹商的运作神色。假定我们想要筹商某个系统，我们会先进行一系列的不雅察，并从中推断其内在可能的机制。这个经过需要我们建议假定，然后用数据去磨砺这些假定。一朝确立了假定，我们就不错首先作念预计。但这必须在采集到数据之后才能进行，而且我们必须极端严慎，不可在一首先就对系统作念出不切本色的假定。
这个意思意思不仅适用于我们的这枚硬币，还相似适用于天气预告、征象变化预计，以及应付流行病传播的有计划。它也适用于我们生计中的好多其他方面，岂论是国法系统的运转，照旧我们制定战术（甚而进行社会行为）的神色。
庆幸的是，我们有一个极端高大的器用不错提供匡助，那就是贝叶斯推断（Bayesian inference）。如今，东谈主工智能、机器学习以及机器的有计划才调正在马上发展，而贝叶斯推断恰是这一切的中枢。
正面，贝叶斯赢！
东谈主们无意会品评第一个问题过于恍惚，题干中莫得提供满盈的信息来得出谜底。从某种意旨上说，这种品评是对的。但在本质中，我们往往会靠近访佛的情境，不得不依靠作念出合理的假定来处理问题。因此，为了让这个问题愈加严谨，我们将其从新表述如下：
我们有一个装了好多硬币的袋子。其中大部分是质料均匀的普通硬币，抛出正面或反面的概率均为 1/2。关联词，有比例为 p（假定 p 的值很小）的硬币吵嘴常的，它们两面皆是正面。要是抛掷这种硬币，出现正面的概率就是 1（这里假定硬币不会立在大地上）。我们从这个袋子里立时摸出一枚硬币，连抛 10 次，收敛每次皆是正面进取。那么，下一次抛掷它依然出现正面的概率是几许？
在这个更为严谨的情境下，我们简直不错料定，要是硬币每次皆掷出正面，那它极能够率是一枚存在偏向的硬币（即两面皆是正面的硬币）。在这种情况下，下一次抛掷敬佩照旧正面。哄骗贝叶斯推断这一奇妙的技艺，我们不错将这一推论表述得愈加精确，甚而还能看出它与比例 p 的大小有着怎样的相干。
要作念到这少许，我们需要引入事件的条目概率（conditional probability）这一主张。在前边设定的游戏中，存在几种可能发生的事件。其一即是“抽中一枚存在偏向的硬币”这一事件。我们将该事件记为 A，并用 P(A) 来清晰其发生的概率。将“抽中一枚均匀硬币”的事件记为 B，并用 P(B) 清晰该事件发生的概率。那么：
我们往往将这种概率称为先验信息（prior information）。惟有在对这枚硬币一无所知的情况下，P (A) = p 这一等式才确立。这是在获取任何实测数据之前，硬币存在偏向的概率。
一朝首先抛掷硬币，我们就会对它有更多的了解，并随之修正先验信息，从而得出对于该系统的所谓后验学问（a-posteriori knowledge）。手脚东谈主类，我们的大脑时刻皆在履历着这么的经过：不停采集对于周遭环境的感官信息，并据此在脑海中构建出对现时情状的阐明。这亦然机器进行学习并更新其对某个系统已有学问的经过。对于这类机器而言，竣事这仍是过的中枢器用恰是贝叶斯分析（Bayesian analysis）。接下来，就让我们望望它是如何阐明作用的。
假定我们有两个事件 A 和 B。条目概率 P(A|B) 指的是在已知县件 B 已经发生的前提下，事件 A 发生的概率。
举个例子，假定事件 A 为“集结抛掷 10 次硬币，每次皆是正面进取”，事件 B 为“我们抽中了一枚两面皆是正面的硬币”，而事件 C 为“我们抽中了一枚质料均匀的普通硬币”。稍作想考就会发现：
这是因为那枚硬币两面皆是正面，是以它每次抛掷势必皆会出现正面。另外，正如我们在前边已经缱绻过的，我们还不错得出：
你不错彰着看出，P(A|B) 要比P(A|C) 大得多。
贝叶斯是若何说的
对于条目概率有一个通用公式。要是用 P(A and B) 来清晰事件 A 和事件 B 同期发生的概率，那么公式就是：
但是，P(A and B) 与 P(B and A) 显着是消除趟事，根据上述公式，它相似等于P(B)P(A|B)。这也就意味着：
由中间的等式可得：
这个收敛就是盛名的“贝叶斯定理”（Bayes' theorem）。它由托马斯·贝叶斯牧师（Revd. Thomas Bayes）建议，并由英国皇家学会（Royal Society）以《论掂量机遇问题的求解》（An Essay towards solving a Problem in the Doctrine of Chances）为题于 1763 年阐扬发表。
托马斯·贝叶斯（1701-1761）
贝叶斯并不算是一位劳动数学家，尽管他对形而上学和统计学有着浓厚的兴味。但是，贝叶斯定理却是通盘数学边界最伏击的效果之一！它不仅在概率论和统计学中居于中枢肠位，在卫星跟踪（或简直任何其他贪图的跟踪）、考古学、国法系统、现象学，甚而在大名鼎鼎（让东谈主又爱又恨）的蒙提霍尔问题（即盛名的“三门问题”）等天渊之别的边界中，皆有着罪有攸归的应用。它更是构建通盘机器学习边界的基石。
我们不错用无为的谈话来证明这个定理为怎样此伏击。假定事件 B 是我们真实感兴味的筹商对象，而事件 A 是我们为了进一步了解 B 所进行的实验。P(B) 就是我们在进行实验之前对事件 B 掌持的“先验学问”；而 P(B|A) 则是实验之后我们对 B 获取的“后验学问”。贝叶斯定理为我们提供了一条从先验学问通往后验学问的桥梁。我们成效地从数据中推断出了背后的真相，这恰是“贝叶斯推断”一词的由来。当我们想要弄了了一个无法班师测量的系统里面正在发生什么，况兼必须依靠盘曲的测量收敛来进行推论时，这种想想在科学筹商的各个方面皆会被一遍又一随处反复哄骗。
硬币存在偏向的概率有多大？
手脚例子，目前让我们把这个定理当用到率先的问题上，在不班师稽查硬币的情况下，推断这枚硬币是否两面皆是正面。我们这里重申一下设定，事件 A 为“集结掷出 10 次正面”，事件 B 为“我们抽中了一枚两面皆是正面的硬币”。
我们已经知谈 P(A|B)=1，况兼 P(B)=p。因此，为了缱绻出 P(B|A)（也就是在已知集结掷出 10 次正面的前提下，这枚硬币两面皆是正面的概率），我们需要先算出 P(A)。P(A) 代表的是：从袋子里立时摸出一枚硬币，抛掷后集结出现 10 次正面的总概率。这里需要酌量两种互斥的情况。第一种情况是，我们抽中了一枚两面皆是正面的硬币，然后掷出了十次正面。这种情况发生的概率，其实就等于抽中这枚问题硬币的概率 P(B)（因为一朝抽中它，掷出十次正面就是板上钉钉的事了）。第二种情况是，我们抽中了一枚质料均匀的普通硬币（我们将此事件记为 C），然后掷出了十次正面。在这种情况下，掷出十次正面的概率就是两个单独概率的乘积：P(A|C)P(C)。因此，掷出十次正面的总概率 P(A)，就是这两种互斥情况的概率之和：
我们刚才已经算出了这里通盘的项：P(B)=p，P(A|C) = 1 / 1024，以及 P(C) = 1-p。因此：
目前，我们不错完成临了的缱绻，得出在“集结掷出 10 次正面”的前提下，这枚硬币两面皆是正面的概率为：
为了让你对这个概率的具体大小有个直不雅感受，假定我们有一个装了 100 枚硬币的袋子，ued中国官网其中惟有一枚是两面全为正面的问题硬币。那么，p = 1 / 100。在这种情况下，已知硬币集结掷出 10 次正面，它是问题硬币的概率就酿成了：
也就是说，这枚硬币存在偏向的概率高达 91%。对于大大皆东谈主来说，这个可能性已经相配有主理了。是以不错看到，在贝叶斯定理的哄骗下，底本仅有 1% 的“硬币存在偏向”的先验概率被更新为了 91%。
再次掷出正面的概率是几许？
目前，我们终于不错回及其来回应率先建议的阿谁问题了。在已经集结掷出 10 次正面的前提下，下一次掷出正面的概率究竟是几许？
要是这是一枚问题硬币（即事件 B），那么下一次掷出正面的概率势必是 1。因此，基于现存的不雅察数据（连出 10 次正面），下一次掷出正面且硬币如实存在偏向的概率为：
要是这枚硬币是质料均匀的普通硬币（即事件 C），那么下一次掷出正面的概率就是 1/2。因此，基于现存数据，下一次掷出正面且硬币毫无偏向的概率为：
在第 11 次抛掷这枚硬币时，再次出现正面的总概率，就是上述这两个互斥事件概率的总额：
我们之前已经算出了 P(B|A) 的值，而 P(C|A) 浅显来说就是 1- P(B|A)。因此，下一次再次掷出正面的概率就酿成了：
要是 p = 1 / 100，那么P(再次掷出正面) = 0.955，约为96%。对于大大皆本色情况来说，这个概率已经满盈接近于 1 了。
鄙人图中，我们将 P(再次掷出正面)画图为了 p 的函数。你不错了了地看到，惟有当 p 小到极其细微的进度时，P(再次掷出正面) 才会与 1 产生彰着的差距。因此，我们完全有底气说，率先阿谁问题的谜底就是，下一次出现正面的概率极端接近 1，即便我们其实并不知谈 p 的实在数值。
概率 P(再次掷出正面) 随 p 变化的弧线图。
后面，贝叶斯输！
在本质中，科学家们经常只可基于不完竣的数据来作念出预计，天气预告就是一个典型的例子。接下来，本文的后半部分将为你揭秘一项专为处分此问题而生的工夫——“数据同化”（data assimilation）。它能够在新信息的启发下更新开动预计，并充分酌量到一个本质情况：岂论是不雅测数据照旧率先的预计，其实皆是不完竣的。
在前边的章节中，我们学习了如何基于不雅测数据，哄骗贝叶斯定理来编削对某个事件发生概率的预计。我们举的例子是，一枚硬币集结十次掷出了正面。面对这么的数据，这枚硬币十有八九存在问题，因此第十一次掷出正面的概率，理当高于一枚普通均匀硬币那 50% 的概率。贝叶斯定理从数学上说明了我们的直观。
关联词，对于我们所不雅察到的现象，其实还存在另一种证明。硬币全皆公道莫得问题，真实出了问题的，是数据自身。举例，我可能在记载正反面的时期刚好摘下了眼镜。这下我根底两眼一抹黑分不清哪面是哪面，为了图省事儿，干脆把每次抛掷的收敛皆记成了正面。又或者，我明明看清了正反面，但是由于电脑系统出了故障，通盘的收敛全被强行录入成了正面。
这些恰是所谓仪器谬误（instrumentation error）的例子。在记载数据时，这类谬误其实并不生分（尽管在本质中经常不会像上述例子那么顶点）。要知谈，莫得任何数据记载迷惑是全皆完竣的，它们多几许少皆会出现一些偏差。
还有一种可能性是，我在记载数据时有益对你撒了谎。哪怕硬币掷出了好几次反面，我仍然向你伪装出它存在偏向的假象。在刑事案件的取证中，这种情况日出不穷，东谈主们经常必须在真假难辨的凭证和数据眼前，判断到底该不该信托某位证东谈主的证言。
于是，我们不得不面对这么一个问题：要是摆在眼前的数据不完全可靠，那么对于我们正在筹商的系统（比如这枚硬币到底是不是公道的），我们还能作念出什么有益旨的推断吗？
贝叶斯来救场
既然数据可能不太靠谱，要想准确揣摸系统的真实状态，我们就需要有办法来量度这些数据的可靠性。对于测量仪器来说，温度计就是个很好的例子。假定我们要测量某个本色温度 T，温度计每次给出的读数可能会有些许波动，但要是这些读数的平均值恰巧等于 T，我们就称这支温度计是“无偏的”（unbiased）。而这些读数的方差（variance）则反馈了它们在平均值高下分散的进度，这就为我们提供了一把评估测量收敛到底有多靠谱的标尺。要是方差很大，读数飘忽不定，我们在心里对这组数据的采信度就会打个扣头；反之，要是方差很小，我们就会愈加信任这些数据。通过这种神色，迎面对一份可能存在谬误的测量数据时，我们就能精确权衡出究竟需要对原有的预计作念出多猛进度的修正，从而完成对某个事件（先验）预计的更新。
这个经过，往往就被称为“数据同化”（data assimilation）。数据同化的绝妙之处在于，它能将“不太靠谱的预计”与“相似不太靠谱的数据”勾通起来，最终身长出一个比这两者皆要准确得多的全新预计！
现象学家们使用数据同化工夫已有节略二十年之久，这极大地擢升了天气预告的可靠性。表面上，要想根据今天的天气情状准确预告来日全球的天气，现象学家在今天就需要对通盘大气层的状态进行节略十亿次测量。但在本质中，这根底不可能办到，他们穷尽技巧，撑死也就只可完成节略一百万次测量。显着，单靠这点数据，远不及以了解今天的天气情状。
为了处分这个问题，现象学家们想出了一个办法。他们会先拿出昨天对今天所作念的天气预告，然后朝着今天本色不雅测数据的宗旨，对这份预告进行 “微调”（ nudge）。然后用修正后确当日天气预告，作念来日的天气预告。
数据同化恰是用来完成这种“微调”的，它的基本想路如下：现象学家根据昨天掌持的信息，对今天的天气作念出一个（先验）预计。同期，他们还要尽可能多地去测量今天的天气情状，比如看温度计（或者干脆班师瞅瞅窗外）。由于每次测量总会有些微细的相反，是以即即是一支全皆要领的“无偏”温度计，也会给出一系列可能的测量值。
另一方面，基于昨日天气对本日天气所作的预计相似也会存在谬误。本色上，是一大堆可能的谬误（毕竟我们的天气模子和缱绻才调还远远谈不上完竣），我们将这种预计谬误漫衍的方差记为 Epred。然后，把这份预计与我们目前能采集到的对至今天天气的（有限）不雅测数据放在一齐进行比对。虽然，这些不雅测数据自身亦然带有谬误的，我们将它的方差记为 Edata。
要是与 Edata比较，Epred的值较小，那么底本的预计只会朝着不雅测数据的宗旨“微调”少许点。无为点说，这是因为此时的预计收敛比今天本色测量的数据更可靠，是以我们不想过多地被今天的测量数据“带偏”。相背，要是 Epred比 Edata大得多，那我们就会在很猛进度上采信实测数据。
经过这番“微调”后得到的收敛，我们称之为“分析值”，记为 A。这个分析值奥秘地兼顾了原始预计和实测数据，是对今天天气情状作念出的最好揣摸。拿着这个分析值，天气预告员就不错去预计接下来几天的天气了。
数据同化经过暗示图。粉色椭圆代表预计收敛及其可能存在的谬误边界，橙色椭圆则代表不雅测数据及其可能存在的谬误边界。数据同化将原始预计朝着不雅测数据的宗旨进行了“微调”，使得最终收敛既落入原始预计的谬误椭圆之内，又同期落在了不雅测数据的谬误椭圆之中。
这种将不雅测数据同化到天气预计中的想法（在专科方面养殖出了3 DVAR（三维变分）、4 DVAR（四维变分）以及聚集卡尔曼滤波（Ensemble Kalman Filtering）等具体技艺），恰是英国现象局（Met Office）、欧洲中期天气预告中心（ECMWF）以及全球各地现象中心每天为我们准确预告天气的要津。
现象学中数据同化经过暗示图
在这个案例，以及其他数据同化的应用场景里，贝叶斯定理饰演的脚色就是，它能精确地告诉我们，“微调”的幅度到底需要多大。它在新数据的启发下不停更新预计，并奢睿地兼顾到了一个本质情况，也就是，岂论是不雅测数据照旧原始预计，皆是不完竣的。我们不错利用它来编写出一套算法，从而找到阿谁最好预计。
极其成效的‘卡尔曼滤波’工夫也哄骗了相似的理念，即系统性地将系统已有阐明与绵绵不停的数据流勾通起来。该工夫率先是为了跟踪卫星而发明的，如今却已普及到了千门万户，过去应用于包括飞机导航系统和你口袋里的智高手机在内的无数迷惑中。这种想法还进一步被应用在了当代机器学习边界，其中复杂的神经蚁合恰是在海量（且可能并不完全可靠的）数据的“投喂”下不停袭取考验，从而学会去引申各式琳琅满目的任务。
不错绝不夸张地说，我们如今的当代天下，恰是建立在贝叶斯定理及其无数神奇应用的基础之上。
策动制作
开始丨中科院物理所（id:cas-iop）ued中国官网
发布于：北京市九游体育(NineGameSports)官网
备案号: