概率论历史上第一个极限定理属于伯努利，后人称之为“大数定律”。概率论中讨论随机变量序列的算术平均值向随机变量各数学期望的算术平均值收敛的定律。在随机事件的大量重复出现中，往往呈现几乎必然的规律，这个规律就是大数定律。通俗地说，这个定理就是，在试验不变的条件下，重复试验多次，随机事件的频率近似于它的概率。偶然中包含着某种必然。大数定律分为弱大数定律和强大数定律。
例如，在重复投掷一枚硬币的随机试验中，观测投掷了n次硬币中出现正面的次数。不同的n次试验，出现正面的频率（出现正面次数与n之比）可能不同，但当试验的次数n越来越大时，出现正面的频率将大体上逐渐接近于1/2。又如称量某一物体的重量，假如衡器不存在系统偏差，由于衡器的精度等各种因素的影响，对同一物体重复称量多次，可能得到多个不同的重量数值，但它们的算术平均值一般来说将随称量次数的增加而逐渐接近于物体的真实重量。几乎处处收敛与依概率收敛不同。生活例子：开始上课了，慢慢地大家都安静下来，这是几乎处处收敛。绝大多数同学都安静下来，但每一个人都在不同的时间不安静，这是依概率收敛 [1] 。还有大数定律在保险业应用也十分广泛。大数定律又称大数法则。人们在长期的实践中发现，在随机现象的大量重复中往往出现几乎必然的规律，即大数法则。此法则的意义是：风险单位数量愈多，实际损失的结果会愈接近从无限单位数量得出的预期损失可能的结果。据此，保险人就可以比较精确的预测危险，合理的厘定保险费率，使在保险期限内收取的保险费和损失赔偿及其它费用开支相平衡。大数法则是近代保险业赖以建立的数理基础。保险公司正是利用在个别情形下存在的不确定性将在大数中消失的这种规则性，来分析承保标的发生损失的相对稳定性。按照大数法则，保险公司承保的每类标的数目必须足够大，否则，缺少一定的数量基础，就不能产生所需要的数量规律。但是，任何一家保险公司都有它的局限性，即承保的具有同一风险性质的单位是有限的，这就需要通过再保险来扩大风险单位及风险分散面 [2] 。