大数定理简单来说，指得是某个随机事件在单次试验中可能发生也可能不发生，但在大量重复实验中往往呈现出明显的规律性，即该随机事件发生的频率会向某个常数值收敛，该常数值即为该事件发生的概率。另一种表达方式为当样本数据无限大时，样本均值趋于总体均值。因为现实生活中，我们无法进行无穷多次试验，也很难估计出总体的参数。大数定律告诉我们能用频率近似代替概率；能用样本均值近似代替总体均值。
大数定律有这么几个版本：
1、伯努利大数定理：从定义概率的角度，揭示了概率与频率的关系，当N很大的时候，事件A发生的概率等于A发生的频率。
2、辛钦大数定理：揭示了算术平均值和数学期望的关系。当Xi为服从0-1分布的随机变量时，辛钦大数定律就是伯努利大数定律，故伯努利大数定律是辛钦伯努利大数定律的一个特例。
3、切比雪夫大数定律：揭示了样本均值和真实期望的关系。相较于辛钦大数定律，切比雪夫大数定理并未要求同分布，更具一般性。