Math——一些常见概率分布

二项分布 ：是 $p$ 次独立重复试验中成功的次数的离散概率分布，其中每次试验只有两种可能结果（成功或失败），成功概率为 $p$ ，失败概率为 $1-p$ ，其概率公式为：
$$P(X = k)=C_{n}^{k}p^{k}(1 - p)^{n - k}$$
- 其中 $X$ 表示成功的次数， $k$ 是具体的成功次数， $C_{n}^{k}$ 是组合数
举例：如抛硬币 $n$ 次，正面朝上的次数；多次独立射击，命中目标的次数等

多项分布 ：是二项分布的推广，用于描述在 $n$ 次独立试验中，每次试验有 $k$ 种互斥且完备的结果，每种结果出现的概率分别为 $p_{1},p_{2},\cdots,p_{k}$ ，且 $\sum_{i = 1}^{k}p_{i}=1$ ，其概率公式为：
$$P(X_{1}=n_{1},X_{2}=n_{2},\cdots,X_{k}=n_{k})=\frac{n!}{n_{1}!n_{2}!\cdots n_{k}!}p_{1}^{n_{1}}p_{2}^{n_{2}}\cdots p_{k}^{n_{k}}$$
- 其中 $X_{i}$ 表示第 $i$ 种结果出现的次数， $n_{i}$ 是具体的次数， $n=\sum_{i = 1}^{k}n_{i}$
举例：如掷骰子多次，统计每个点数出现的次数；对人群进行分类调查，统计各类人群的数量等
多项分布与二项分布的区别：二项分布是针对只有两种结果的重复试验；多项分布是二项分布的推广，用于多种结果的重复试验

分类分布 ：也叫范畴分布，是一种离散概率分布，用于描述一个随机变量在有限个类别中的取值概率。它是多项分布在 $n = 1$ 时的特殊情况，其概率公式为：
$$P(X = i)=p_{i}$$
- 其中 $X$ 表示随机变量， $i$ 表示类别， $p_{i}$ 是类别 $i$ 出现的概率， $\sum_{i = 1}^{k}p_{i}=1$
举例：如一次抽奖，有多种奖品，抽到每种奖品的概率；对一个物体进行分类，它属于不同类别的概率等
注：强化学习中，离散动作的分布常常使用分类分布来表示（部分文献也称RL中的离散动作分布为广义伯努利分布）

广义伯努利分布 ：是伯努利分布的推广，允许试验结果有多种，且每种结果的概率可以不同。它将伯努利分布从两种结果扩展到了多种结果的情，其概率公式为：
$$P(X = x_{i})=p_{i}$$
- $X$ 是取值于 ${x_{1},x_{2},\cdots,x_{k}}$ 的随机变量，$i = 1,2,\cdots,k$ ，且 $\sum_{i = 1}^{k}p_{i}=1$
举例：在一些多结果的单次试验场景中，如一次考试学生的成绩等级（优、良、中、差等）的概率分布
注：强化学习中，离散动作的分布常常使用分类分布来表示（部分文献也称RL中的离散动作分布为广义伯努利分布）

二项分布是针对只有两种结果的重复试验（每次实验只有两种结果）；
多项分布是二项分布的推广，用于多种结果的重复试验（每次实验有多种结果）；
分类分布是多项分布在单次试验下的特殊情况；
广义伯努利分布也是对伯努利分布的推广，更侧重于单次试验有多种结果的情况，与分类分布类似，但表述上更强调对伯努利分布的扩展
- 分类分布和广义伯努利分布形式相同，代码实现上也完全相同

Math——函数空间总结

最近在看一些书籍时看到一些函数空间的定义，本科学过一些，但是由于不常用忘得差不多了，本文总结一下希尔伯特空间、欧几里得空间和巴拿赫空间等函数空间的概念，本文是对相关概念的基础理解，非专业定义

欧几里得空间、希尔伯特空间和巴拿赫空间属于函数空间。函数空间 = 元素 + 规则，即一个函数空间由元素与元素所满足的规则定义

距离：是指在一个空间中，两个元素之间的某种度量，表示它们之间的“远近”关系。对于集合 $X$ 中的任意两个元素 $x,y$ ，距离函数 $d(x,y)$ 需要满足非负性、对称性、三角不等式等性质

线性：在数学中，线性意味着满足可加性和数乘性。对于空间 $V$ 中的元素 $x,y$ 以及标量 $a,b$ ，若 $ax + by$ 也属于 $V$ ，则称 $V$ 具有线性性质
简单理解：若一个空间为线性空间，只要我们知道了此空间的所有基，便可以用加法与数乘表示这一空间所有的元素

内积：是两个向量之间的一种运算，它将两个向量映射为一个标量。对于向量 $x,y$ ，内积 $\langle x,y\rangle$ 满足共轭对称性、线性性、正定性
内积空间都是赋范空间
有限维内积空间便是我们最熟悉的欧几里得空间

完备性 ：一个空间是完备的，是指该空间中的任何柯西序列都收敛于该空间中的某个元素。柯西序列是指随着序列的推进，序列中的元素之间的距离越来越小，最终趋于零
柯西序列的定义和性质：
- 柯西序列定义 ：设 $(X, d)$ 是一个度量空间， ${x_n}$ 是 $X$ 中的一个序列。如果对于任意给定的正数 $\epsilon>0$ ，存在正整数 $N$ ，使得当 $m, n>N$ 时，都有 $d(x_m, x_n)<\epsilon$ ，则称序列 ${x_n}$ 是一个柯西序列（Cauchy sequence）。直观地说，柯西序列中的元素随着序号的增大，彼此之间的距离会越来越小，最终可以任意小
- 柯西序列性质 ：
  - 有界性 ：在度量空间中，柯西序列一定是有界的。即存在一个正数 $M$ 和一个点 $x_0\in X$ ，使得对于所有的 $n$ ，都有 $d(x_n, x_0)\leq M$ 。
  - 唯一性 ：在完备度量空间中，柯西序列的极限是唯一的。也就是说，如果一个柯西序列收敛，那么它只能收敛到一个点
对完备性的简单理解：对集合中的元素取极限不超出此空间便称其具有完备性