内积
- 定义 ：内积是一种常见的特征交叉方法，它通过计算两个向量对应元素的乘积之和来得到一个标量值，用于衡量两个向量的相似度或相关性
- 公式 ：对于两个向量\(\mathbf{x}=(x_1,x_2,\cdots,x_n)\)和\(\mathbf{y}=(y_1,y_2,\cdots,y_n)\)，它们的内积表示为：
$$\langle\mathbf{x},\mathbf{y}\rangle=\sum_{i = 1}^{n}x_iy_i$$
Hadamard积
- 定义 ：Hadamard积是两个相同维度的向量或矩阵对应元素相乘的运算，结果是与原向量或矩阵同维度的向量或矩阵，它在一些机器学习模型中用于特征的逐元素组合
- 公式 ：若\(\mathbf{x}=(x_1,x_2,\cdots,x_n)\)和\(\mathbf{y}=(y_1,y_2,\cdots,y_n)\)，则它们的Hadamard积为：
$$\mathbf{x}\odot\mathbf{y}=(x_1y_1,x_2y_2,\cdots,x_ny_n)$$
BilinearCross积
- 定义 ：BilinearCross积是一种双线性特征交叉方式，它通过一个矩阵来对两个向量进行交叉操作，能够捕捉到特征之间更复杂的交互关系
- 公式 ：设\(\mathbf{x}\in\mathbb{R}^m\)，\(\mathbf{y}\in\mathbb{R}^n\)，交叉矩阵为\(\mathbf{W}\in\mathbb{R}^{m\times n}\)，则BilinearCross积表示为：
$$\mathbf{x}^T\mathbf{W}\mathbf{y}=\sum_{i = 1}^{m}\sum_{j = 1}^{n}w_{ij}x_iy_j$$ - 以上定义也称为BilinearCross内积 ，同理可以定义BilinearCross外积 ：
$$\mathbf{x}\odot(\mathbf{W}\mathbf{y})$$