文本适用于anaconda,miniforge等包含conda的所有软件
./envs目录下，按照虚拟环境名称命名piplib/python3.10/site-packagepip show [package_name]判断which python的结果一致，如果有问题可以修改到指定目录（特别是手动迁移conda管理的虚拟环境时）envs文件下下的指定环境目录即可，迁移后记得修改pip/pip3文件对应的第一行路径Anaconda安装和使用
检查conda版本
1 | conda --version |
升级版本
1 | conda update conda |
创建环境
1 | conda create --name your_env_name python=3.6 |
激活环境
1 | source activate your_env_name # On Windows, remove the word 'source' |
列出所有环境
1 | conda info --envs |
退出当前环境
1 | source deactivate # On Windows, remove the word 'source' |
复制一个环境
1 | conda create -n new_env_name --clone old_env_name |
删除环境
1 | conda remove -n your_env_name |
查看已经安装的包
1 | conda list |
向指定环境中安装包
1 | conda install --name your_env_name package |
--name参数，package默认安装到当前环境中--name参数安装conda和pip对包的管理有什么区别？
| 管理工具 | conda | pip |
|---|---|---|
| 使用环境 | conda环境 | 任意平台 |
| 包语言 | 任意语言 | Python语言 |
conda
安装包
1 | # 从虚拟环境 your_env_name 中安装 packge_name包 |
删除包
1 | # 在虚拟环境 your_env_name 中删除 package_name包 |
pip
安装包
1 | # 安装包到默认路径 |
卸载包
1 | # 删除包 |
查看已经安装的包
1 | # 列出所有包 |
升级包
1 | pip install --upgrade package_name |
关于conda 命令更多详情参考Anaconda——安装和常用命令
np.inner(w,x)即可求解能够正确划分训练数据集并且几何间隔最大的分类超平面(分离超平面)
定义约束优化问题:
$$
\begin{align}
&\max_{w,b} \quad \gamma \\
&s.t. \quad y_{i} (\frac{w}{||w||}\cdot x_{i} + \frac{b}{||w||}) \geq \gamma, i = 1,2,\dots,N
\end{align}
$$
将 \(\gamma = \frac{\hat{\gamma}}{||w||}\) 带入并在条件中消去分母上的 \(||w||\)，得
$$
\begin{align}
&\max_{w,b} \quad\frac{\hat{\gamma}}{||w||} \\
&s.t.\quad y_{i} (w\cdot x_{i} + b) \geq \hat{\gamma}, i = 1,2,\dots,N
\end{align}
$$
上面的式子中,函数间隔 \(\hat{\gamma}\) 的值不影响最优化问题的解,于是我们设置 \(\hat{\gamma}=1\)
进一步分析,由于最大化 \(\frac{1}{||w||}\) 与最小化 \(\frac{1}{2}||w||^{2}\) 等价(这里 \(w\) 为行向量时, \(||w||^{2} = ww^{T}\)), 最优化问题可等价表示为:
$$
\begin{align}
&\min_{w,b}\quad \frac{1}{2}||w||^{2} \\
&s.t.\quad y_{i} (w\cdot x_{i} + b) \geq 1, i = 1,2,\dots,N
\end{align}
$$
$$
\begin{align}
\min_{w,b}L(w,b,\alpha) &= \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) + \sum_{i=1}^{N}\alpha_{i}(1-y_{i}(\left [\sum_{j=1}^{N}\alpha_{j}y_{j}x_{j}\right]\cdot x_{i} + b)) \\
&= \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) - \sum_{i=1}^{N}\alpha_{i}y_{i}\left [\sum_{j=1}^{N}\alpha_{j}y_{j}x_{j}\right]\cdot x_{i} + \sum_{i=1}^{N}\alpha_{i}y_{i}b + \sum_{i=1}^{N}\alpha_{i}\\
&= \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) - \sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}y_{i}\alpha_{j}y_{j}(x_{j}\cdot x_{i}) + \sum_{i=1}^{N}\alpha_{i}y_{i}b + \sum_{i=1}^{N}\alpha_{i}\\
&= -\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) + 0 + \sum_{i=1}^{N}\alpha_{i}\\
&= -\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) + \sum_{i=1}^{N}\alpha_{i}
\end{align}
$$
上面的 \(\min_{w,b}L(w,b,\alpha)\) 对 \(\alpha\) 求极大值有:
$$
\begin{align}
\max_{\alpha} \quad &-\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) + \sum_{i=1}^{N}\alpha_{i} \\
s.t. \quad &\sum_{i=1}^{N}\alpha_{i}y_{i} = 0 \\
\quad &\alpha_{i} \geq 0, i = 1,2,\dots,N
\end{align}
$$
转换为一般优化问题
$$
\begin{align}
\min_{\alpha} \quad &\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_{i}\alpha_{j}y_{i}y_{j}(x_{i}\cdot x_{j}) - \sum_{i=1}^{N}\alpha_{i} \\
s.t. \quad &\sum_{i=1}^{N}\alpha_{i}y_{i} = 0 \\
\quad &-\alpha_{i} \leq 0, i = 1,2,\dots,N
\end{align}
$$
假设上面的式子能够求得 \(\alpha\) 的解为:
$$
\begin{align}
\alpha^{\star} = (\alpha_{1}^{\star}, \alpha_{2}^{\star},\dots, \alpha_{N}^{\star})
\end{align}
$$
根据拉格朗日对偶问题与原始问题的解对应的条件,Math——凸优化问题和拉格朗日对偶性,如果上面的式子中存在下标 \(j\)，满足 \(-\alpha_{j}^{\star} < 0\)，即满足:
$$\exists j \quad \alpha_{j}^{\star} > 0$$
那么最终可求得:
$$
\begin{align}
&w^{\star} = \sum_{i=1}^{N}\alpha_{i}^{\star}y_{i}x_{i} \\
\end{align}
$$
\(b^{\star}\) 的表达式由 \(\alpha_{j}^{\star} > 0\)，和KKT条件 \(\alpha_{j}^{\star}(y_{j}(w^{\star}\cdot x_{j} + b^{\star})-1) = 0\) 可解得:
$$
\begin{align}
y_{j}(w^{\star}\cdot x_{j} + b^{\star})-1 = 0 \\
\end{align}
$$
注意到 \(y_{j}\in \{-1, 1\}\)，所以 \(y_{j}^{2}=1\)
$$
\begin{align}
y_{j}^{2}(w^{\star}\cdot x_{j} + b^{\star})-y_{j} = 0 \\
w^{\star}\cdot x_{j} + b^{\star} = y_{j} \\
\end{align}
$$
所以有
$$
\begin{align}
b^{\star} &= y_{j} - w^{\star}\cdot x_{j} \\
&= y_{j} - \sum_{i=1}^{N}\alpha_{i}^{\star}y_{i}(x_{i}\cdot x_{j})
\end{align}
$$
综合 \(w^{\star}\) 和 \(b^{\star}\) 的表达式,我们有分类超平面为:
$$
\begin{align}
w^{\star}x + b^{\star} &= 0 \\
\sum_{i=1}^{N}\alpha_{i}^{\star}y_{i}(x_{i}\cdot x) + b^{\star} &= 0
\end{align}
$$
分类决策函数为:
$$
\begin{align}
f(x) &= sign(w^{\star}x + b^{\star}) \\
f(x) &= sign\left (\sum_{i=1}^{N}\alpha_{i}^{\star}y_{i}(x_{i}\cdot x) + b^{\star}\right )
\end{align}
$$
是必要的
用户管理简单笔记
No protocol specified
1 | xhost + |
显示第一层目录大小（人类可读格式，如 M/G）
1 | du -sh */ |
du：统计当前目录下的第一级下，所有子目录/文件的磁盘占用；-s（--summarize）：只显示总大小（不列出子文件/子目录的详细大小）；-h（--human-readable）：用人类易读的单位（K/M/G）显示；*/：通配符，只匹配当前目录下的「第一层子目录」（结尾的 / 是关键，排除文件，只选目录）；du -h ./ --max-depth=1显示当前目录大小（人类可读格式，如 M/G）
1 | du -sh ./ |
du：统计当前目录的总磁盘占用-s（--summarize）：只显示总大小（不列出子文件/子目录的详细大小）；-h（--human-readable）：用人类易读的单位（K/M/G）显示；./：只匹配当前目录显示当前目录下，指定层级的目录磁盘占用情况
1 | # 以最大 2 级子文件夹为例（包括第一级） |
du：统计当前目录下的第一级下，所有子目录/文件的磁盘占用；-h（--human-readable）：用人类易读的单位（K/M/G）显示；./：只匹配当前目录--max-depth=2：最深到两级目录假设目标文件夹是 /path/to/dir
在执行删除前，先用 -print 检查匹配结果，确保不会误删：
1 | find /path/to/dir -type f -name "xxx.pt" -print |
find：递归查找文件/path/to/dir：替换为你的目标目录路径-type f：只匹配普通文件-name "xxx.pt"：匹配文件名为 xxx.pt-print：输出匹配结果删除上述匹配的文件：
1 | find /path/to/dir -type f -name "xxx.pt" -delete |
-delete：直接删除匹配到的文件补充：如果需要匹配所有以 .pt 结尾的文件（比如 model.pt、xxx.pt 等），可以这样写：
1 | find /path/to/dir -type f -name "*.pt" -delete |
以合并前缀相同的 .jsonl 文件为例：
1 | ls -1 /user/prefix_* | grep -E "/user/prefix_[0-9]+\.jsonl" | sort -V | xargs cat > path_to_output |
ls -1 /user/prefix_* | grep -E "/user/prefix_[0-9]+\.jsonl" | sort -V 可以按照顺序打印文件名称sort -V 参数梯度方向是函数局部上升最快的方向
