DL——不可导函数的可导近似


AUC的近似


其他特殊函数-采样

  • 实际上,可以把采样也看做一个不可导函数,采样的可导近似方法一般称为重参数化技巧
  • 采样包含连续型分布采样和离散分布采样,分别有不同的重参数化技巧
  • 离散分布采样的一种重参数化技巧叫做Gumbel softmax trick(其中使用到了argmax函数的可导近似函数softmax)
  • 详情可参考DL——重参数化技巧