概述¶
目前我了解的方法基本上采用 有标记数据上的监督学习（如CrossEntropy) + 无标记数据上的无监督学习， 即:
$$ loss_{semi} = loss_{labelled data} + loss_{unlabelled data} $$
有标记数据可使用通用的监督学习方法求LOSS， 而无标记数据一般是要使得噪音noise、扰动pertubation造成的输出变化最小。
VAT¶
扰动大小、幅度受限$||r|| < \eps$， 找到输出变化最大的扰动（方向）
目前我了解的方法基本上采用 有标记数据上的监督学习（如CrossEntropy) + 无标记数据上的无监督学习， 即:
$$ loss_{semi} = loss_{labelled data} + loss_{unlabelled data} $$
有标记数据可使用通用的监督学习方法求LOSS， 而无标记数据一般是要使得噪音noise、扰动pertubation造成的输出变化最小。
扰动大小、幅度受限$||r|| < \eps$， 找到输出变化最大的扰动（方向）